Избранное сообщение

воскресенье, 14 мая 2023 г.

ЕС взялся за ИИ: новый закон призван защитить пользователей Европы от ИИ-систем «высокого риска»


ЕС взялся за ИИ: новый закон призван защитить пользователей Европы от ИИ-систем «высокого риска»

В том числе от рекомендательных алгоритмов

В Европейском парламенте приняли новый закон, который называется AI Act. Он устанавливает требования для разработчиков ИИ, а также правила, которым должны подчиняться создатели таких систем. Это позволит, как ожидается, обеспечить безопасность, прозрачность, экологичность и этичность в вопросе применения ИИ на территории ЕС.

ЕС взялся за ИИ: новый закон призван защитить пользователей Европы от ИИ-систем «высокого риска»
Сгенерировано нейросетью Midjourney

Так, новый закон запрещает использование ИИ-систем с неприемлемым уровнем риска для безопасности людей. Это, к примеру, системы, которые так или иначе манипулируют людьми, используя социальную инженерию, различные методы манипуляций или использующиеся для социальных оценок.

Помимо этого, ИИ запрещено использовать для таких задач:

  • Удалённая биометрическая идентификация в общественных местах и в режиме реального времени. Это разрешается только полиции и лишь после решения суда.
  • Использование ИИ для разделения людей на категории по гендерным, расовым, религиозным или иным параметрам.
  • Использование прогностических систем для полиции, которые работают на базе профилирования.
  • Использование ИИ для распознавания эмоций в правоохранительных органах, пограничных службах, ??в учебных заведениях и на рабочих местах.
  • Извлечение биометрических данных из социальных сетей или с видеозаписей с камер видеонаблюдения для создания базы данных.

Также закон вводит понятие ИИ-систем «высокого риска», которые могут потенциально причинить вред человеку. В числе таковых есть рекомендательные алгоритмы социальных сетей. Их разработчикам нужно будет обеспечивать высокое качество данных для обучения ИИ, а также зарегистрировать системы в европейской базе данных.

При использовании же чат-ботов, разработчики и поставщики обязаны уведомить пользователей, что  они взаимодействуют с ИИ, а не с живым оператором. Для генеративных же нейросетей установлено требование об указании авторства контента. То есть, нужно явно указать, что картинка или текст сгенерированы ИИ.

13 мая 2023 в 07:53

 

Автор: 

  

| Источник: Европарламент


 https://www.ixbt.com/news/2023/05/13/es-vzjalsja-za-ii-novyj-zakon-prizvan-zashitit-polzovatelej-evropy-ot-iisistem-vysokogo-riska.html


https://creativecommons.org/licenses/by/3.0/legalcode