Поскольку искусственный интеллект начал проникать во все сферы жизни общества, от предложений покупок и голосовых помощников до решений, касающихся найма, страхования и правоприменения, ЕС хочет обеспечить прозрачность технологий, развертываемых в Европе, под контролем человека и соответствие высоким стандартам для конфиденциальности пользователей.

Европейский союз готовится запретить системы искусственного интеллекта, используемые для массового отслеживания или ранжирования социального поведения, в то время как компании, разрабатывающие ИИ, могут столкнуться с штрафами до 4% от  дохода, если они нарушат новые правила, регулирующие программные приложения.

Правила ЕС будут включать следующие нормы:

1. Системы искусственного интеллекта, используемые для манипулирования поведением людей, использования информации об отдельных лицах или группах лиц, используемые для проведения социальной оценки или для неизбирательного отслеживания, будут запрещены на территории ЕС. Могут применяться некоторые исключения для общественной безопасности.
2. Системы удаленной биометрической идентификации, используемые в общественных местах, такие как распознавание лиц, потребуют специального разрешения властей.
3. Приложения искусственного интеллекта, которые считаются «высокорисковыми», должны будут пройти проверку перед развертыванием, чтобы убедиться, что системы обучены беспристрастным наборам данных, отслеживаемым образом и под контролем человека.
4. Искусственный интеллект с высоким уровнем риска будет относиться к системам, которые могут поставить под угрозу безопасность, жизнь или основные права людей, а также демократическим процессам ЕС, таким как беспилотные автомобили и удаленная хирургия.
5. Некоторым компаниям будет разрешено проводить оценку самостоятельно, тогда как другие будут подвергаться проверкам со стороны третьих лиц. Сертификаты соответствия, выданные органами по оценке, будут действительны до пяти лет.
6. Правила будут в равной степени применяться к компаниям, базирующимся как в ЕС или так и за рубежом.