Группа официальных экспертов Европейского союза представила 52-страничный отчет «Политика и инвестиционные рекомендации для создания ИИ, заслуживающего доверия». Отчет рекомендует запретить разработку автоматических алгоритмов для оценки людей.

Специалисты, предложившие такое решение, составляют «Экспертную группу высокого уровня по вопросам искусственного интеллекта ЕС», созданную в январе 2018 года. В группу входят люди из Google, IBM, Оксфордского университета, других технологических и некоммерческих организаций, а также правозащитники.

По мнению Экспертной группы, любой «ИИ, позволяющий оценивать людей в массовых масштабах», должен быть запрещен. Ситуации же, в которых применение искусственного интеллекта допускается для выявления непосредственных угроз национальной безопасности, должны жестко регулироваться и контролироваться людьми.

Особенное внимание в отчете уделяется так называемой системе «социального рейтинга». Подобная система уже функционирует в Китае. Она действует примерно так же, как система экономического рейтинга, которую используют банки для определения надежности клиента. Система социального рейтинга автоматически анализирует, насколько «хорошим» является гражданин, основываясь на различных его поступках и поведении. И, по мнению экспертов, этот инструмент может быть легко использован для непропорционального принуждения или контроля.

Отчет утверждает, что странам ЕС следует воздержаться от «непропорционального [...] массового наблюдения за людьми», поскольку автоматические системы, нарушающие границы частной жизни, чрезвычайно опасны. По мнению экспертов, правительства ЕС должны приложить все усилия, чтобы ограничить разработку таких систем, и работать только с компаниями, которые обязуются уважать эти правила.

Речь, к слову, идет не только о службах безопасности и правительственном наблюдении, но и о коммерческих организациях, которые могут быть заинтересованы в сборе информации о людях. Эксперты прямо не называют компании, о которых идет речь, но очень похоже, что они имеют в виду социальные сети, в частности, Facebook.

Пока данный отчет является всего лишь предложением, не обязательным к исполнению. Тем не менее, складывается впечатление, что Евросоюз встает на защиту приватности и частной жизни более бескомпромиссно, чем любая другая страна в мире. Насколько эффективными и полезными окажутся эти рекомендации - увидим в будущем.