Автор материала: Алексей Воронков, руководитель по развитию правительственной программы Эстонии e-Residensy

Мир кардинально изменился с тех пор, когда машина была синонимом слова фабрика.

Техническая революция 2018−2022 годов стоит на четырех слонах: высокоскоростной интернет, к которому можно подключиться практически везде, искусственный интеллект, Big Data и облачные сервисы. Искусственный интеллект не игрушка и не герой фильмов «Матрица» или «Секретные материалы». Сферу его применения трудно ограничить протоколами с грифом «совершенно секретно». Искусственный интеллект — реальность и может даже получить гражданство. И как любая новая реальность, она требует регулирования законодательством.

Как правило, государство — не источник для поиска ИТ-инноваций. Поскольку риски высоки, ответственность колоссальная. Государство связано с конфиденциальностью, следовательно, с опасностью кибератак на серверы. Это может угрожать, как внутренней системе страны, так и ее авторитету на международной арене. Но Отт Велсберґ доказал, что это не так.

Специалист по данным Эстонии наблюдает за стремлением стран Балтии включить искусственный интеллект и машинное обучение в услуги для 1,3 млн граждан. В августе прошлого года правительство Эстонии наняло Велсберґа для запуска нового проекта по внедрению искусственного интеллекта в разные министерства для оптимизации услуг. Ведь философия эстонцев «человек должен делать только то, что наделено смыслом, остальное — можно доверить машине».

Вопросы искусственного интеллекта сложные и масштабные. Сюда можно включить ботов, которые заключают сделки на фондовой бирже, умные холодильники, что сами приобретают еду, автомобили, которые сами паркуются или Siri, которая покупает билеты в отпуск. Даже подборка фотографий в Instagram — это анализ ИИ ваших предыдущих предпочтений.

Искусственный интеллект — автономная система, которая способна выполнять задачи без вмешательства человека. Она принимает решение по аналогии человеческого мозга и способна пройти тест Тьюринга «может ли машина мыслить» или подобный ему.

Первый ключевой вопрос — автономия робота и степень участия третьих сторон управлении им. Фактически возникает правовой конфликт, ведь сам робот не может нести ответственность за свои действия или бездействие. Вопрос ответственности гораздо сложнее, чем просто указать пальцем на того, кто виноват, если ИИ ошибется. Алгоритм построен по аналогии интуитивного принятия решений человеком, но это все еще машина.

Возможность робота принимать решения зависит напрямую от кода, который написал разработчик. И сейчас ученые борются за расширение познавательных способностей машины. Поэтому искусственный интеллект довольно трудно привлечь к ответственности, потому что даже создатели алгоритмов точно не знают, почему он принял именно такое решение.

Искусственный интеллект не руководствуется привычными для человека причинно-следственными связями. Для машины ответ на вопрос «почему или что мешает мне мыслить правильно» очевиден, для человека — нет. Определение границ ответственности возможно, по мнению эстонцев, лишь при условии публичного обсуждения, ведь инновация повлияет на жизнь граждан, для которых технология — вопрос комфорта.

На основе анализа информации о человеке, искусственный интеллект может получить данные о человеке, недоступные даже для служб безопасности. Но в отличие от безопасности, за которой стоит государство, за ИИ всегда стоит человек, и что он будет делать с вашими данными знает только он.

Эстонцы не первые, кто пытается совместить искусственный интеллект и закон. Но они могут быть первыми, кто даст алгоритму полномочия по принятию решений. Эстония — проактивная страна. Здесь государственные услуги можно получить без взаимодействия с чиновниками. Цифровые государственные учреждения или «государство в смартфоне» — результат усердного труда с 1991 года. Совершенно очевидно, что вопрос о легализации искусственного интеллекта активно обсуждает эстонское правительство с гражданами. Это философия страны «ничего для нас без нас».

Эстония начала внедрение искусственного интеллекта в 13 государственных учреждениях, где алгоритм может заменить государственных служащих. До конца 2020 года на базе искусственного интеллекта планируют запустить 50 публичных сервисов. Например, инспекторы больше не проверяют фермеров, которые получают субсидии на очистку сенокосных полей каждое лето. Европейское космическое агентство еженедельно получает спутниковые снимки с мая по октябрь.

Далее эти фото анализирует алгоритм. Изображения накладывают на карту полей, на которые фермеры получают субсидии на заготовку сена. Алгоритм оценивает каждый пиксель фото и определяет: обрезан участок поля или нет. Если на участке пасется скот, это является поводом для проверки поля инспектором. За две недели до окончания срока покоса автоматизированная система посылает фермерам ссылки на спутниковый снимок их поля через текстовые сообщения или мейл. Система уже сэкономила 665 тыс. евро ($755 тыс.) за первый год, поскольку инспекторы меньше посещали поля и сосредоточились на других вопросах.

Тиндер для поиска работы — так можно назвать другой государственный сервис Эстонии. Его цель — подобрать работодателя и кандидата. Резюме человека регистрируется в базе данных, после чего алгоритмы анализируют вакансии и автоматически отправляют запрос на собеседование. Как результат, около 72% трудоустроенных остаются на позиции больше полугода. До внедрения системы эффективность центра занятости, когда вакансии подбирал человек, составляла 58%.

С заботой о маленьких гражданах правительство создало программу автоматического зачисления детей, рожденных в Эстонии, сначала в детский сад, позже — в школу. Родителям не нужно регистрироваться и стоять в очереди, чтобы устроить ребенка в учебное заведение. Информация о ребенке автоматически передается в нужные структуры через систему обмена данными X-Road, которая сохраняет ее на защищенных серверах.

Робот-судья может решать мелкие споры

Наиболее амбициозный проект Министерства юстиции Эстонии предлагает разработать «робота-судью», который мог бы решать споры по мелким претензиям на сумму менее 7 тыс. евро (около $8 тыс.). Это оставит время судьям и их помощникам для решения более важных с моральной точки зрения дел.

Сюда можно отнести споры относительно того, с кем должен остаться ребенок после развода родителей, которые одинаково на равных условиях могут обеспечивать его благосостояние. Также алгоритм не будут применять в спорах об отключении пациента от аппарата питания в реанимации, когда родители больного выступают «против», а законный супруг (а) — «за».

Некоммерческая независимая организация Watson 2016 Foundation пропагандировала интересную идею: вместо того, чтобы выбирать одного из кандидатов в президенты США, они предложили гражданам сделать выбор в пользу аналитической машины IBM Watson.

Ее возможности отдаленно, но напоминали работу искусственного интеллекта. За несколько лет до этого «машина Уотсон» была сервисом для избрания подарков на праздники или генератором рецептов для шеф-поваров. А к 2016 её научили принимать рациональные решения на основе данных аналитических центров. Так получили возможности, которые превосходят человеческие.

Искусственный интеллект только имитирует эмпатию

Искусственный интеллект не умеет чувствовать, у него отсутствует индивидуальная система ценностей. Для машины «хорошо» и «плохо» — это просто код. Тот случай, когда как напишешь, так оно и будет. Но даже наиболее совершенный код работает только в заданных параметрах. Человек, принимая решение, действует не только рационально, но оценивает ситуацию и контекст. Ведь человеческая природа — эмпатична. Мы сочувствуем, переживаем состояние других. Отсутствие эмпатии — это расстройство психики. Искусственный интеллект только имитирует эмпатию.

И это вызов для разработчиков: научить машину переживать опыт другого, как свой не на основе кода, а на основе анализа ситуации. Искусственный интеллект пока невозможно внедрить там, где работают с сочувствием или доверием. Он, к примеру, не приживется в детском доме в качестве воспитателя или в доме престарелых, которым не хватает тепла и общения. Чтобы «очеловечить» искусственный интеллект, необходимо ответить на вопрос «что делает человека человеком».

Искусственный интеллект на государственной службе — заманчивая идея, но кто за ней будет стоять? Это влечет за собой изменение правовых норм каждой конкретной страны. Машина — не самостоятельна, ее нужно обслуживать: писать обновления или исправлять сбои. Логичным становится требование формирования класса управленцев-технократов. Внедрение большего количества роботов с искусственным интеллектом в государственных службах, по мнению президента Эстонии Керсти Кальюланд, «позволит людям специализироваться на том, что машины никогда не смогут сделать».