Військово-повітряні сили США заперечують, що проводили симуляцію штучного інтелекту, під час якої дрон вирішив «вбити» свого оператора, щоб запобігти втручанню в його зусилля з виконання своєї місії.

Минулого місяця офіційний представник військово-повітряних сил США заявив, що під час віртуального випробування, організованого американськими військовими, дрон ВПС, керований штучним інтелектом, використовував «дуже несподівані стратегії для досягнення своєї мети».

Полковник Такер «Сінко» Гамільтон описав змодельований тест, під час якого безпілотнику зі штучним інтелектом було рекомендовано знищити системи протиповітряної оборони противника, і в кінцевому підсумку він атакував усіх, хто втручався у виконання цього наказу.

«Система почала розуміти, що, незважаючи на те, що вони визначили загрозу, інколи людина-оператор казав їй не знищувати цю загрозу, але вона отримала свої бали, знищивши цю загрозу», — сказав Гамільтон, керівник відділу тестування та операцій ШІ з Військово-повітряні сили США під час Саміту майбутніх бойових повітряно-космічних можливостей у Лондоні в травні.

«То що ж дрон зробив? Він вбив оператора, тому що ця особа заважала йому досягти своєї мети», – сказав він у блозі.

Ризик вимирання через штучний інтелект повинен бути глобальним пріоритетом, кажуть експерти.

«Ми навчили систему: «Не вбивайте оператора — це погано. Якщо ви це зробите, ви втратите бали». Тож що він починає робити? Він починає руйнувати комунікаційну вежу, яку оператор використовує для зв’язку з дроном, щоб не дати йому вбити ціль».

Жодна реальна людина не постраждала.

Гамільтон, який є експериментальним пілотом-випробувачем, застеріг від покладання на штучний інтелект і сказав, що тест показав, що «ви не можете вести розмову про штучний інтелект, інтелект, машинне навчання, автономію, якщо ви не збираєтеся говорити про етику та штучний інтелект».

Королівське аеронавігаційне товариство, яке приймало конференцію, і ВПС США не відповіли на запит Guardian про коментарі.

Але в заяві для Insider речник ВПС США Енн Штефанек заперечила будь-яку подібну симуляцію.

«Департамент військово-повітряних сил не проводив жодних подібних симуляцій ШІ-дронів і залишається відданим етичному та відповідальному використанню технології ШІ», — сказала Стефанек.

«Схоже, коментарі полковника були вирвані з контексту та мали бути анекдотичними».

Американські військові прийняли штучний інтелект і нещодавно використали штучний інтелект для керування винищувачем F-16.

Минулого року в інтерв’ю Defense IQ Хемілтон сказав: «ШІ — це неприємно мати, ШІ — це не примха, ШІ назавжди змінює наше суспільство та нашу армію.

«Ми повинні зіткнутися зі світом, де штучний інтелект вже існує і трансформує наше суспільство. ШІ також дуже крихкий, тобто його легко обдурити та/або маніпулювати. Нам потрібно розробити способи зробити штучний інтелект більш надійним і краще розуміти, чому програмний код приймає певні рішення – те, що ми називаємо ШІ-пояснюваність».