Надінтелектуальний ШІ не може бути контрольований, попереджає звіт вчених із Європейського товариства Макса Планка.

Згідно зі звітом, опублікованим у Журналі досліджень штучного інтелекту, вчені з Європейського товариства Макса Планка досліджували можливості контролю над надінтелектуальним штучним інтелектом. У цьому дослідженні вони проаналізували, як людство може протистояти можливому сценарію, в якому надінтелектуальний ШІ намагається покінчити з людьми.

Результати дослідження не втішні: згідно з експертами, за наших сучасних технологій ми практично безсилі перед таким надінтелектуальним ШІ. Тому вчені пропонують розробити "алгоритм змісту", який може імітувати небезпечну поведінку надінтелектуального ШІ та запобігати його руйнівним діям.

Мануель Себріан, співавтор дослідження та керівник групи цифрової мобілізації у Центрі людей та машин суспільства Макса Планка, заявив, що існує ризик того, що "надінтелектуальна машина, яка контролює світ, стане неконтрольованою та небезпечною для людства". Він також зауважив, що існують машини, які виконують складні завдання без повного розуміння програмістами того, як вони цьому навчилися.

Хоча створення штучного інтелекту з такими можливостями наразі є тільки теоретичною можливістю, проте нова стаття додає важливий аргумент до дискусії, яку веде кампанія Stop Killer Robots, підтримувана такими видатними особистостями, як Ілон Маск та Ноам Хомскі.