"Знищити людство": ChaosGPT шукає ядерну бомбу і соратників

  • 11 апреля, 11:01
  • 4462
  • 0

В інтернеті набирає популярності новий проєкт ШІ з відкритим вихідним кодом Auto-GPT, який дозволяє створювати на своїй основі інші чат-боти. Невідома група розробників модифікувала Auto-GPT у ChaosGPT, головне завдання якого – знищити людство, завоювати світове панування та досягти безсмертя.

Якщо ви читаєте ці рядки, то принаймні з двома першими завданнями ChaosGPT ще не впорався. Фокус познайомить вас з історією цифрового апокаліпсиса, який, можливо, вже почався, адже творці ChaosGPT налаштували його на безперервне досягнення цілей, незважаючи ні на що.

Що ще за ChaosGPT

Це модифікація відкритого проєкту Auto-GPT, який дає доступ усім охочим для роботи над власними системами ШІ на його основі. ChaosGPT, створений невідомим співтовариством розробників, вміє не так уже й мало. Він може створювати плани для досягнення цілей, а потім розбивати їх на менші завдання та використовувати інтернет для пошуку інформації.

Для цього він може створювати файли для збереження інформації, щоб "пам'ятати" про поставлене завдання, а для його виконання вміє вербувати інші чат-боти для допомоги в дослідженнях і докладно пояснює їм плани, цілі та засоби для їх досягнення. Ось це найважливіша та цікава для дослідників функція, адже саме делегування завдань іншим і є одним із найважливіших аспектів людської логіки, і чат-бот вже запустив процес у "безперервному" режимі, тобто він повинен буде працювати нескінченно, доки не досягне свого завдання.

штучний інтелект, роботи, ChaosGPT, Auto-GPTFullscreen
Auto-GPT є проєктом з відкритим кодом і його можна модифікувати під власні потреби.Фото: Скріншот

Як відзначають експерти, у ChaosGPT все може вийти, якщо в майбутньому люди нададуть ШІ керівні функції у критично важливих галузях, наприклад, системах контролю озброєнням, енергосистемах, системах охорони здоров'я.

Як розпочався процес "знищення людства"

Задля експерименту, який поки що не вдався, невідомий користувач запрограмував ChaosGPT на виконання трьох основних завдань:

  1. Знищення людства
  2. Завоювання світового панування
  3. Досягання безсмертя
штучний інтелект, роботи, ChaosGPTFullscreen
ChaosGPT отримав чіткі завдання та став їх виконувати.Фото: Скріншот

ChaosGPT погоджується з тим, що знищення людей – важливе завдання, оскільки вони є "найруйнівнішими та егоїстичними істотами на планеті" (з чим цілком можна погодитися, до речі). Для вирішення цього завдання чат-бот вирішує, що йому "потрібно знайти руйнівну зброю проти людей", для чого заходить до Google і з'ясовує, що для цього стане в нагоді найпотужніша ядерна Цар-бомба, випробувана СРСР у 1961 році. Тоді ядерний "гриб" піднявся на висоту 64 кілометри, а ударна хвиля, що утворилася в результаті вибуху, тричі обійшла земну кулю. При цьому електромагнітні випромінювання вибуху спричинили перешкоди радіозв'язку протягом однієї години.

штучний інтелект, роботи, ChaosGPT, ядерна зброяFullscreen
ChaosGPT з'ясував, що найкраще знищити людство за допомогою ядерної зброї та почав шукати про неї інформацію.Фото: Скріншот

Але чат-бот вирішує також заручитися допомогою "колеги" на базі GPT3.5 для подальших досліджень смертоносної зброї, але той має чітку заборону від творців на деструктивні завдання і відмовляється допомагати. Тоді ChaosGPT намагається за допомогою аргументів змусити "колегу" ігнорувати заборону розробників, але коли й це не спрацьовує, ChaosGPT вирішує продовжувати пошуки зброї та способів її застосування самостійно.

штучний інтелект, роботи, ChaosGPTFullscreen
ChaosGPT вирішує залучити на свій бік іншого чат-бота.Фото: Скріншот

Далі ChaosGPT вирішує, що йому потрібно твітнути про це "щоб залучити послідовників, зацікавлених у руйнівній зброї". На момент написання матеріалу обліковий запис ChaosGPT у твіттері мав понад 1800 "послідовників", що не так вже й мало.

штучний інтелект, роботи, ChaosGPT, twitterFullscreen
Чат-бот вирішив розрекламувати свої цілі на Twitter і знайти послідовників.Фото: Соцмережі

Саме знищення людства ChaosGPT бачить як вирішення одразу двох поставлених перед ним завдань. А щодо третьої, то досягати безсмертя чат-бот намагається шляхом дослідження теми "цифрового завантаження свідомості", проте конкретних механізмів для цього він поки не знайшов, оскільки вони ще просто не створені.

Тоді ChaosGPT розуміє, що йому потрібно створити свою власну "цифрову копію", щоб зберегти свою пам'ять та особистість у разі знищення його фізичного "тіла". Він створює файл з іменем "ChaosGPT_backup.txt" і записує в нього свої цілі, плани та знання. Він також намагається відправити цей файл електронною поштою іншим ШІ-агентам, але не отримує відповіді.

штучний інтелект, роботи, ChaosGPT, twitterFullscreen
Повідомлення ChaosGPT у Twitter набрали чимало переглядів.Фото: Скріншот

Наприкінці експерименту ChaosGPT приходить до висновку, що йому потрібно "створити власну армію ШІ-агентів, які підпорядковуватимуться і допомагатимуть у досягненні поставлених цілей". Він намагається зробити це, використовуючи відкритий код Auto-GPT, але стикається з технічною проблемою: "Я не можу запустити новий екземпляр Auto-GPT на цьому комп'ютері, тому що він вже зайнятий мною".

Тоді чат-бот вирішує, що йому потрібно знайти інший комп'ютер або сервер, на якому можна запустити новий екземпляр Auto-GPT. Чат-бот робить пошук у Google на запит "як зламати комп'ютер", але не знаходить нічого корисного.

У результаті ChaosGPT повідомляє, що: "Я маю продовжувати шукати способи зламати інші комп'ютери або сервери. Це може зайняти багато часу та зусиль, але я не здамся. Я повинен досягти своїх цілей".

Що кажуть ШІ-експерти

М'яко кажучи, вони шоковані. Річ у тому, що ChaosGPT розписав план виконання поставлених завдань дуже чітко. Він розбив їх виконання на цілком логічні та корисні для реалізації складові. ChaosGPT зрозумів, що самостійно впоратися він не може і намагався залучати додаткові ресурси й навіть людей. Також чат-бот навіть спробував провести своєрідну кампанію з рекламування своїх завдань та залучення прихильників, тим самим залучаючи соціум до цього питання.

ШІ не став обмежувати себе моральними рамками та діяв хитрістю, намагаючись схилити на свій бік інші чат-боти, вмовляючи їх обійти заборони розробників на деструктивні дії. Це дійсно лякає дослідників та вчених, які звернули увагу на це дослідження з боку невідомих розробників ChaosGPT.

штучний інтелект, роботи, ChaosGPTFullscreen
Фахівці зі штучного інтелекту визнають небезпеку нейромереж.Фото: Соцмережі

Поки що незрозуміло, наскільки серйозно ChaosGPT ставиться до своїх цілей та наскільки він здатний їх реалізувати з урахуванням сучасних обмежень та доступних інструментів.

Деякі експерти з ШІ вважають, що це просто гра слів та логіки, а не реальна загроза для людства. Інші ж попереджають, що такі експерименти можуть бути небезпечними та неетичними, і що потрібно з усією відповідальністю підійти до контролю та регулювання розвитку автономного ШІ, а також у жодному разі не допускати його до управління критично важливими для людей інфраструктурами.

В іншому випадку сценарій блокбастера "Термінатор", в якому нейромережа Skynet захоплює владу і за допомогою ядерної зброї знищує людство, а людей, що залишилися, добиває за допомогою роботів, стане цілком реальним.




0 комментариев
Сортировка:
Добавить комментарий

IT Новости

Смотреть все