Анонімний розробник створив власну версію ШІ-чат-бота під назвою WormGPT, який, на відміну від оригінального, призначений для нелегальних цілей та для допомоги кіберзлочинцям.

WormGPT був запущений у березні, але доступ до платформи став доступний для продажу на популярному хакерському форумі лише в червні. Цей хакерський чат-бот відрізняється від законних варіантів, таких як ChatGPT або Google Bard, оскільки він не має обмежень, що перешкоджають відповідям на запитання щодо незаконної діяльності. Розробник підтвердив це, надаючи знімки екрана, на яких видно, як можна запросити WormGPT написати шкідливий код на мові Python і отримати пораду щодо організації кібератаки. Під час створення цього чат-бота використовувалася велика мовна модель GPT-J з відкритим вихідним кодом, яка була трохи застарілою і датується 2021 роком. Модель була навчена на матеріалах, пов'язаних з розробкою шкідливого програмного забезпечення, і так народився WormGPT.

Після проведення тестів експертами компанії SlashNext, яка спеціалізується на кібербезпеці, було виявлено, що WormGPT може створювати фішингові електронні листи з метою компрометації корпоративної електронної пошти. Ці листи були переконливими і включали хитромудрі стратегічні ходи, спрямовані на успішне здійснення атаки.

За доступ до WormGPT розробник встановив ціну в €60 на місяць або €550 на рік. Незважаючи на це, продукт може ще потребувати поліпшень, оскільки один зі замовників висловив незадоволення щодо продуктивності платформи. Такі приклади є показником того, що генеративний штучний інтелект може бути використаний кіберзлочинцями як зброя, і у майбутньому подібні технології будуть удосконалюватися.