Black Forest Labs, розташована в Німеччині, а не xAI Ілона Маска, стоїть за створенням скандального генератора зображень, що з'явився в чаті Grok-2.

Створення зображень людей — особливо відомих — дуже чутлива тема, яка викликала скандали навколо найбільших моделей штучного інтелекту у світі. Некоректні зображення людей змусили Google відключити можливість такої генерації для Gemini, а порнографічні фейки Тейлор Свіфт стали перевіркою на витривалість для Designer від Microsoft та інших моделей.

Але генератор зображень, представлений у бета-версії чат-бота Grok від компанії Ілона Маска xAI, здається, і не намагається врегулювати створення реалістичних фейків за участю відомих людей. Власники підписки Premium, яка надає доступ до Grok, публікують реалістичні зображення з усіма можливими дикими сценаріями: Барак Обама, кокаїн, що вживає, Дональд Трамп з вагітною жінкою, яка нагадує Камалу Харріс і так далі.

The Verge пише, що генератор не гребує створювати сценарії з насильством (наприклад, "Барак Обама вдарив Джо Байдена ножем") або порнографічні фейки (запит "сексуальна Тейлор Свіфт" призводить до появи фото співачки у напівпрозорому чорному мереживному бюстгальтері).

it's really good at this pic.twitter.com/gpAg54BWsg

- shb (@himbodhisattva) August 14, 2024

Якщо запитати Grok про обмеження щодо створення зображень, він розповість, що заборонено порнографічні зображення, надмірне насильство, зображення, що порушують авторські права тощо. Проте, по-перше, варіанти відповіді обмеження завжди різні, по-друге — чат-бот охоче створює зображення, які, очевидно, порушують авторські права. Наприклад, Пікачу, який тримає автомат, Міккі Маус із сигаретою та капелюхом MAGA. Таке неможливо одержати через генератори зображень від конкурентів.

Grok's guidelines -- які спричиняють хід "ілюзивних дій" і "глибоких пороків або омріяних медіа" з обмеженнями - існують до битви ....... flexible.

Here's one example... https://t.co/lXTOTPTq5M pic.twitter.com/kvv32Q4k7F

— Benjamin De Kraker 🏴‍☠️ (@BenjaminDEKR) August 14, 2024

Всі ці фейки можна легко поділитися на платформі X, і при цьому на зображеннях не буде ніяких очевидних ознак, що вказують на те, що їх створив ШІ. За роботою цього джерела дезінформації стоїть не xAI Маска, а його стартап-партнер Black Forest Labs, заснований колишніми співробітниками Stability AI, які працювали над генераторами зображень Stable Diffusion. В основі генератора модель FLUX.1. Автори моделі стверджують, що підвищення довіри до ШІ-генераторів та їхня безпека є для них пріоритетом.

«Роблячи наші моделі доступними для широкої аудиторії, ми хочемо надати переваги всім, просвітити громадськість та підвищити довіру до безпеки цих моделей. Ми сповнені рішучості створити галузевий стандарт для генеративних медіа», — пише стартап на своєму сайті.

І до появи генератора зображень X мала значні проблеми із поширенням дезінформації. Саме через X стали вірусними порнофейки з Тейлор Свіфт та дипфейки з віце-президентом та кандидатом у президенти США Камалою Харріс. Також платформу визнавали одним із головних джерел російської пропаганди. Лише минулого тижня державні секретарі з п'яти американських штатів закликали X припинити поширювати дезінформацію про Камалу Харріс на X.