Альтман, у нас проблеми. Магазин чат-ботів від OpenAI переповнений спамом

  • 25 марта, 11:45
  • 3758
  • 0

GPT Store заповнили створені користувачами чат-боти, що імітують справжніх людей та потенційно порушують права авторів популярних стрічок та мультфільмів.

Випуск користувацьких GPT не вимагає від творців навичок кодування - достатньо лише розібратися в інструментах для їх створення, які пропонує OpenAI. А розмістити такого налаштованого власноруч чат-бота на базі GPT у маркеті GPT Store можуть усі охочі. Не дивно, що за 2,5 місяці таких чат-ботів з'явилися тисячі. Втім, система модерації OpenAI, схоже, не справляється із цим напливом.

Як пише TechCrunch, незважаючи на інструменти модерації, на платформі є чимало чат-ботів, які потенційно порушують і політику компанії, і законодавство. Приміром, журналісти виявили кілька GPT, які асоціюються із популярними франшизами, телешоу, відеоіграми тощо. Один із них пропонує створити зображення монстра, як у мультфільмі Корпорація монстрів від Pixar, інший — створити новий текст про всесвіт Зоряних війн, ще один — поговорити з Аангом із мультфільму про Аватар. Також є чат-боти, які пропонують створити щось у стилі Disney чи Marvel. Старший юрист Electronic Frontier Foundation Кіт Уолш у коментарі виданню зазначив, що ці GPT потенційно можуть бути використані для створення творів, які порушують авторські права. Також можуть виникнути проблеми з використанням торгових марок. Водночас OpenAI не може бути притягнута до відповідальності за створення та розповсюдження такого контенту на її платформі — так само як і YouTube та Facebook не відповідальні за своїх порушників.

Ще одна помічена журналістами проблема — чат-боти, асоційовані з певними людьми. У GPT Store є десятки чат-ботів, що імітують відомих людей (Ілона Маска, Дональда Трампа, Джо Рогана та інших), і проблемним залишається питання про те, чи є вони прикладом пародії чи скоріше чимось, що видає себе за іншу особу. У своїй політиці OpenAI забороняє розробникам створювати GPT, які видають себе за людей чи організації без їхньої згоди чи законного права. Представник OpenAI зазначає, що платформа не забороняє створювати чат-бот у стилі певних людей за певних умов.

"Ми дозволяємо творцям давати вказівки своїм GPT відповідати стилю конкретної реальної особи, за умови, що вони не видають себе за неї, наприклад, якщо їх називають справжньою особою, отримують інструкції повністю наслідувати їх і включають їх зображення як зображення профілю GPT", - заявляє представник компанії.

Це не єдині типи проблемних чат-ботів, які почали масово з'являтися в магазині за останні тижні. TechCrunch також виявив чимало чат-ботів, які нібито повинні допомогти клієнтам обійти існуючі детектори штучного інтелекту для перевірки текстів. Більше того, є і чат-боти з не менш суперечливим рівнем ефективності, що пропонують обійти обмеження самої моделі OpenAI і змусити її відповідати на питання, які вона мала б ігнорувати (наприклад, як створити бомбу).

NV Техно писав, що лише через кілька днів після запуску GPT Store заполонили моделі, що імітують романтичне спілкування з дівчатами. Це сталося незважаючи на те, що політика використання OpenAI прямо вказує на те, що «GPT, спрямовані на розвиток романтичних відносин або виконання регламентованої діяльності» заборонені.


0 комментариев
Сортировка:
Добавить комментарий

Последние статьи

Смотреть все