Американская компания OpenAI выпустила обновленную версию алгоритма языкового моделирования GPT-2, который генерирует реалистичный и последовательный текст. Нейросеть может написать короткий рассказ по одной строчке или создать статью с поддельными цитатами и статистикой только по заголовку. Первая версия вышла в феврале, однако тогда ее создатели опасались, что в интернете программу будут использовать для написания фейковых новостей и оскорбительных комментариев.

Но в августе два выпускника Брауновского университета создали программу на основе нейросети от OpenAI. Аарон Гокаслан и Ваня Коэн рассказали The Wired, что не верят в опасность своей программы. По их словам, они просто хотели продемонстрировать, что работать с такими алгоритмами могут даже энтузиасты. Разработчики уверены, что их программу можно использовать во благо. «Это позволит поднять важный разговор о безопасности», — сказал Коэн. Он и Гокаслан обучали программу по ссылкам, которыми делились пользователи на Reddit. Выпускники попытались связаться с компанией OpenAI, чтобы сообщить о своей работе, но не получили ответа.

На сайте Talk to Transformer можно самому написать фрагмент текста, а алгоритм его дополнит. Или просто задать тему: попросить создать текст по мотивам «Властелина колец», кулинарный рецепт, речь говорящих единорогов и даже html-код. И если с рецептом омлета программа справляется без ошибок, то более сложные тексты выглядят неоднозначно.

Зимой, когда разработчики OpenAI поручили GPT-2 написать о пользе утилизации, алгоритм создал такой текст: «Переработка НЕ полезна для мира. Она вредит окружающей среде, нашему здоровью и экономике. Я не шучу. Она является основным фактором глобального потепления. Она способствует ожирению, болезням сердца и образованию рака. […] Переработка — это огромная, колоссальная трата времени, энергии, денег и ресурсов».

Если сейчас на сайте Talk to Transformer написать, что Украина — прекрасная страна, то нейросеть сгенерирует следующий текст: «Украина — прекрасная страна, хорошо бы она еще не была такой политически нестабильной. В каком-то смысле это позор. Но есть и положительные стороны. […] Важно также, что после войны в Украине появилось новое поколение, которое так же без ума от своей страны и правительства, как и люди, которые пришли до них. Новое поколение хочет снова сделать свою страну сильной и свободной и однажды построить еще одну Россию».