Google заборонила одну з найпоширеніших у її магазині програм, яка пропонувала користувачам створювати порнографічний контент, замінюючи особи на відео.

Ще кілька років тому дослідники звертали увагу на те, що в магазинах додатків Google Play та Apple App Store є програми, що дозволяють користувачам легко замінювати людей на відео. Тоді творці таких програм не згадували про можливість створення порнографічного контенту на своїх сторінках у магазині додатків або сайтах. Оданко саме такий варіант просувався у спільнотах, присвячених дипфейк-порнографії.

Деякі з цих програм залишалися активними і досі, пише 404Media. Журналісти виявили одну з таких програм, яка ще минулого тижня була доступна в Google Play і була активною в Apple App Store у першій половині березня. Зараз програма видалена.

«Дія програми була припинена через порушення політики просування програм Google Play. Ми не дозволяємо додатки, які прямо чи опосередковано використовують методи просування (наприклад, рекламу), які є оманливими чи шкідливими для користувачів чи екосистеми розробників, або отримують від них вигоду», - зазначив представник Google.

За час перебування в Google Play шкідливий додаток, який може бути використаний для створення порнографії, згенерованої штучним інтелектом без згоди людини, на чию особу було замінено особу порноактора або порноакторки у відео, було завантажено більше 10 тисяч разів і отримало більше 200 відгуків. Журналісти зазначають, що вони були здебільшого негативними, оскільки сама програма була безкоштовною, але за створення відео зі зміною особи доводилося платити.

Крім простих людей, від створення порнографічних відео та відвертих фото за допомогою ШІ можуть постраждати і зірки світового масштабу та політики. Наприклад, нещодавно спалахнув скандал із поширенням дипфейк-порно нібито за участю співачки Тейлор Свіфт. Вважається, що інструмент Designer від Microsoft використовувався поширення такого контенту.