Google оновила свою політику щодо відверто сексуального змісту, щоб подолати стрімке поширення порнографії, створеної штучним інтелектом.

Програми, які надають користувачам можливість створювати порнографічний контент за допомогою штучного інтелекту без згоди людей, чиї фото використовуються, часто для просування вибирають оголошення, в яких прямо не згадується їхнє призначення та не використовуються відверті зображення. Це тривалий час дозволяло творцям таких програм для створення дипфейк-порнографії просувати свої послуги в Мережі (наприклад, на платформах Meta).

Оновлення рекламної політики Google має заборонити будь-які оголошення «синтетичного змісту сексуального характеру», навіть якщо саме оголошення не є відвертим, пише 404Media. В електронному листі, надісланому всім менеджерам реклами Google, компанія повідомила, що нова політика набуде чинності у травні 2024 року. Після цього рекламувати створення або розповсюдження контенту, який було синтетично змінено або згенеровано, щоб бути відверто сексуальним або утримувати оголене тіло, буде заборонено.

У Google додали, що оновлюють свою політику для платформ Ads, Publisher і Shopping Ads, щоб чітко заборонити рекламу служб, які пропонують створювати дипфейк-порнографію або синтетичний контент із зображенням голого тіла. За порушення цього правила рекламодавцю чи видавцеві загрожує зупинення дії облікового запису.

«Ми давно забороняємо на наших рекламних платформах як відверто сексуальний зміст, так і контент сексуального характеру, створений без згоди, і ця політика зазвичай запобігає просуванню підроблених порнографічних послуг. Щоб забезпечити комплексний підхід, ми оновлюємо нашу рекламну політику, щоб чітко вказати, що ми не дозволяємо рекламувати ці послуги — незалежно від того, контент відвертого сексуального характеру чи ні», — каже представник компанії.

Компанія також визнала, що її правила не завжди досконалі. Зараз для перевірки оголошень використовується автоматизована система та перевірка живими людьми. Минулого року, згідно зі звітом компанії, завдяки цьому було видалено понад 1,8 мільярда оголошень за порушення політики щодо сексуального контенту.

Раніше програми для створення дипфейк-порно продиралися в Google Play та App Store. Жертвами використання таких інструментів стають як пересічні громадяни, і зірки світового масштабу. Кілька тижнів тому в мережі спалахнув скандал із поширенням дипфейк-порно нібито за участю співачки Тейлор Свіфт. Вважається, що інструмент Designer від Microsoft використовувався поширення такого контенту. Творці матеріалів за участю зірки координували свої дії у соцмережах.