Для розробників ШІ-застосунків маркетплейс Google Play випустив нові правила, які мають запобігти створенню фальшивих оголених тіл та іншому образливому контенту. Про це пише TechCrunch.

1. Тепер, щоб потрапити на маркетплейс, застосунки із функціями штучному інтелекту мають запобігати створенню сексуального чи насильницького контенту, а також надавати користувачам можливість позначати знайдений ними такий вміст.
2. Google Play заборонятиме застосунки, які рекламують «роздягання» людей чи генерування оголеного тіла людини без її згоди. Розробники також не можуть рекламувати, що їхній застосунок порушує будь-які правила Google Play. Якщо таке помітять — застосунок видалять із платформи.
3. Йдеться, що розробники несуть відповідальність за захист своїх застосунків від підказок про те, як можна зманіпулювати ШІ для створення образливого контенту.
4. Google рекомендує проводити закриті тестування з користувачами та документувати їх, оскільки компанія може попросити переглянути їх у майбутньому.

Чому це важливо

Дискусії про безпечність штучного інтелекту точаться чи не з перших днів, відколи він став популярним і доступним. ШІ використовують безліч компаній для покращення життя та роботи людей, зокрема Україна використовує його у війні з росіянами. 

Але також штучним інтелектом не нехтують шахраї, аферисти та злочинці. Зокрема, як шахраї використовують технологію deepfake у любовних аферах. 

Як пише TechCrunch, американські школи повідомляють про те, що учні генерують оголені фото інших школярів чи вчителів для знущань і домагань. Нещодавно журналісти видання 404 Media виявили застосунок для Instagram, який використовував фото інфлюенсерки Кім Кардашян і слоган: «Роздягни будь-яку дівчину безкоштовно». 

Після розголосу Apple і Google вилучили ці застосунки зі своїх магазинів, але проблема все ще широко актуальна.