OpenAI розкрив плани із запобігання втручанню ШІ у вибори

  • 17 января, 12:00
  • 3719
  • 0

OpenAI, розробник чат-бота зі штучним інтелектом ChatGPT, виклав план запобігання використанню своєї технології для поширення дезінформації та втручання у вибори. Цьогоріч у понад 50 країнах відбудуться вибори, це буде, як називає The Independent, найбільшою в історії демонстрацією демократії.

Причина занепокоєнь

Нещодавнє зростання генеративного штучного інтелекту спричинило побоювання, що він може становити загрозу для вільних і чесних виборів.

Одне з головних занепокоєнь пов’язане з deepfake-зображеннями, які можуть бути створені за допомогою інструментів, таких як Dall-E від OpenAI. Ці зображення можуть маніпулювати вже наявними фотографіями або генерувати абсолютно нові зображення політиків у ситуаціях, що можуть їх скомпрометувати.

Ще один тип штучного інтелекту, яким потенційно можуть зловживати, — це текстові генератори, такі як ChatGPT, що створюють тексти, дуже схожі на написані людиною.

Як будуть боротися?

  1. OpenAI повідомила, що об’єднує зусилля своїх команд безпеки, аналізу загроз, юридичного забезпечення, інженерії та політики для боротьби з потенційним зловживанням своїми технологіями.
  2. Компанія вже вжила заходів щодо запобігання зображенню реальних людей у своєму інструменті Dall-E, хоча інші стартапи зі штучного інтелекту не мають таких обмежень.
  3. Серед нових заходів запобігання зловживанню на виборах – функція для ChatGPT, яка спрямовує користувачів зі США на сайт CanIVote.org, що надає перевірену інформацію щодо голосування.
  4. Компанія обіцяє надати більше інформації у найближчі місяці і продовжить співпрацю та вивчати можливості запобіганню можливого зловживання інструментів перед цьогорічними виборами.

Реальні приклади

Нещодавно британська Лейбористська партія стала мішенню для deepfake-аудіо. У жовтні з’явилося фейкове відео, де лідер партії Кейр Стармер каже «I f***ing hate Liverpool». Недавнє опитування від Finder.com показало, що лише 1,5% людей у Великій Британії змогли правильно розпізнати deepfake-відео з політиками та знаменитостями.

Також чат-бот від Microsoft надавав неправдиву та оманливу інформацію щодо європейських виборів.

А в Бразилії ухвалили постанову, повністю написаний штучним інтелектом.


0 комментариев
Сортировка:
Добавить комментарий

Последние статьи

Смотреть все