Команда Google DeepMind розробила інструмент під назвою SynthID, призначений для вбудованого водяного знаку для ідентифікації штучно створених зображень. SynthID буде доступний лише користувачам генератора зображень за допомогою штучного інтелекту Imagen від Google, розташованого на платформі машинного навчання Google Cloud Vertex. Під час створення зображення користувачам буде відкрито можливість вибору водяного знака або право відмовитися від його використання.

Це реально важливий крок в боротьбі з діпфейками, які отримали значне розповсюдження минулого року, завдяки зростанню популярності генеративного штучного інтелекту, повідомляє MIT Technology Review. Використання водяного знака є методом, який дозволяє вбудовувати певний ідентифікаційний сигнал у частину тексту чи зображення, що дає можливість впізнавати їх як згенеровані. Ця техніка також може відігравати важливу роль у захисті авторських прав.

Під час щорічної конференції Google I/O в травні, Сундар Пічаї заявив, що компанія розробляє свої моделі з можливістю інтеграції водяних знаків. Google, через свій підрозділ DeepMind, стала першою великою технологічною компанією, яка публічно впроваджує подібний інструмент.

У традиційних методах нанесення водяних знаків на зображення використовувалися видимі символи або метадані, які внесені безпосередньо на зображення. Проте цей підхід є "вразливим", оскільки водяний знак може бути втрачений при різних операціях, таких як обрізка, зміна розміру чи редагування. Про це зазначив Пушміт Колі, віцепрезидент з досліджень в Google DeepMind.

Суть роботи SynthID полягає у використанні двох нейронних мереж. Перша з них бере оригінальне зображення та генерує практично ідентичне йому, але з незначними змінами в пікселях. Це дозволяє створити вбудований візерунок, який залишається невидимим для людського ока. Друга нейронна мережа здатна виявити цей вбудований шаблон і повідомляє користувачам, чи присутній водяний знак або є підозра на його наявність. Пушміт Колі зазначив, що SynthID розроблений так, що водяний знак можна виявити навіть у випадках, коли зображення було отримано зі скріншоту або відредаговано.

Не тільки Google DeepMind працює над методами водяних знаків. Аналогічні інструменти вже існують і використовуються у генераторі ШІ-зображень Stable Diffusion з відкритим вихідним кодом. Крім того, компанія Meta також проводила дослідження в цьому напрямку, але поки що не представила жодного публічного інструменту для нанесення та відстеження водяних знаків.