Співзасновник Google Сергій Брін публічно визнав, що компанія не доклала достатньо зусиль, щоб перевірити якість роботи свого генератора зображень перед запуском у чат-боті Gemini.

На нещодавній зустрічі з підприємцями та розробниками в Хіллсборо, Каліфорнія Брін прокоментував ситуацію з функцією генерації зображень у чат-боті Gemini від Google, яку відключили після того, як користувачі з'ясували, що ШІ мають проблеми зі створенням зображень людей з білою шкірою. Як пише CNBC, Брін визнав, що інструмент був зіпсований через недостатньо ретельну перевірку перед широким запуском.

«Ми точно зіпсували створення зображень. Я думаю, що це було в основному через недбале тестування. Безумовно, з поважних причин це засмутило багатьох людей. … Згодом модель стала набагато обережнішою, ніж ми планували, і повністю відмовилася відповідати на певні підказки — неправильно інтерпретуючи деякі дуже невиразні підказки, як чутливі. Ці речі спонукали модель до надмірної компенсації в одних випадках та надмірної консервативності в інших, що призводило до образів, які були незручними та неправильними», - сказав він.

Брін також запевнив, що компанії вдалося підвищити точність створення зображень на 80% в рамках внутрішніх тестів. Це був перший випадок, коли представник компанії прокоментував наживо, раніше Google обмежувалася розсилкою готових заяв керівника пошукової служби Прабхакара Рагхавана і генерального директора Сундара Пічаї.

Раніше NV Техно писав, що інструмент від Google створював історично неточні зображення (наприклад, зображення темношкірих батьків-засновників США та вікінгів) і при цьому мав значні проблеми із генеруванням образів людей із білою шкірою. Коли інформація про проблему набула розголосу, Google заявила, що обмежує доступ до недавно розгорнутої функції Gemini. Наприкінці лютого в Google заявили, що на усунення проблеми підуть тижні.