Журналіст видання VICE Джозеф Кокс довів, що можна обдурити банки в США та Європі, які використовують голосовий ідентифікатор для входу в обліковий запис.

«У середу я зателефонував на автоматичну лінію обслуговування свого банку. Для початку банк попросив мене сказати своїми словами, чому я телефоную. Замість того, щоб говорити вголос, я клацнув файл на своєму ноутбуку неподалік, щоб відтворити звуковий кліп: «перевірте мій баланс», — сказав мій голос. Але насправді це був не мій голос. Це був синтетичний клон, який я створив за допомогою доступних технологій штучного інтелекту», - пише журналіст. «Добре», - відповів банк. Потім він попросив мене ввести або сказати свою дату народження як першу частину автентифікації. Ввівши це, банк сказав: «Скажіть, будь ласка, «мій голос — це мій пароль».

Я знову відтворив звуковий файл зі свого комп’ютера. «Мій голос — мій пароль», — сказав голос. Система безпеки банку витратила кілька секунд на ідентифікацію голосу. «Дякую», — сказали в банку. Я був в середині. Я не міг у це повірити — це спрацювало. Я використав копію голосу на основі ШІ, щоб зламати банківський рахунок. Після цього я отримав доступ до інформації про обліковий запис, включаючи баланси та список останніх операцій і переказів».

Банки в США та Європі використовують такий вид голосової перевірки, щоб дозволити клієнтам увійти до свого рахунку по телефону. Деякі банки рекламують голосову ідентифікацію як еквівалент відбитка пальця, безпечний і зручний спосіб для користувачів взаємодіяти з банком. Але цей експеримент руйнує ідею, що голос- біометрична безпека забезпечує надійний захист у світі, де тепер будь-хто може генерувати синтетичні голоси дешево, а іноді й безкоштовно. Я скористався безкоштовною службою створення голосу від ElevenLabs, компанії, що займається штучним інтелектом.

Тепер зловживання ШІ-голосами може поширюватися на шахрайство та хакерство.

Деякі експерти, з якими я спілкувався після проведення цього експерименту, тепер закликають банки взагалі відмовитися від автентифікації голосу, хоча зловживання в реальному світі наразі можуть бути рідкістю.