Директор з цифрових технологій та штучного інтелекту (ШІ) Пентагону Крейг Мартелл назвав чат-бот ChatGPT «ідеальним інструментом для поширення дезінформації», повідомляє видання Breaking Defense . 

За словами Мартелла, ChatGPT налякав його до смерті. Він заявив, що мовна модель GPT-4 може створити реальну проблему, оскільки мовні моделі на кшталт GPT-4 не розуміють контексту. При цьому звичайні люди сприймають їхні відповіді як незаперечний факт. Вона робить це настільки впевнено й авторитетно, що люди вірять їй на слово навіть у тому разі, коли їхній увазі пропонується абсолютно недостовірна інформація. Такий стан справ робить GPT-4 ідеальним інструментом для дезінформації.

Наразі людство не має у своєму розпорядженні інструментів, які дають змогу визначати, коли нейромережа бреше, а коли говорить правду. Фахівці з ШІ закликають зайнятися створенням таких інструментів. Вони будуть використовуватися для забезпечення точності даних, що надаються генеративними моделями – від текстової інформації до зображень