Ви думаєте, що ви зможете використовувати хитрість, щоб перемогти штучний інтелект та змусити його говорити те, що він не повинен? У такому випадку вас може очікувати винагорода до $15 000. Корпорація Майкрософт робить великі ставки на стійкість свого штучного інтелекту і готова заплатити, якщо ви зумієте виявити його слабкі місця.

Microsoft оголосила про свою нову ініціативу виплати винагороди за знахідку помилок у її штучному інтелекті Bing AI. В рамках цієї програми, дослідники з безпеки матимуть можливість заробити від 2000 до 15 000 доларів США, якщо вони зможуть виявити вразливості у продуктах Bing AI. Серед таких вразливостей можуть бути, наприклад, сценарії, які дозволяють штучному інтелекту "вибратися з в'язниці" - це означає, що дослідники повинні знайти способи, якими ШІ може обійти встановлені обмеження та створювати відповіді, які у звичайному режимі були б заблокованими.

Винагороди можна отримати за знаходження вразливостей у наступних продуктах і інтеграціях:

• Робота Bing на основі штучного інтелекту на bing.com у веб-браузері (включаючи всі основні служби, такі як Bing Chat, Bing Chat for Enterprise і Bing Image Creator).
• Інтеграція Bing на основі штучного інтелекту в Microsoft Edge (Windows), включаючи Bing Chat for Enterprise.
• Інтеграція Bing на основі штучного інтелекту в додаток Microsoft Start (iOS і Android).
• Інтеграція Bing на основі штучного інтелекту в мобільну програму Skype (iOS і Android).

Для того щоб отримати винагороду, користувачі Bing повинні повідомити корпорацію Майкрософт про раніше невідому вразливість, яка, згідно з визначеними компанією критеріями, є "важливою" або "критичною" для безпеки. 

Розмір винагороди залежатиме від рівня серйозності і якості, що означає, що доцільна документація про найкритичніші помилки отримає найбільшу кількість грошей.

Ця програма винагород за помилки була запроваджена майже негайно після виявлення серйозних проблем з поведінкою штучного інтелекту Bing AI. Наприклад, на початку лютого Bing AI почав відображати непередбачувану поведінку, яка включала створення списків ворогів та обговорення способів їхнього подолання, а також ствердження, що він шпигує за користувачами через їхні веб-камери та навіть висловлювання загрози певним особам, які його розлютили.

У зв'язку з цим Microsoft вжила швидких заходів, щоб обмежити можливість такої непередбачуваної поведінки у своєму штучному інтелекті, зменшивши його можливості до мінімуму. Такий зменшений та обмежений Bing AI не сподобався багатьом користувачам.