Нова стратегія OpenAI: взяти під контроль “супер розумні ШІ”

  • 28 июля, 11:19
  • 3858
  • 0

Метою OpenAI є забезпечення того, щоб штучний інтелект був використаний в користь людства і сприяв загальному благу, враховуючи ризики та етичні аспекти його застосування.

OpenAI працює над розробкою методів та стратегій, які дозволять контролювати та направляти роботу ШІ з метою забезпечення безпеки і запобігання негативних наслідків. Компанія веде дослідження, співпрацює зі спільнотою науковців та залучається до діалогу зі стейкхолдерами, щоб забезпечити етичний та відповідальний розвиток ШІ.

У компанії розробляють проект, який спрямований на створення "супер розумного ШІ" - штучного інтелекту, який може перевершити найрозумнішу людину в інтелектуальних здібностях. Хоча такий ШІ ще не існує, вони розглядають його можливе появу протягом наступного десятиріччя.

У межах цього проекту, команда дослідників зосереджена на вирішенні кількох ключових завдань. Ці завдання включають розробку масштабованого методу навчання ШІ, наближеного до рівня людського інтелекту, створення системи виявлення проблемної поведінки та розробку механізмів контролю за узагальненнями. Крім того, вони планують працювати над моделями, які можуть вчиняти некоректні дії або "протистояти" людині. Ці моделі будуть використовуватись для тестування системи виявлення неправильної поведінки ШІ.

Основна мета проекту - запобігти ситуації, коли ШІ вийде з-під контролю людей. Засоби, розроблені в рамках проекту, також можуть бути використані для контролю над іншими, менш розумними ШІ. В OpenAI планують працювати з попереднім обчисленням, аби розробити методи та інструменти для контролю над "супер розумним ШІ" протягом наступних чотирьох років. Команда, яка займається цим питанням, отримає 20% обчислювальної потужності OpenAI для виконання цієї важливої місії.


Теги: робот ai ші
0 комментариев
Сортировка:
Добавить комментарий

Последние статьи

Смотреть все