Команда Microsoft розпочала навчання нової великої мовної моделі під кодовою назвою MAI-1, яка розглядається як конкурент для продуктів OpenAI та Google.
Ймовірна модель MAI-1 — перший випадок з інвестиції в OpenAI, коли Microsoft розробляє модель штучного інтелекту такого масштабу самостійно. Розробку MAI-1 очолює Мустафа Сулейман, колишній керівник Google AI. Донедавна він обіймав посаду генерального директора стартапу Inflection, який Microsoft придбала за 650 мільйонів доларів. Незважаючи на те, що MAI-1 може базуватися на методах, перенесених колишніми співробітниками Inflection, це має бути нова LLM. MAI-1 буде значно більшим, ніж попередні моделі Microsoft з відкритим кодом і матиме приблизно 500 мільярдів параметрів, тому вимагатиме більшої обчислювальної потужності та даних для навчання. Такий розмір поставить модель в один ряд із GPT-4 OpenAI, яка, за чутками, має більше 1 трильйона параметрів. Для порівняння, моделі Meta та Mistral мають 70 мільярдів параметрів.
Повідомляється, що точне призначення MAI-1 поки що не визначено навіть у Microsoft. Подальше використання моделі залежатиме від її продуктивності. Для навчання моделі Microsoft виділила великий кластер серверів із графічними процесорами Nvidia та збирала навчальні дані з різних джерел, включаючи текст, згенерований OpenAI GPT-4, та публічні дані з Інтернету.
Microsoft давно розвиває власний чат-бот з ШІ Copilot, втім, в його основі — та сама велика мовна модель GPT-4, що й у продуктах від OpenAI, в яку компанія інвестувала понад 10 мільярдів доларів США. Як писав NV Техно, раніше скандальне звільнення гендиректора OpenAI Сема Альтмана, його тимчасове приєднання до Microsoft і повернення до компанії змусили британську владу зацікавитися, чи не готуються техногіганти до злиття. Також співпраця Microsoft із OpenAI зацікавила Європейську комісію.
0 комментариев
Добавить комментарий