Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

  • 25 ноября, 15:41
  • 2585
  • 0

Керівники Microsoft м'яко наполягли на своєму і продовжили роботу над проектами для військових, а Google довелося згорнути «цензурний» пошуковик для Китаю.

Протести в Microsoft

Обурення співробітників пов'язані з військовими контрактами компанії: розробкою спеціальної версії гарнітури доповненої реальності HoloLens і десятирічним контрактом з Пентагоном на хмарні послуги.

«Хмари» для Пентагону - проект JEDI

9 жовтня 2018 року корпоративний віце-президент Microsoft Azure Джулія Уайт опублікувала в блозі компанії офіційний лист про те, як хмарні сервіси і технології штучного інтелекту допоможуть в роботі урядових служб.

Вона вказала: Microsoft готова боротися з Amazon, Oracle, IBM і іншими корпораціями за контракт вартістю $ 10 млрд на розробку хмарного сервісу JEDI із застосуванням технологій AI для Пентагону.

Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

26 жовтня 2019 року Microsoft виграла контракт, за яким повинна розробити єдину хмару JEDI (Joint Enterprise Defense Infrastructure Cloud) для військових підрозділів США. JEDI покликана замінити погано інтегровані і застарілі комп'ютерні мережі і хмари американських військових на єдину хмарну систему, що охоплює всі напрямки - від армії до авіації і флоту.

Microsoft вдалося обійти Amazon, основного претендента на JEDI, багато в чому завдяки конфлікту Дональда Трампа і глави Amazon Джеффа Безоса, пише TechCrunch.

Amazon могла виграти контракт, так як хмарний сервіс компанії домінує на ринку хмарних послуг, повністю задовольняє вимоги контракту, а Amazon раніше співпрацювала з ЦРУ, вважає Forbes.

Контракт на JEDI Microsoft відкриває нові варіанти співпраці з владою: компанія може попрацювати над хмарними сервісами для інших урядових підрозділів.

Також Microsoft в кінці серпня 2019 року стала одним з переможців другого контракту для Міністерства оборони - Defense Enterprise Office Solutions (DEOS) загальною вартістю $ 7,6 млрд. Компанія стане основним постачальником офісних продуктів через сервіс Office 365, розміщений в хмарі Azure.

Військові AR-окуляри IVAS

У листопаді 2018 року Microsoft виграла контракт для Армії США вартістю $ 479 млн. Компанія має намір розробляти прототипи бойової системи IVAS на базі гарнітури HoloLens.

Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

За контрактом військові можуть закупити понад 100 тисяч гарнітур, покликаних «підвищити летальність за рахунок поліпшених можливостей по виявленню, визначенню і участі в бойових діях», якщо розробка і тестування пройдуть успішно.

Представник Microsoft після перемоги заявив, що технології доповненої реальності допоможуть армії отримати більше даних для швидкого прийняття рішень, а контракт зміцнить відносини Microsoft з Міністерством оборони в нових областях.

Військова версія HoloLens буде відрізнятися від споживчої - за контрактом пристрій повинен підтримувати активацію нічного бачення, тепловізор, контроль життєво важливих показників бійця: дихання і потенційного струсу мозку, а також захищати від гучних звуків.

Microsoft повинна випустити 2500 гарнітур протягом двох років і продемонструвати можливість повномасштабного виробництва тисяч нових пристроїв.

У квітні 2019 року журналісти CNBC протестували прототип IVAS разом з солдатами. Поїздку організував підрозділ Futures, який займається співпрацею армії з технологічними стартапами і корпораціями.

Квітнева версія IVAS нагадала журналістам інтерфейс Call of Duty і інших шутерів: гарнітура показує міні-карту місцевості з розташуванням бійців групи, ворогів, компас з мітками, активує тепловізор і окуляри нічного бачення в разі сильного задимлення, а також цифровий приціл.

Військові планують використовувати IVAS і за межами бойових дій: для збору даних про солдатів на тренуваннях на «віртуальних ворогах». Команда навчального центру аналізує, що бачать солдати, а після навчань бійці можуть подивитися в IVAS звіт про свої дії.

У листопаді 2019 року журналісти Business Insider розповіли про другу версію IVAS. З її допомогою армія провела «віртуальну спецоперацію», під час якої військові:

  • Використовували тривимірні карти в доповненій реальності.
  • Фотографували секретні документи на полі бою.
  • Автоматично переводили написи і мову з російської на англійську.
  • Визначали особистості ворогів.
  • Використовували нічне бачення і режим бінокля.
  • Використовували віртуальний приціл для більш швидкого і точного наведення на ворога.

За словами журналістів Business Insider, IVAS 2 заряджається від переносної батареї, заряду вистачає на шість-вісім годин. На літо 2020 року заплановано третій прототип - більш ергономічний, міцний та захищений від негоди.

Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

Реакція співробітників і відповідь керівництва

Протест проти IVAS: «Ми не підписувалися на розробку зброї»

23 лютого 2019 року біля 250 співробітників Microsoft опублікували відкритий лист на адресу гендиректора компанії Сатья Наделла і юрисконсульта Microsoft Бреда Сміта. Співробітники заявили: вони «стривожені, що Microsoft допомагає військовим підвищити летальність за допомогою інструментів, розроблених інженерами компанії».

Працівники закликали скасувати контракт по IVAS, створити ясну політику роботи над подібними проектами і незалежну раду з питань зовнішньої етики. За їх словами, вони «не підписувалися на розробку зброї» і зажадали право голосу при використанні результатів їхньої праці.

Співробітники вважали, що IVAS в першу чергу допомагає вбивати і перетворювати війну в імітацію відеоігри, віддаляючи солдатів від реальності.

Розробники Hololens вважали, що технологія буде використовуватися для допомоги архітекторам і інженерам, поліпшення відеоігор і спілкування з іншими людьми.

Також автори листа вважають, що пропозиція Microsoft перейти на іншу роботу в компанії, якщо співробітник вважає проект неетичним, ігнорує проблему, а не вирішує її.

25 лютого Сатья Наделла відповів на лист протестувальників в розмові з CNN і виступив на захист контракту. За його словами, прислухатися до думки співробітників дуже важливо, але компанія «прийняла принципове рішення не приховувати технології від інститутів, які вибрали в демократичних країнах, щоб захистити свободи, якими користуємося».

Він пообіцяв продовжити діалог з співробітниками і бути гранично відкритим.

Протест проти JEDI: «Неможливо дізнатися, що ми будемо створювати»

17 жовтня 2019 роки після листа віце-президента Microsoft Azure Джулії Уайт анонімні співробітники відправили колективного листа керівництву корпорації із закликом не брати участі в тендері JEDI з етичних міркувань.

На думку протестувальників, через секретність контракту незрозуміло, над чим доведеться працювати інженерам, але це допоможе в військових діях. Також в JEDI використовуються технології штучного інтелекту, а значить, контракт потрапляє під дію документа The Future Computed, в якій Microsoft описала етичні принципи розробки AI.

Співробітники вважають, що JEDI повинен бути проаналізований комітетом з етики AI, створеним в Microsoft. Вони закликали відмовитися від JEDI так, як це зробила Google, оскільки технології для JEDI можуть не відповідати принципам Microsoft з розвитку AI, а компанія «зрадить ці принципи в гонитві за короткостроковим прибутком».

Також співробітники попросили колег з Amazon і інших компаній прийняти їх позицію і питати у керівництва, де буде застосовуватися розробка і чи відповідає це їх принципам. Коли вони влаштувалися на роботу в Microsoft, вони не очікували, що «метою їх роботи будуть вбивства і підвищення летальності зброї».

Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

Бред Сміт

26 жовтня 2018 року віце-президент Microsoft Бред Сміт детально розповів про принципи співробітництва Microsoft з військовими. За його словами, робота в цьому напрямку заснована на трьох принципах:

  1. Компанія вірить в сильну оборону США і хоче, щоб люди, які захищають країну, могли отримати доступ до кращих технологій, в тому числі від Microsoft.
  2. Компанія розуміє важливість нових етичних і політичних питань, пов'язаних з використанням штучного інтелекту в військових розробках, і буде використовувати свої знання і можливості для їх вирішення "в рамках цивільних і демократичних процесів».
  3. Компанія розуміє, що у співробітників можуть бути різні погляди на те, що відбувається, і не очікує, що її позицію займуть всі, тому пропонує допомогу в переході в інший підрозділ Microsoft, якщо працівник не бажає працювати над чимось, що йому не подобається незалежно від причин.

Сміт заявив, що Microsoft працює з Міністерством оборони США більше 40 років, так як військові ризикують своїми життями для захисту країни і допомоги людям в усьому світі, і компанія хоче «прикрити їх спини» і надати доступ до найкращих технологій.

Співробітники Google проти китайської версії пошуковика з цензурою

З 2010 року Google не працює на території Китаю - компанія відмовилася цензурувати результати пошуку і закрила бізнес в країні. Але до 2018 року в Китаї сформувався новий мобільний ринок з аудиторією в 788 млн користувачів, і американські фірми стали активніше цікавитися розвитком бізнесу в країні.

У серпні 2018 року видання The Intercept розповіло про використання Google купленого в 2008 році сайту 265.com для відстеження пошукових запитів жителів Китаю. Сайт не виконує жодних пошукових запитів, а перенаправляє їх в Baidu - основному конкурентові Google в Китаї.

Дані про запити 265.com Google використовувала для створення інструменту BeaconTower, котрий перевіряє, які результати пошуку в Google можуть бути заблоковані китайської системою цензури.

Інструмент став основою для створення Dragonfly - мобільного сервісу, який автоматично видаляє з видачі сайти, заблоковані китайським файрволом.

Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

За задумом розробників Google цензура мала працювати скрізь: в зображеннях, перекладача, перевірці орфографії.

Dragonfly вмів видаляти неприйнятний контент про політв'язнів, протести і демократії, а всередині движка був чорний список з ключовими темами і словами.

Дані Dragonfly підбудовував під потреби китайського уряду: погодній сервіс занижував дані про викиди речовин в атмосферу, щоб приховати забруднення навколишнього середовища.

Розробка Dragonfly була секретною і анонімної - над нею працювали близько 100 чоловік, які спочатку приховували проект через його невідповідність моральним і етичним нормам Google.

15 жовтня 2018 року гендиректор Google Сундар Пічаї офіційно підтвердив запуск пошукової системи в Китаї, пояснивши це важливістю китайського ринку і «багатообіцяючими» внутрішніми тестами.

Протести і закриття проекту Dragonfly

Перші протести співробітників Google почалися 16 серпня 2018 роки після публікації The Intercept. На їхню думку, компанія зацензуреною версією сервісу порушила власні правила і принципи.

Вони зажадали від керівництва розкрити інформацію про Dragonfly, щоб оцінити етичні наслідки своєї роботи. Під листом підписалися близько 1000 співробітників.

28 серпня 2018 року до співробітників Google приєдналася коаліція з 14 провідних правозахисних організацій. Вони написали відкритого листа Сундару Пічаї, закликавши його до відкритого і чесного діалогу і дотримання прав людини.

До жовтня 2018 року Google не визнавала, що працює над запуском пошукового сервісу в Китаї. Глава пошуку Google Бен Гомез сказав BBC, що «компанія тільки досліджує можливості, але так як планів запускати немає, то і говорити нема про що».

За інформацією The Intercept 18 липня Гомез спілкувався з співробітниками, задіяними в розробці Dragonfly, і зазначив, що запуск пошукової системи може відбутися протягом шести-дев'яти місяців.

Протести в Google і Microsoft в 2019 році: від яких розробок закликали відмовитися співробітники і чого домоглися

4 жовтня 2018 року до протесту приєднався віце-президент США Майк Пенс. Він закликав Google негайно припинити роботу над проектом, щоб «не посилювати цензуру Комуністичної партії і не ставити під загрозу приватне життя китайських клієнтів».

У листопаді відкритий лист керівництву написали понад 600 співробітників Google, підкресливши, що більшість з них влаштувалося на роботу, знаючи цінності компанії і її минулу позицію щодо цензури.

Також з Google почали звільнятися в знак протесту: колишній науковий співробітник компанії Джек Полсон закликав керівництво відкрито пояснити свою позицію, а не відводити питання в сторону. Для підтримки звільнених співробітників протестувальники зібрали $ 200 тисяч в «фонд страйку».

У грудні 2018 року гендиректора Google Сундара Пічаї запросили для надання свідчень в Конгрес.

17 липня 2019 року Google офіційно закрила проект Dragonfly. За інформацією Intercept, компанія зробила це з кількох причин: різкої негативної реакції співробітників і витоку даних про проект - через це до роботи над проектом підключилася команда конфіденційності, яка захищає права користувачів.

Учасники цієї команди розкритикували проект і домоглися скасування роботи з даними сервісу 265.com, після якого продовжувати роботу над Dragonfly було важко.


Теги: Google Microsoft
0 комментариев
Сортировка:
Добавить комментарий