Компания Amazon уже несколько лет использует на своих складах автоматическую систему оценки эффективности персонала. Компьютер отслеживает продуктивность каждого работника и выносит ему предупреждения по поводу низкого качества или медлительности, а также может уволить человека без участия супервайзера.

О роботах гиганта интернет-торговли, которые контролируют производительность труда людей и сами решают, кого уволить, СМИ узнали в 2019 году. Сообщалось, что ежегодно под сокращения, инициированные искусственным интеллектом, попадают тысячи рабочих (всего на складских комплексах Amazon трудятся более 125 тысяч человек). При этом многие сотрудники выражают несогласие с решениями алгоритмов, считающих их живыми роботами, а критики компании считают такой подход бесчеловечным.

Проблема робота-начальника стала намного масштабнее, когда ИИ-система Amazon начала следить за эффективностью водителей-контрактников, сообщает Bloomberg. Речь идет о приложении Flex, с помощью которого частники могут подключиться к развозу заказов и продуктов из интернет-магазина. Согласно данным AppAnnie, эта программа была скачана около 4 миллионов раз по всему миру (только в США — 2,9 миллиона), то есть счет людей, уволенных ИИ, теперь может идти на десятки тысяч.

Применяемые в Flex алгоритмы контролируют каждый шаг — прибыл ли водитель на станцию выгрузки в заявленное время, где оставил посылку и завершил ли заказ в срок. Человек, работа которого покажется ИИ неэффективной, может получить уведомление по электронной почте о расторжении контракта без участия начальника.

О тяжелых условиях труда агентству рассказали 15 водителей Flex, причем четверо из них заявили, что были уволены по ошибке. Несовершенство алгоритма признали и бывшие сотрудники Amazon — например, подрядчика могут уволить за невыполнение заказа, хотя тот просто не мог попасть на территорию закрытого жилого комплекса.