В недавнем сообщении в блоге Google подтвердил, что он не будет несанкционированно использовать людей-рецензентов для анализа аудиозаписей, полученных от пользователей Google Assistant.

Решение прекратить использование людей в процессе аудиообзора было вызвано негативной реакцией потребителей после того, как несколько громких изданий критиковали компанию вместе с Microsoft, Apple и Amazon за прослушивание аудио, которое пользователи считали приватным.

Хотя Google пообещаа продолжить процесс анализа аудио, но объявил о программе согласия, а также о более жестких ограничениях на то, как долго они хранят данные пользователей и что они могут с ними делать. 

Почему Google прекратил использовать людей-рецензентов?

Решение Google прекратить использовать персонал для прослушивания аудиозаписей появилось еще в начале года, когда в прессе появилось множество сообщений о том, что Google, как и многие другие технологические компании, активно слушали в голосовых командах помощника. Причина, по которой все обвиняемые организации указали, была одна и та же: сотрудники проверяли запросы, задаваемые пользователями, и использовали эти данные для оттачивания и обучения системы.

Google не скрывал, что звук, захваченный Помощником, записывается, а также заявлял, что он маскирует данные, так что любой, кто слушает записи, не сможет точно определить пользователя, от которого они поступил. Однако некоторые расследования, в том числе проведенные бельгийской организацией VRT, показали, что людей легко опознать, если они упомянули личные данные, такие как их домашние адреса или имена. 

Они также обнаружил, что Google Assistant может быть активирован, даже если фраза «Привет, Google» не использовалась: в некоторых случаях шум, который звучал подобно фразе приветствия, приводил к записи системы, что означало, что частные разговоры были подслушаны.

Что изменилось?

Посредством публикации в официальном блоге компания Google хочет заверить своих пользователей, что она выслушала жалобы и внесла некоторые изменения. Да, они снова начал использовать людей-рецензентов, но, только с несколькими оговорками:

Аудио не будет сохранено по умолчанию:  Google пообещал, что не будет хранить аудиозаписи без разрешения.

У пользователей будет спрашиваться разрешение: пользователям Google Assistant, как новым, так и старым, будет задан вопрос о том, хотят ли они участвовать в голосовой и звуковой активности (VAA), которая будет использоваться для улучшения распознавания голоса. То есть, они будут хранить ваши данные, и они могут быть прослушаны рецензентами.

Взаимодействия с помощником. Пользователи могут просматривать любые взаимодействия, которые они имели при использовании Google Assistant, и удалять их. На самом деле это не новая функция, но, похоже, Google хочет напомнить своим пользователям, что она есть.

Дополнительные функции конфиденциальности: Google заявил, что записи являются анонимными, и всегда были, но они добавят больше фильтров конфиденциальности. 

Отрегулируйте чувствительность: Google планирует устранить случайную активацию Assistant с помощью настраиваемых пользователем настроек чувствительности. Когда фраза «Привет, Google» не используется, но помощник все равно оживает - вероятность этого уменьшена.

Новая политика хранения данных: Google будет внедрять новую политику, в которой они обещают удалить некоторые данные, связанные с учетными записями, если они старше «нескольких месяцев».

Мы верим в то, что вы сможете контролировать свои данные, и мы всегда работаем над тем, чтобы обеспечить их безопасность. Мы стремимся быть прозрачными в отношении того, как работают наши настройки, чтобы вы могли решить, что лучше для вас работает. - пост в блоге Google

Как другие компании востанавливают доверие?

Пользователи были одинаково расстроены, когда начали появляться похожие новости о том, как Facebook, Amazon и Microsoft использовали аудиозаписи. Хорошей новостью является то, что публичное осуждение, по-видимому, послужило сигналом тревоги для этих компаний в том, как они обрабатывают наши данные.

В Amazon Alexa теперь есть команда, которая позволяет пользователям удалять все данные или полностью отказаться от обмена данными. Он также имеет специальный «Alexa Privacy Hub», где настройки могут быть изменены. Facebook прекратил использовать рецензентов-людей для своей службы обмена сообщениями, и Microsoft сделала то же самое для своих платформ Skype и Cortana. Apple также временно приостановила практику прослушивания записей Siri.

Обучение и развитие распознавания голоса ИИ всегда опирался на человеческий фактор - почти невозможно ожидать, что эти системы улучшатся, если оставить их без источников информации. Тем не менее, поскольку многие пользователи чувствуют себя обманутыми, полагая, что их команды являются частными, а общественное доверие к голосовым помощникам всегда было низким, Google и другие компании, безусловно, делают правильные шаги, обещая большую прозрачность в обработке аудиозаписей.