Google Cloud Vision API для розпізнавання та маркування об'єктів більше не буде застосовувати до людей на зображеннях теги «чоловік» і «жінка», пише Business Insider.

Інструмент вміє розпізнавати обличчя, геолокації, логотипи і масу іншої інформації і має широке коло користувачів від рітейлерів до вчених. Тепер людей на фотографіях він буде позначати нейтральним словом «person».

Google аргументує свій крок етичними міркуваннями. По-перше, не завжди можливо визначити гендер людини тільки по його зовнішності. По-друге, такий розподіл може призвести до упередженості і несправедливої дискримінації.

Дехто називає таке рішення Google «дуже позитивним». Наприклад, експерти з проблеми упередженості AI в Mozilla говорять, що при автоматичній класифікації людей, будь то по гендеру або орієнтації, для початку потрібно позначити категорії, за якими їх будуть розносити - вже на цьому етапі закладено безліч припущень.

 Поділ на чоловіків і жінок передбачає, що гендер - бінарне поняття, а всі ті, хто не вписується в таку систему, будуть автоматично класифіковані невірно. Тим більше, про гендер неможливо судити виключно по зовнішності, і будь-яка AI-система, яка це робить, неминуче робить помилки, вважають в Mozilla.

Розробникам, яких торкнеться зміна Cloud Vision API, Google пропонує обговорити його на своїх форумах.