Департамент финансовых услуг штата Нью-Йорк займется проверкой банка Goldman Sachs из-за поступивших жалоб на кредитные лимиты по Apple Card. Поводом стал ряд сообщений в Twitter, среди возмущающихся — датский программист и автогонщик Давид Ханссон, а также сооснователь Apple Стив Возняк, сообщает агентство Bloomberg.

Суть претензий Ханссона и Возняка заключается в том, что их жены при одинаковых налоговых декларациях получили в разы меньшие кредитные лимиты. Более того, у Ханссона жена имеет более высокий кредитный рейтинг, американское гражданство и глубокие семейные корни в США, в то время как сам программист является обладателем грин-карты, следовательно, банк должен доверять ей даже больше, чем ее мужу. Жалующиеся предположили, что в алгоритмах, на основе которых рассчитывается лимит, заложен разный подход к мужчинам и женщинам. С ними согласились другие пользователи Apple Card, поведавшие аналогичные истории.

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.— DHH (@dhh) November 7, 2019

The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It’s big tech in 2019.— Steve Wozniak (@stevewoz) 10 ноября 2019 г.

Just read this thread. My wife has a way better score than me, almost 850, has a higher salary and was given a credit limit 1/3 of mine. We had joked that maybe Apple is just sexist. Seems like it’s not a joke. Beyond f’ed up.— Carmine Granucci (@whoiscarmine) 9 ноября 2019 г.

Definitely something weird here because we had the same experience. My wife has a higher credit score (by a couple points). I got the max limit with the lowest APR and she got half my limit with the mid range APR.— Gustavo Tandeciarz (@dcinzona) 10 ноября 2019 г.

В финансовом департаменте штата Нью-Йорк отреагировали на сообщения и заявили, что, по закону, все потребители должны обслуживаться одинаково независимо от гендерной принадлежности. Чиновники пообещали провести расследование в отношении банка.

В Goldman Sachs в комментарии для прессы отметили, что члены одной семьи могут иметь принципиально разные кредитные линии, поскольку Apple Card подразумевает только индивидуальное обслуживание, и что гендер клиента во внимание не берется. Ханссона такое объяснение не удовлетворило. По его словам, после развернутой им кампании в Twitter банк неожиданно увеличил кредитную линию его жене, не запросив у нее дополнительных документов.

«Вместо того, чтобы обратиться к сути проблемы, представители банка вручную подняли кредитный лимит и тем самым попытались замять ситуацию, лишь бы не трогать алгоритм.Хотя, о чем тут можно говорить, если никто не может объяснить нам, как принимаются решения. Все говорят, что так решил алгоритм и что он объективен в своих суждениях, но объяснить, почему они считают алгоритм объективным, никто не в состоянии. Похоже, что в банке все верят в сверхспособности машины. Особенно удручает то, что обжаловать решение алгоритма невозможно», — заявил программист и добавил: «Я могу поверить в то, что у банка не было намерения кого-то дискриминировать, но результат получился именно таким».

What's in the black box?Two recent incidents are shining a light on biases in decision-making algorithms used by finance and health care companies pic.twitter.com/EmUz4M40cp— Bloomberg TicToc (@tictoc) November 10, 2019

Ханссон надеется, что Goldman Sachs в конечном итоге не только внесет необходимые изменения в алгоритм, но и сделает его работу более прозрачной, а также разрешит клиентам при необходимости запрашивать пересмотр решения машины сотрудником финучреждения.