Apple Card доступна всего несколько месяцев, но она уже находится в центре расследования со стороны регулирующих органов. Однако, похоже, в этом нельзя винить только технологическую компанию.
Существуют проблемы, связанные с гендерной предвзятостью при утверждении кредитных линий. Apple Card обвиняют в том, что она устанавливает разные кредитные лимиты для мужчин и женщин, при этом вину возлагают и на ее партнера Goldman Sachs.
Гендерная предвзятость карты Apple
Дэвид Хайнемейр Ханссон, датский предприниматель и разработчик программного обеспечения, первым сообщил об этой проблеме. Он написал в Твиттере, что его жене Джейми было отказано в увеличении кредитной линии по Apple Card, однако у нее более высокий кредитный рейтинг, чем у него.
«Мы с женой подаем совместную налоговую декларацию, живем в штате с совместной собственностью и женаты уже долгое время. Тем не менее, алгоритм черного ящика Apple считает, что я заслуживаю в 20 раз больше кредитного лимита, чем она», — написала она.
В конечном итоге пара подала официальную внутреннюю жалобу после того, как подняла этот вопрос в службе поддержки клиентов Apple. Хотя их неоднократно уверяли, что дело не в дискриминации, кредитный лимит Джейми в конечном итоге был увеличен до такого же уровня, что и у ее мужа, но для него это не решило проблему должным образом.
«Речь идет не просто об одном алгоритме», — написала руководитель Департамента финансовых услуг штата Нью-Йорк Линда Лейсвелл. «DFS хочет работать с технологическим сообществом, чтобы потребители по всей стране могли быть уверены в том, что алгоритмы, которые все больше влияют на их возможности доступа к финансовым услугам, не дискриминируют, а вместо этого относятся ко всем людям одинаково и справедливо».
Алгоритм Apple Card оказался необъективным, как и в случае с распознаванием лиц. В обеих ситуациях именно компьютеры допускают предвзятость, однако эти алгоритмы программируются людьми, поэтому всегда возникает вопрос, передают ли компьютеры и алгоритмы в конечном итоге предвзятость программистов.
Говоря о раздельном суждении женщин и мужчин, Аарон Кляйн, научный сотрудник Брукингского института, объяснил: «Женщины, как правило, несут кредитный риск. Хотя дискриминация является незаконной, данные показывают, что женщины, контролирующие доходы и другие вещи, имеют больший кредитный риск. Таким образом, предоставление мужчинам более выгодных условий кредита незаконно и, похоже, не соответствует международному опыту».
Реакция общественности на этот вопрос вынудила Goldman Sachs выступить с ответом. Они подчеркнули, что оценка кредитоспособности производится на основе индивидуального дохода и кредитоспособности, и это может привести к тому, что члены семьи будут принимать «значительно разные кредитные решения».
Представитель Goldman Sachs Эндрю Уильямс подчеркнул, что «во всех случаях мы не принимали и не будем принимать решения на основе таких факторов, как пол».
Доля вины
После того как бывший сотрудник Apple написал в Твиттере, что его разочаровало происходящее, соучредитель Apple Стив Возняк ответил, что «то же самое произошло и с нами (10X), несмотря на отсутствие каких-либо отдельных активов или учетных записей. Некоторые говорят, что вина лежит на Goldman Sachs, но, учитывая отношение Apple, они должны разделить ответственность».
Считаете ли вы, что Apple так же виновата, как и Goldman Sachs, в неравных утверждениях кредитов по Apple Card? У вас есть Apple Card и вы заметили гендерную предвзятость? Расскажите нам о своем опыте в комментариях ниже.
Изображение предоставлено: Apple.com и общественное достояние
