Goldman Sachs обвиняют в дискриминации из-за кредитных лимитов

Компании, которые применяют необъективные алгоритмы, даже неосознанно, все еще несут ответственность за возможные дискриминационные последствия. Об этом сообщает CNBC со ссылкой на регулирующий орган Уолл Стрит, который занимается изучением совместного продукта от Apple и Goldman Sachs — Apple Card.

«Алгоритмы не получают иммунитета от дискриминации», — сказала Линда Лейсвеллл, сотрудница Нью-Йоркского департамента финансовых услуг, который расследует заявления о том, что карта Goldman Sachs Apple Card является дискриминационной в отношении женщин при определении кредитных лимитов.

«Независимо от того, есть намерение или нет, разрозненное воздействие является незаконным», — добавила она.

Речь идет о заявлении, поступившем от предпринимателя Дэвида Хайнемейера Ханссона, который сказал в четверг в Twitter, что Apple Card предоставила ему кредитный лимит в 20 раз выше, чем его жене, хотя она имеет более высокий кредитный рейтинг, чем он, и пара совместно подает налоговые декларации.

Соучредитель Apple Стив Возняк позже отметил, что карта Apple Card дала ему в 10 раз больше кредитного лимита, чем жене.

В заявлении, опубликованном в воскресенье, Goldman уточнил, что не учитывает гендерные аспекты при принятии кредитных решений и оценивает все заявки независимо. Финансовый конгломерат также сообщил, что ищет способы для членов семьи разделить один аккаунт Apple Card.

В свою очередь Линда Лейсвелл сказала, что ее агентство, которое регулирует деятельность банков в Нью-Йорке, поддерживает контакты с представителями Goldman и может встретиться с ними уже во вторник.

goldman sachs

«Goldman — это банк, который причастен к работе Apple Card и мы попросили компанию объяснить, как работает их алгоритм», — заявила Линда Лейсвелл, уточнив, что в Нью-Йорке дискриминация в сфере финансовых услуг по признаку пола или любого другого защищаемого класса является незаконной.

«Именно компания, которая использует алгоритм, несет ответственность за то, чтобы он не оказывал дискриминационного воздействия на защищенные классы», — сказал Лейсуэлл, утверждая, что разработчикам и продавцам алгоритмов необходимо провести «соответствующее тестирование», чтобы не допустить его предвзятости.

Нет такого понятия, как «компания не делала этого, алгоритм делал», — сказала она.

Напомним, что Apple Card стала доступна для жителей США с августа этого года, после ограниченного предварительного тестирования.

В ходе телефонной конференции в октябре генеральный директор Goldman Дэвид Соломон заявил, что карты Apple Card сопровождаются большим ажиотажем

«С точки зрения операционной деятельности и рисков, мы справлялись с притоком без ущерба для наших стандартов кредитного андеррайтинга», — сказал Соломон, добавив, что Goldman считает это «самым успешным запуском кредитных карт в истории».

Вопрос гендерного равноправия не единственный в своем роде. Напомним, что накануне медицинский алгоритм отдавал предпочтение белым пациентам перед чернокожими.