Сенатор призвала отменить «сексистский» алгоритм для карт Apple Card

Скандал с кредитными картами Apple Card, начавшийся после того, как создатель фреймворка Ruby on Rails Дэвид Хайнемайер Хэнсон (David Heinemeier Hansson) написал в Твиттере, что Goldman Sachs дал ему кредитный лимит в 20 раз выше, чем его жене, получил продолжение.

Хэнсон затем сообщил, что хотя проблема была решена после того, как его твит стал вирусным, у него вызывает сомнение алгоритм, используемый для определения кредитных лимитов владельцам Apple Card. «Откуда вы знаете, что с алгоритмом машинного обучения нет проблем, когда никто не может объяснить, как было принято это решение?», — задал вопрос Хэнсон.

Первоначально банк выпустил краткое заявление о том, что кредитная линия каждого лица оценивается индивидуально, исходя из ряда факторов, включая доход, кредитный рейтинг, задолженность и способ управления долгом. Увидев, что скандал продолжается, Goldman выпустил новое заявление, в котором говорится, что его система оценки не принимает в учёт пол или семейное положение заявителя, так как данные сведения не закладываются в перечень факторов, и предложил пересмотреть кредитный лимит для любого, кто считает, что совершена ошибка.

В свою очередь, американский сенатор и кандидат в президенты Элизабет Уоррен (Elizabeth Warren) раскритиковала нынешнюю позицию банка, приглашающего людей обращаться в службу поддержки, если они недовольны своим кредитным лимитом. Сенатор заявила, что компания несёт ответственность за предоставление информации о том, как был разработан этот алгоритм, и о его точном механизме. «Если они не могут это сделать, то им нужно его удалить», — считает сенатор.

Источник: