В действиях алгоритма создания превью изображений в Twitter обнаружили расовые и половые предубеждения

Разработчики из Twitter изучили алгоритм автоматического создания превью изображений, которые загружаются в социальную сеть пользователями. В результате было установлено, что этот инструмент в процессе работы оставляет белых людей на фото чаще, чем темнокожих, а женщин — чаще чем мужчин.

Изображение: Getty Images

Twitter также объявила о начале процесса отказа от использования старой системы создания изображений для предварительного просмотра, которая автоматически применяется к картинкам в постах пользователей. Согласно имеющимся данным, более совершенный алгоритм обрезки изображений уже начал постепенно разворачиваться для пользователей Twitter, которые взаимодействуют с платформой с помощью мобильных устройств.

Источник отмечает, что старый алгоритм уделял особое внимание тому, чтобы центрировать вид очень высоких или широких изображений таким образом, чтобы кадрировать лица людей или какие-то другие интересные детали, запечатлённые на снимке. Однако не всегда эта функция срабатывала должным образом, из-за чего в некоторых случаях превью получалось неудачным.

На расовые предубеждения алгоритма обрезки фото в Twitter ещё в прошлом году обратили внимание пользователи соцсети. Разработчики быстро отреагировали на их сообщения и пообещали проделать работу, направленную на исследование данного вопроса. В результате оказалось, что старый алгоритм на 8 % чаще оставлял в кадре мужчин, на 4 % чаще белых людей обоих полов по сравнению с темнокожими, на 7 % чаще белых женщин по сравнению с темнокожими и на 2 % чаще белых мужчин по сравнению с темнокожими.

«Мы попытались найти компромисс между скоростью обработки и согласованностью автоматической обрезки с потенциальными рисками, которые были выявлены в исследовании. Один из наших выводов заключается в том, что не все пользователи Twitter являются подходящими кандидатами для обработки алгоритмом, и в этом случае решение о том, как кадрировать изображение, лучше всего принимает человек», — сказала глава подразделения по разработке программного обеспечения в Twitter Румман Чоудхури (Rumman Chowdhury). Она также напомнила, что недавно в Twitter была развёрнута функция реалистичного предварительного просмотра, позволяющая избежать кадрирования снимков с соотношением сторон 16:9 и 4:3.

Источник:

• BBC