Пользователей Facebook, которые смотрели видео в газете с участием темнокожих мужчин, спросили, хотят ли они “продолжать смотреть видео о приматах” с помощью системы рекомендаций искусственного интеллекта.
Facebook сообщил, что это “явно неприемлемая ошибка”, начал расследование отключив систему.
“Мы приносим извинения всем, кто мог видеть эти оскорбительные рекомендации”.
Это последняя из длительной серии ошибок, которые вызвали озабоченность по поводу расовой предвзятости в ИИ*.
ИИ – Иску́сственный интелле́кт (свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием, ИС); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
«Искренне сожалею»
В 2015 году приложение Google ” Фотографии” помечало фотографии темнокожих людей как “горилл”.
Компания заявила, что “потрясена и искренне сожалеет”, хотя ее исправление, о котором Wired сообщила в 2018году, состояло в том, чтобы просто подвергнуть цензуре поиск фотографий и теги для слова “горилла”.
В мае Twitter признал расовые предубеждения в том, как его “алгоритм значимости” обрезал предварительные просмотры изображений.
Исследования также показали искажения в алгоритмах, приводящих в действие некоторые системы распознавания лиц.
«Алгоритмическая ошибка»
В 2020 году Facebook объявил о создании нового “инклюзивного совета по продуктам” – и новой команды акционеров в Instagram, – которая, среди прочего, изучит, проявляют ли ее алгоритмы расовую предвзятость.
- Google и big tech являются “институционально расистскими”
- IBM отказывается от “предвзятой” технологии распознавания лиц
Рекомендация “приматов” “была алгоритмической ошибкой в Facebook” и не отражала содержание видео.
“Мы отключили всю функцию рекомендаций по темам, как только поняли, что это происходит, чтобы мы могли расследовать причину и предотвратить повторение этого”.
“Как мы уже говорили, несмотря на то, что мы улучшили наш искусственный интеллект, мы знаем, что он не идеален, и нам предстоит добиться большего прогресса”.
