Американка азиатского происхождения Рона Вонг была неприятно удивлена, когда попросила ИИ сделать ей наиболее «профессиональное» фото для профиля в LinkedIn. Генеративная модель Playground AI изменила черты внешности девушки, сделав ее белой.
Курс Курс-професія Python Developer. Оволодійте писанням чистого та ефективного коду на Python навіть без технічного бекграунду. Курс з досвідченим викладачем навчить роботі з базами даних, серверами та створенню застосунків з нуля. Більше про курс
Как известно, социальная сеть LinkedIn используется для поддержания профессиональных контактов и поиска вакансий. Контекст делает ситуацию намного более неприемлемой: получается, ИИ считает, что человеку с такой внешностью легче найти работу?
24-летняя выпускница MIT, Рона Вонг изучала математику, информатику и закончила аспирантуру прошлой осенью. Она буквально попросила «дать девушке с оригинальной фотографии профессиональное фото для профиля LinkedIn». В ответ на этот запрос ИИ сделал ее глаза более широкими и голубыми, осветлил кожу и и европеизировал другие черты.
«Первой моей реакцией на результат было удивление. Однако я рада видеть, что это стало катализатором более широкой дискуссии о предвзятости ИИ … Расовая предвзятость является постоянной проблемой инструментов ИИ. Я до сих пор не получила пригодных для использования результатов от генераторов фото или ИИ-редакторов изображений, поэтому пока мне придется обходиться без новой фотографии профиля LinkedIn».
Вонг высказалась и о схожей проблеме на другом конце связки «соискатель-работодатель»: если компании используют ИИ для поиска сотрудников, модели могут подбирать им кандидатов по тому же принципу – наиболее похожих на белых.
Курс английского. Не виходячи з дому отримайте доступ до високоякісного навчання завдяки інтерактивній онлайн‑платформі. Вивчити курс
«Я определенно думаю, что это проблема. Я надеюсь, что люди, которые создают программное обеспечение, знают об этих предубеждениях и думают о том, как их смягчить».
Основатель Playground AI Сухейл Доши ответил девушке: «Модели не являются инструктируемыми, поэтому они выбирают любую общую вещь на основе подсказки. К сожалению, они недостаточно умны. Рад помочь вам получить результат, но это потребует немного больше усилий».
Недавнее исследование компании Hugging Face, специализирующейся на искусственном интеллекте, показало, что ИИ-генераторы изображений имеют проблемы с гендерными и расовыми предубеждениями.
Исследователи выяснили, что когда DALL-E2 предлагали создать изображения людей на руководящих должностях, в 97% случаев он создавал изображения белых мужчин.
Это объяснили тем, что ИИ был обучен на предвзятых данных, которые усиливают стереотипы.
Помните, в 2015 году Google Фото принял двух темнокожих за горилл — нейросети Google (равно как и Apple, Amazon и Microsoft) здесь все еще бессильны
Источники: Boston Globe, Insider
Голосуй за переможця конкурсу блогів. Голосування проходить з 25 липня по 8 серпня включно. Головний приз — сучасний ігровий ПК ASGARD (i7 13700, 32Gb RAM, SSD 1Tb, GF RTX 4060Ti 8Gb) від інтернет-магазину click.ua. Віддай свій голос за найкращого! Деталі тут.
