В конце января компания Amazon снова оказалась в центре скандала, связанного с ее искусственным интеллектом для распознавания лиц. Выяснилось, что ее система Rekognition не способна различить пол чернокожих людей, и поэтому сильно уступает по возможностям аналогам от Microsoft и других компаний. Логичным способом решения проблемы было бы использование более качественных обучающих данных, но исследователи из лаборатории искусственного интеллекта Массачусетского университета придумали более действенный способ.
Стало известно, что они разрабатывают алгоритм, который автоматически избавляет наборы обучающих данных от фотографий, которые могут привести к ошибке при распознавании людей с темной кожей. Исследователи не обещают, что такой способ даст 100% результат, но количество ошибок явно станет меньше. Об этом свидетельствуют внутренние тесты ученых: искусственный интеллект стал на 60% менее предвзятым, и при этом не утратил точность распознавания. Технология также снизит время обучения — использование больших объемов данных сильно замедляло процесс.
Отсутствие предвзятости — очень важная характеристика для искусственного интеллекта. Он все чаще используется полицией, поэтому даже маленькая ошибка алгоритма может стать причиной того, что в тюрьму может быть посажен совершенно невиновный человек. Многим людям не нравится повсеместное использование систем распознавания лиц, но если они и будут использоваться — важно, чтобы они работали максимально точно.
Источник: hi-news.ru
