Искусственный интеллект усложняет, а не упрощает работу модераторов контента. Он не может надежно распознавать жестокость и зло, пишет Bloomberg со ссылкой на 13 профессиональных фильтраторов онлайн-материалов.
Один из сотрудников TikTok под псевдонимом Кевин заявил, что более года назад ему поручили использовать ИИ-программу в своей работе. Он оценил количество ошибок примерно в 70%. Например, искусственный интеллект может сообщить о низком уровне топлива на приборной панели автомобиля на видео, хотя должен проанализировать спидометр, показывающий 200 км/ч.
Кевин считает, что, несмотря на возникающие трудности, работодатели продолжат заменять людей машинами.
Профессиональные модераторы подтвердили утверждение — ИИ начинают применять быстрее, чем он учится качественно отсеивать вредоносный контент.
Эксперты опасаются возникновения контролируемой искусственным интеллектом интернет-среды, в которой ненависть, пропаганда, совращение детей и другие формы онлайн-угроз будут свободно распространяться.
«Если встать на путь внедрения ИИ, чтобы сократить количество специалистов по безопасности, это приведет к ее снижению. Нужны живые люди», — заявил директор по технологиям Канадского центра защиты детей Ллойд Ричардсон.
Работа модератора контента наносит эмоциональные травмы, а найм достаточного количества людей — сложная задача. Пользователи только на YouTube загружают более 20 млн видео в день. Компании делают ставку на искусственный интеллект, однако он лишь мешает.
Из 13 модераторов, с которыми поговорили журналисты Bloomberg, 12 заявили об усложнении работы после интеграции нейросетей.
«Мы не можем полагаться на подсказки ИИ. В 80% случаев он ошибается. Мы даже не смотрим на его предложения», — заявила 36-летняя сотрудница казахстанской фирмы по модерации контента Жанерке Каиденова.
Кевин тратит время на исправление ошибок, вручную проставляя сверхточные метки для всего увиденного. Эта работа только увеличивает нагрузку и отнимает время, которое можно было бы потратить на более срочные задачи.
Он уверен, что его дотошные исправления фактически обучают систему, и в итоге она заменит его, хотя руководство прямо об этом не говорит.
Напомним, в мае 2024 года Reddit объявила о партнерстве с OpenAI, которое предоставило реддиторам и модераторам новые функции на базе ИИ.
![Обои POCO F7 Pro и F7 Ultra стали доступны всем желающим [скачать]](https://itoboz.com/wp-content/uploads/2025/03/oboi_poco_f7_pro_i_f7_ultra_stali_dostupny_vsem_zhelauschim_skachat_1_resize-350x250.jpg)
