IT обозрение
Вторник, 8 июля, 2025
No Result
View All Result
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта
  • ИИ
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта
  • ИИ
No Result
View All Result
IT обозрение
No Result
View All Result
Home ИИ

Ведущие ИИ-компании обязались проверять датасеты на наличие материалов CSAM

24.04.2024
A A
0
Share on FacebookShare on Twitter

AI fake news фейки

Техгиганты вроде Google, Meta, OpenAI, Microsoft и Amazon согласились принять меры по предотвращению использования материалов о сексуальном насилии над детьми (CSAM) в обучающих наборах данных для искусственного интеллекта.

ЭТО ИНТЕРЕСНО

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд

07.07.2025
Психоделики и ИИ: популярность и опасность

Психоделики и ИИ: популярность и опасность

04.07.2025

Компании подписали новый набор принципов, призванных ограничить распространение подобного контента. Они пообещали:

  • гарантировать, что обучающие наборы данных не содержат CSAM;
  • избегать датасеты с высоким риском включения вредных материалов;
  • удалять изображения CSAM или ссылки на них из источников данных.

Компании также обязались проводить «стресс-тестирование» моделей ИИ. Это позволит убедиться, что они не генерируют изображения CSAM.

Выпускать новые модели разработчики смогут лишь в том случае, если они прошли оценку на предмет детской безопасности.

В число подписавших соглашение входят также Anthropic, Civitai, Metaphysic, Mistral AI и Stability AI.

ИИ усугубил проблему распространения CSAM

Генеративный ИИ способствовал росту обеспокоенности по поводу дипфейков, в том числе распространению в сети поддельных фотографий CSAM. В декабре 2023 года исследователи Стэнфорда опубликовали доклад, в котором обнаружили, что популярный набор данных для обучения ИИ содержит ссылки на подобные изображения.

Они также выяснили, что телефонная линия Национального центра помощи пропавшим и эксплуатируемым детям (NCMEC) оказалась перегруженной изображениями CSAM, созданными искусственным интеллектом.

Некоммерческая организация Thorn утверждает, что ИИ-изображения помешают усилиям по выявлению жертв. Также это может создать дополнительный спрос на материалы CSAM, способствовать виктимизации детей, а также облегчить поиск информации о том, как делиться проблемными материалами.

Помимо принятия новых обязательств, Google также пообещала увеличить рекламные гранты для NCMEC. Вице-президентка компании по решениям в области доверия и безопасности Сьюзан Джаспер отметила, что поддержка этих инициатив повышает осведомленность общественности и дает людям инструменты для выявления и сообщения о злоупотреблениях.

Напомним, в октябре 2023 года британские эксперты сообщили о быстром распространении материалов CSAM, созданных с помощью искусственного интеллекта.

https://forklog.com/exclusive/ai/temnaya-era-ii-pochemu-etika-iskusstvennogo-intellekta-vazhna

Читайте так-же

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд
ИИ

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд

07.07.2025
0

ИИ-гиперскейлер CoreWeave подписал окончательное соглашение о покупке американской майнинговой компании Core Scientific, оценив ее в $9 млрд. В рамках сделки...

Read more
Психоделики и ИИ: популярность и опасность

Психоделики и ИИ: популярность и опасность

04.07.2025
Мнение: Европе нужен прикладной ИИ, а не чипы

Мнение: Европе нужен прикладной ИИ, а не чипы

04.07.2025
Чат-боты украли трафик новостных ресурсов 

Чат-боты украли трафик новостных ресурсов 

03.07.2025
ИИ восстановил 3000-летнюю вавилонскую поэму

ИИ восстановил 3000-летнюю вавилонскую поэму

03.07.2025

ТОП НОВОСТИ

Глобальные биржевые криптовалютные продукты (ETP) зафиксировали приток рекордных $1,04 млрд за неделю

08.07.2025
Датская студия сделает игру своей мечты на деньги Square Enix

Датская студия сделает игру своей мечты на деньги Square Enix

08.07.2025
ВИДЕО: хейтеры были правы? Как снимался обзор Honor GT Pro

ВИДЕО: хейтеры были правы? Как снимался обзор Honor GT Pro

08.07.2025
«Реанимация» NVIDIA RTX 5090 с треснувшей платой — когда «пациент» этого стоит, а «операция» выявляет скрытые недостатки

«Реанимация» NVIDIA RTX 5090 с треснувшей платой — когда «пациент» этого стоит, а «операция» выявляет скрытые недостатки

08.07.2025
Коммерсант: Российские власти прорабатывают новые механизмы регулирования видеоигровой индустрии

Коммерсант: Российские власти прорабатывают новые механизмы регулирования видеоигровой индустрии

08.07.2025

ПОПУЛЯРНОЕ

  • Summer Game Fest 2025 стал самым просматриваемым шоу в истории мероприятия

    Summer Game Fest 2025 стал самым просматриваемым шоу в истории мероприятия

    0 shares
    Share 0 Tweet 0
  • Как установить Linux-приложение на Chrome OS

    0 shares
    Share 0 Tweet 0
  • Новый геймплей Mafia: The Old Country – больше деталей через неделю

    0 shares
    Share 0 Tweet 0
  • Анонс Sony LYT-828 – самая передовая камера для будущих фотофлагманов

    0 shares
    Share 0 Tweet 0
  • Разработчики Civilization 7 в деталях рассказали про Эпохи — по сути, каждая эпоха, это маленькая партия в Civ

    0 shares
    Share 0 Tweet 0
  • Реклама
  • Контакты
  • Политика конфиденциальности
Реклама: digestmediaholding@gmail.com

Использование любых материалов сайта разрешается при условии ссылки на itoboz.com
Интернет-СМИ должны использовать открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала. Редакция может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

© 2010-2025 IT новости. All Rights reserved

No Result
View All Result
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта

Использование любых материалов сайта разрешается при условии ссылки на itoboz.com
Интернет-СМИ должны использовать открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала. Редакция может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

© 2010-2025 IT новости. All Rights reserved

wpDiscuz