IT обозрение
Вторник, 8 июля, 2025
No Result
View All Result
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта
  • ИИ
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта
  • ИИ
No Result
View All Result
IT обозрение
No Result
View All Result
Home ИИ

Ведущие ИИ-компании обязались проверять датасеты на наличие материалов CSAM

24.04.2024
A A
0
Share on FacebookShare on Twitter

AI fake news фейки

Техгиганты вроде Google, Meta, OpenAI, Microsoft и Amazon согласились принять меры по предотвращению использования материалов о сексуальном насилии над детьми (CSAM) в обучающих наборах данных для искусственного интеллекта.

ЭТО ИНТЕРЕСНО

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд

07.07.2025
Психоделики и ИИ: популярность и опасность

Психоделики и ИИ: популярность и опасность

04.07.2025

Компании подписали новый набор принципов, призванных ограничить распространение подобного контента. Они пообещали:

  • гарантировать, что обучающие наборы данных не содержат CSAM;
  • избегать датасеты с высоким риском включения вредных материалов;
  • удалять изображения CSAM или ссылки на них из источников данных.

Компании также обязались проводить «стресс-тестирование» моделей ИИ. Это позволит убедиться, что они не генерируют изображения CSAM.

Выпускать новые модели разработчики смогут лишь в том случае, если они прошли оценку на предмет детской безопасности.

В число подписавших соглашение входят также Anthropic, Civitai, Metaphysic, Mistral AI и Stability AI.

ИИ усугубил проблему распространения CSAM

Генеративный ИИ способствовал росту обеспокоенности по поводу дипфейков, в том числе распространению в сети поддельных фотографий CSAM. В декабре 2023 года исследователи Стэнфорда опубликовали доклад, в котором обнаружили, что популярный набор данных для обучения ИИ содержит ссылки на подобные изображения.

Они также выяснили, что телефонная линия Национального центра помощи пропавшим и эксплуатируемым детям (NCMEC) оказалась перегруженной изображениями CSAM, созданными искусственным интеллектом.

Некоммерческая организация Thorn утверждает, что ИИ-изображения помешают усилиям по выявлению жертв. Также это может создать дополнительный спрос на материалы CSAM, способствовать виктимизации детей, а также облегчить поиск информации о том, как делиться проблемными материалами.

Помимо принятия новых обязательств, Google также пообещала увеличить рекламные гранты для NCMEC. Вице-президентка компании по решениям в области доверия и безопасности Сьюзан Джаспер отметила, что поддержка этих инициатив повышает осведомленность общественности и дает людям инструменты для выявления и сообщения о злоупотреблениях.

Напомним, в октябре 2023 года британские эксперты сообщили о быстром распространении материалов CSAM, созданных с помощью искусственного интеллекта.

https://forklog.com/exclusive/ai/temnaya-era-ii-pochemu-etika-iskusstvennogo-intellekta-vazhna

Читайте так-же

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд
ИИ

CoreWeave поглотит биткоин-майнера Core Scientific за $9 млрд

07.07.2025
0

ИИ-гиперскейлер CoreWeave подписал окончательное соглашение о покупке американской майнинговой компании Core Scientific, оценив ее в $9 млрд. В рамках сделки...

Read more
Психоделики и ИИ: популярность и опасность

Психоделики и ИИ: популярность и опасность

04.07.2025
Мнение: Европе нужен прикладной ИИ, а не чипы

Мнение: Европе нужен прикладной ИИ, а не чипы

04.07.2025
Чат-боты украли трафик новостных ресурсов 

Чат-боты украли трафик новостных ресурсов 

03.07.2025
ИИ восстановил 3000-летнюю вавилонскую поэму

ИИ восстановил 3000-летнюю вавилонскую поэму

03.07.2025

ТОП НОВОСТИ

«Реанимация» NVIDIA RTX 5090 с треснувшей платой — когда «пациент» этого стоит, а «операция» выявляет скрытые недостатки

«Реанимация» NVIDIA RTX 5090 с треснувшей платой — когда «пациент» этого стоит, а «операция» выявляет скрытые недостатки

08.07.2025
Коммерсант: Российские власти прорабатывают новые механизмы регулирования видеоигровой индустрии

Коммерсант: Российские власти прорабатывают новые механизмы регулирования видеоигровой индустрии

08.07.2025
Горячо! Дизайн Xiaomi 16 Pro Max раскрыт шпионским фото крышки

Горячо! Дизайн Xiaomi 16 Pro Max раскрыт шпионским фото крышки

08.07.2025
Бывший CEO Intel Пэт Гелсингер говорит, что недооценил роль ИИ — но всё сделал бы так же

Бывший CEO Intel Пэт Гелсингер говорит, что недооценил роль ИИ — но всё сделал бы так же

07.07.2025
Новый градостроитель в духе Caesar 3 переносит игроков под воду

Новый градостроитель в духе Caesar 3 переносит игроков под воду

07.07.2025

ПОПУЛЯРНОЕ

  • Как установить Linux-приложение на Chrome OS

    Как установить Linux-приложение на Chrome OS

    0 shares
    Share 0 Tweet 0
  • Патч для MindsEye, который делает врагов умнее, вышел на консолях, но не на ПК

    0 shares
    Share 0 Tweet 0
  • Новый патч для ПК-версии Stellar Blade добавил карточки и фоны в Steam и разблокировал сложный режим

    0 shares
    Share 0 Tweet 0
  • Ryzen 5 1500X, GTX 970 и 2 ГБ свободного места — объявлены системные требования ремейка Postal 2

    0 shares
    Share 0 Tweet 0
  • Ryzen 7 7700X, RTX 3060 и всего 20 ГБ свободного места — опубликованы системные требования Killing Floor 3

    0 shares
    Share 0 Tweet 0
  • Реклама
  • Контакты
  • Политика конфиденциальности
Реклама: digestmediaholding@gmail.com

Использование любых материалов сайта разрешается при условии ссылки на itoboz.com
Интернет-СМИ должны использовать открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала. Редакция может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

© 2010-2025 IT новости. All Rights reserved

No Result
View All Result
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта

Использование любых материалов сайта разрешается при условии ссылки на itoboz.com
Интернет-СМИ должны использовать открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала. Редакция может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

© 2010-2025 IT новости. All Rights reserved

wpDiscuz