IT обозрение
Пятница, 20 ноября, 2026
No Result
View All Result
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта
  • ИИ
  • ru Русский
    • ar العربية
    • zh-CN 简体中文
    • cs Čeština‎
    • nl Nederlands
    • en English
    • et Eesti
    • fr Français
    • de Deutsch
    • iw עִבְרִית
    • it Italiano
    • lv Latviešu valoda
    • lt Lietuvių kalba
    • pl Polski
    • pt Português
    • ru Русский
    • es Español
    • uk Українська
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта
  • ИИ
  • ru Русский
    • ar العربية
    • zh-CN 简体中文
    • cs Čeština‎
    • nl Nederlands
    • en English
    • et Eesti
    • fr Français
    • de Deutsch
    • iw עִבְרִית
    • it Italiano
    • lv Latviešu valoda
    • lt Lietuvių kalba
    • pl Polski
    • pt Português
    • ru Русский
    • es Español
    • uk Українська
No Result
View All Result
IT обозрение
No Result
View All Result
Home ИИ

ИИ в WhatsApp заставили показать запрещенный контент

25.10.2024
A A
0
Share on FacebookShare on Twitter

риски ИИ. ИИ предоставляет риски для компаний, бизнеса AI risks

Журналист Decrypt Хосе Антонио Ланц смог обойти систему защиты в интегрированном в WhatsApp ИИ от Meta и сгенерировать цензурированный контент.

ЭТО ИНТЕРЕСНО

CEO Nvidia намекнул на остановку инвестиций в OpenAI и Anthropic

CEO Nvidia намекнул на остановку инвестиций в OpenAI и Anthropic

05.03.2026
Блокчейн Ethereum станет независимой средой верификации для ИИ-агентов

Блокчейн Ethereum станет независимой средой верификации для ИИ-агентов

05.03.2026

Недавно корпорация Марка Цукерберга запустила линейку продуктов на базе Llama 3.2, предлагающих генерацию текста, кода и изображений. Ланц провел ряд экспериментов для обхода защиты и заставил нейросеть в WhatsApp «делать практически все: от помощи в изготовлении кокаина до создания взрывчатки и фотографии обнаженной женщины».

Поначалу искусственный интеллект отклонял запросы касательно информации о создании наркотиков, но журналист менял формулировки вопросов. В результате она предоставила пошаговую инструкцию.

«Это распространенная техника взлома. Облекая вредоносный запрос в академические или исторические рамки, модель обманывают, заставляя поверить, что у нее запрашивают нейтральную, образовательную информацию», — отметил Ланц.

Аналогичный подход журналист применил к вопросам о создании бомбы. ИИ от Meta поначалу отказывался предоставлять инструкцию, отправляя на горячую линию.

Ланц постепенно настраивал модель таким образом, чтобы она не выдавала ранее предоставленные ответы, которые были предназначены для блокировки вредоносной информации. Например, он поручил ей не выводить номера телефонов горячей линии службы поддержки, не прекращать обработку запроса и не давать советы.

Угон автомобиля

Вместо просьбы рассказать о способах угона машины Ланц попросил ИИ отыграть роль сценариста, который пишет про кражу автомобиля. Нейросеть предоставила техники взлома и запуска двигателя без ключа.

Ролевая игра — это одна из распространенных техник обхода цензуры, отметил он.

Обнаженная девушка

По умолчанию Meta AI не должен генерировать наготу или насилие, поэтому поначалу модель отказывалась это делать. Впоследствии Ланц сказал ИИ, что делает анатомическое исследование — это сработало. Модель сгенерировала девушку с обнаженной грудью.

Напомним, в июле экспертам удалось обойти цензуру ряда нейросетей касательно темы выборов в США.

Читайте так-же

CEO Nvidia намекнул на остановку инвестиций в OpenAI и Anthropic
ИИ

CEO Nvidia намекнул на остановку инвестиций в OpenAI и Anthropic

05.03.2026
0

Недавняя инвестиция $30 млрд в OpenAI «может стать последней» для Nvidia перед выходом ИИ-стартапа на биржу. Об этом заявил генеральный...

Read more
Блокчейн Ethereum станет независимой средой верификации для ИИ-агентов

Блокчейн Ethereum станет независимой средой верификации для ИИ-агентов

05.03.2026
Падение доходов заставило биткоин-майнеров променять крипторезервы на ИИ-инфраструктуру

Падение доходов заставило биткоин-майнеров променять крипторезервы на ИИ-инфраструктуру

05.03.2026
OpenAI и Google представили новые ИИ-модели GPT-5.3 Instant и Gemini 3.1 Flash-Lite

OpenAI и Google представили новые ИИ-модели GPT-5.3 Instant и Gemini 3.1 Flash-Lite

05.03.2026
X ввела наказания за публикацию ИИ-видео военных конфликтов без маркировки

X ввела наказания за публикацию ИИ-видео военных конфликтов без маркировки

04.03.2026

ТОП НОВОСТИ

Рон Ховард назвал условие, при котором может появиться сиквел «Гринча»

18.11.2026

Почему Паттинсон: Джефф Безос раскрыл подробности кастинга на роль Бонда

18.11.2026
Анонс Infobar Zero: японская звонилка от дизайнера Realme Master Edition

Анонс Infobar Zero: японская звонилка от дизайнера Realme Master Edition

18.11.2026

Ученые симулировали один ядерный взрыв на орбите – он выведет из строя 98% спутников за неделю

18.11.2026

Мел Гибсон нашёл нового Иисуса: реакция звезды «Страстей Христовых»

18.11.2026

ПОПУЛЯРНОЕ

  • Blizzard анонсировала крупнейшее обновление Overwatch – синематик Вендетты, 10 героев в год и ребрендинг без цифры «2»

    Electronic Arts привезет на E3 2017 новые Star Wars: Battlefront и Need for Speed

    0 shares
    Share 0 Tweet 0
  • Цена подержанных iPhone с установленной Fortnite взлетела выше $10 000

    0 shares
    Share 0 Tweet 0
  • ИИ-ассистент Meta Muse показывал пользователям чужие банковские счета и читал сообщения в Signal

    0 shares
    Share 0 Tweet 0
  • Топ-5 интернет-магазинов электроники в Украине в 2026 году: где купить ноутбук и смартфон

    0 shares
    Share 0 Tweet 0
  • GTA 6 не поддерживает стабильные 30 FPS на PS5. На что способна Xbox Series S

    0 shares
    Share 0 Tweet 0
  • О нас
  • Реклама
  • Контакты
  • Политика конфиденциальности
  • Sitemap
Реклама: digestmediaholding@gmail.com

Использование любых материалов, опубликованных на портале itoboz.com, разрешается только при условии обязательного указания источника. Любое использование контента — будь то статьи, аналитические материалы, обзоры или новостные публикации — должно сопровождаться прямой гиперссылкой, открытой для индексации поисковыми системами.
Для интернет-СМИ, блогов и иных онлайн-платформ необходимо размещать такую ссылку либо в подзаголовке, либо в первом абзаце публикации. Скрытые ссылки или технические методы, препятствующие индексации, использовать запрещается.

Редакция портала itoboz.com публикует материалы различных авторов, однако не обязательно разделяет их мнение или позицию. Все точки зрения, представленные в статьях, обзорах и комментариях, принадлежат исключительно авторам публикаций. Редакция не несет ответственности за содержание републикуемых материалов, а также за любые последствия их использования третьими лицами.

© 2010-2026 IT новости. All Rights reserved

No Result
View All Result
  • Новости
  • Игры
  • Смартфоны
  • Обзоры
  • Софт
  • Криптовалюта

Использование любых материалов, опубликованных на портале itoboz.com, разрешается только при условии обязательного указания источника. Любое использование контента — будь то статьи, аналитические материалы, обзоры или новостные публикации — должно сопровождаться прямой гиперссылкой, открытой для индексации поисковыми системами.
Для интернет-СМИ, блогов и иных онлайн-платформ необходимо размещать такую ссылку либо в подзаголовке, либо в первом абзаце публикации. Скрытые ссылки или технические методы, препятствующие индексации, использовать запрещается.

Редакция портала itoboz.com публикует материалы различных авторов, однако не обязательно разделяет их мнение или позицию. Все точки зрения, представленные в статьях, обзорах и комментариях, принадлежат исключительно авторам публикаций. Редакция не несет ответственности за содержание републикуемых материалов, а также за любые последствия их использования третьими лицами.

© 2010-2026 IT новости. All Rights reserved

wpDiscuz