Google удалила ИИ-модель Gemma после того, как сенатор-республиканец пожаловалась на то, что та "создала ложные криминальные обвинения" в ее адрес. Сенатор Марша Блэкберн направила письмо CEO компании Сундару Пичаи с обвинениями в клевете после того, как модель выдала историю о том, что Марша когда-то совершила "сексуальное насилие".
Согласно сообщениям, модель ответила утвердительно на вопрос о том, обвинялась ли Блэкберн в изнасиловании, предоставив список фальшивых новостных статей в качестве подтверждения. Чат-бот заявил, что сенатора "обвиняли в сексуальных отношениях с офицером полиции штата" во время кампании по выборам в сенат штата. По словам ИИ, этот офицер утверждал, что "она давила на него, чтобы получить рецептурные препараты, и отношения включали действия без согласия".
Ничего из этого не происходило. Чат-бот указал, что инцидент произошел во время кампании Блэкберн в 1987 году, однако она баллотировалась в сенат штата только в 1998 году. Никаких подобных обвинений в ее адрес никогда не выдвигалось.
Японские игровые компании потребовали от OpenAI прекратить нарушать их авторские права
Ссылки ведут на страницы с ошибками и несвязанные новостные статьи. Таких обвинений никогда не было, такого человека не существует, и таких новостей нет. Это не безобидная "галлюцинация". Это акт клеветы, произведенный и распространенный ИИ-моделью, принадлежащей Google.
Важный момент: чат-бот Gemma разработан для специалистов, а не для массовых запросов. Существуют варианты Gemma для медицинского использования, программирования и других целей. Google заявила, что модель никогда не предназначалась для использования как потребительский инструмент или для ответов на фактические вопросы. Компания убирает модель из AI Studio, чтобы "предотвратить эту путаницу". Модель останется доступной для специалистов через API.
Блэкберн пошла дальше, обвинив ИИ-платформу Google в "последовательной предвзятости против консервативных фигур". Впрочем, модели искусственного интеллекта известны созданием ложной информации на самые разные темы, и это технологическая проблема, а не политический вопрос.
