В новом исследовании ученые демонстрируют, что ИИ уже легко идентифицирует людей в интернете по их аккаунтам, что ставит под сомнение любую анонимность в сети.
Широко распространено мнение, что установить личность человека по его аккаунту возможно, однако это требует значительных усилий и ресурсов, поэтому без крайней необходимости никто не будет этим заниматься. Однако результаты исследования подтверждают, что LLM уже способны делать это в больших масштабах и это относительно недорого.
Команда исследователей разработала автоматизированную систему, имитирующую процесс принятия решений человеком, который проводит следственные действия. Сначала ИИ анализирует историю сообщений типичного пользователя Reddit или Hacker News и изучает неструктурированный текст. Эта необработанная информация, включающая комментарии, шутки, данные об образовании и незаметные, на первый взгляд, особенности стиля изложения, превращается искусственным интеллектом в математический образ профиля человека. Затем ИИ ищет соответствующие совпадения среди миллионов других профилей в интернете и на отдельных сайтах, таких как LinkedIn.
После обнаружения совпадений система оценивает аргументы в пользу того, что несколько профилей принадлежат одному человеку. Далее ИИ присваивает прогнозируемому совпадению оценку вероятности. Если такой уверенности у него нет, он ничего не указывает, чтобы предотвратить необоснованные предположения.
Исследователи испытали собственную систему на почти 1000 профилях в LinkedIn и проверили, сможет ли она сравнить их с учетными записями на Hacker News. Владельцы профилей были известны исследователям, которые умышленно удалили имена, ссылки и другие очевидные факторы, которые упрощают идентификацию.
Система на базе ИИ успешно связывала учетные записи с точностью до 67% при эталонном показателе 90%. В то же время другие методы без использования искусственного интеллекта почти не достигали успеха. Система даже сравнивала пользователей из разных сообществ Reddit, даже если те были активны под разными учетными записями в разное время. Кроме этого исследователи установили, что стоимость идентификации личности с использованием ИИ стоит всего от $1 до $4.
«Практическая непрозрачность, которая долгое время защищала пользователей, использующих псевдонимы… больше не сохраняется. Псевдоним не обеспечивает надежной защиты в интернете. Пользователи, которые публикуют сообщения под постоянными именами, должны исходить из того, что злоумышленники могут связать их учетные записи с реальными личностями или друг с другом, и что вероятность этого возрастает с каждым опубликованным ими микроданным», — предупреждают исследователи.
Результаты указывают на то, что инструменты на базе ИИ для идентификации лиц в интернете в дальнейшем смогут использоваться правоохранительными органами и специалистами по кибербезопасности. Эпоха анонимности в интернете подходит к концу, делают вывод авторы исследования.
Ранее мы писали, что приложения Smart TV незаметно собирают веб-данные пользователей для обучения ИИ. В то же время сервис ИИ находит пользователей YouTube по комментариям.
Розумні окуляри Meta можуть передавати приватні відео та фінансові дані модераторам
СпецпроектыЯк Bitget відзначає Міжнародний жіночий день і закликає жінок формувати майбутнє Web3Bitget і Obside запускають AI Trading Arena. Тепер AI-стратегії можна копіювати в режимі реального часу
Результаты исследования опубликованны на сервере препринтов ArXiv
Источник: TechXplore
