Судья по делам о банкротстве Майкл Слейд наложил санкции на адвоката Томаса Нилда из юридической фирмы Semrad за использование искусственного интеллекта для создания фальшивых судебных прецедентов в ходе судебного разбирательства.
Проблема возникла в рамках дела о банкротстве, когда Нилд подал ответ на возражение кредитора Corona Investments LLC. В своем документе адвокат сослался на четыре предыдущих судебных дела, чтобы подкрепить свои аргументы. Однако судья Слейд со своими сотрудниками быстро обнаружил серьезные несоответствия.
Все четыре дела, цитируемые Нилдом оказались либо существенно искаженными, либо полностью вымышленными. В трех случаях цитаты, приведенные адвокатом, отсутствовали в оригинальных судебных решениях, а одно дело и вовсе не существовало.
Когда судья напрямую спросил, использовал ли Нилд искусственный интеллект для составления документа, адвокат признался:
Я думаю, что элемент цитирования этих дел я пропустил через ИИ в некоторой степени, но я не думал, что цитаты были неправильными.
Он также заявил, что ранее никогда не использовал ИИ для юридических исследований и "предполагал, что ИИ-программа не будет полностью фабриковать цитаты".
Несмотря на раскаяние адвоката и его обещание никогда больше не использовать ИИ без тщательной проверки результатов, судья решил применить санкции. Нилд и фирма Semrad должны выплатить штраф в размере $5,500, а также посетить образовательную сессию по искусственному интеллекту на ежегодном собрании Национальной конференции судей по делам о банкротстве.
Судья написал:
Любой юрист, не осознающий, что использование платформ генеративного ИИ для проведения юридических исследований – это игра с огнем, живет в облаках. Эта тема горячо обсуждается в юридической профессии как минимум с 2023 года.
ИИ может написать историю, которая читается так, будто её написал Стивен Кинг (хотя это не так), или сочинить песню, которая звучит так, будто её написала Тейлор Свифт (хотя это не так). Но он не может выполнить за вас юридическое исследование.
Правительство Великобритании заключает партнерство с OpenAI, профессор называет это "безумием" и "неолиберальной чепухой"
Геймеры массово просят сделать реальную RPG-игру на основе удивительного ИИ-ролика, набравшего 40 миллионов просмотров
Судья предупредил, что следующий юрист, который совершит подобную ошибку, вероятно, столкнется с более серьезным наказанием.
