Британский суд предупреждает адвокатов: фальшивые ссылки на ИИ могут привести к уголовному преследованию

Высший суд Англии и Уэльса высказал жесткое предупреждение юристам, указывая, что им необходимо воздерживаться от использования ложной юридической информации, созданной с помощью искусственного интеллекта, такого как ChatGPT, поскольку они могут столкнуться с уголовным наказанием.

Предупреждение стало необходимым после двух недавних судебных разбирательств. Мужчина, который подал иск на 89 миллионов фунтов стерлингов против двух банков, создал искусственный интеллект, основанный на юридических цитатах, как сообщало издание The New York Times.

Среди представленных 45 ссылок на дела, восемнадцать полностью лишены какой-либо фактической основы. The Guardian сообщил, что адвокат предоставил реальные цитаты, однако ни подлинные, ни поддельные ссылки не смогли установить валидные связи с делом.

Адвокат взял на себя ответственность за свое недосмотр в отношении цитат, прежде чем самостоятельно обратиться в регулирующий орган.

Центр права Харингей подал иск против совета Лондонского района из-за их жилищного спора. Адвокат представил суду пять полностью выдуманных предыдущих дел. Суд пришел к выводу, что она несет ответственность за создание ненужных юридических расходов, согласно The Guardian.

Хотя она отрицала прямое использование ИИ, она признала, что могла «проводить поиски в Google или Safari» и невольно полагаться на сгенерированные ИИ сводки, как сообщает The Times.

Судья Виктория Шарп, президент отделения Королевской судебной скамьи, заявила: «Если искусственный интеллект будет использован неправильно, это может иметь серьезные последствия для административной системы правосудия и общественного доверия к системе правосудия,» как сообщает The Times. Она предупредила, что адвокатам грозит уголовное преследование или запрет на практику права.

В решении суда также говорится, что инструменты на основе ИИ «могут давать, казалось бы, связные и убедительные ответы… [но] могут делать уверенные заявления, которые просто неправдивы», как сообщает The Times. Иэн Джеффери из Юридического общества поддержал это решение, заявив, что оно «разоблачает опасности использования ИИ в юридической работе», как сообщает The Guardian.

Суд призвал юридических лидеров срочно обучить персонал ответственному использованию ИИ, который, как известно, может «видеть галлюцинации» в информации.

Практика неограниченного использования ИИ уже вызвала подобные проблемы по всем Соединенным Штатам, а также в Австралии и Европе, что вызвало широкое беспокойство среди юридических специалистов.

Судья из США наложил штраф в размере 31 000 долларов на две юридические фирмы за использование ИИ для создания искусственных судебных записок, которые включали в себя придуманные юридические цитаты. Судебный документ, связанный со State Farm, содержал ложные судебные ссылки, которые адвокаты обеих фирм не удосужились проверить.

Судья Майкл Вилнер выразил свое разочарование по поводу того, что адвокаты не проверили содержание, сгенерированное ИИ, что чуть не привело к включению обманчивой информации в судебный приказ.