Судья штрафует адвокатов за использование поддельных исследований в области права, сгенерированных искусственным интеллектом

Судья из США резко раскритиковал две юридические фирмы за включение в судебные документы поддельной юридической информации, сгенерированной искусственным интеллектом, назвав это серьезным упущением юридической ответственности.

Судья Майкл Вилнер из Калифорнии наложил штраф на фирмы в размере $31,000, обнаружив, что заявление было наполнено «ложными, неточными и вводящими в заблуждение юридическими цитатами и ссылками», как это впервые сообщила WIRED.

«Ни один адекватно компетентный адвокат не должен отдавать исследование и написание» искусственному интеллекту, — написал Вилнер в своем решении, предупреждая, что он был близок к включению поддельных дел в судебный приказ.

«Я прочитала их доводы, была убеждена (или по крайней мере заинтригована) авторитетами, которые они цитировали, и изучила решения, чтобы узнать больше о них — только чтобы обнаружить, что они не существуют», — сказала она, как сообщает WIRED. «Это пугает», — добавила она.

Ситуация возникла во время гражданского иска против State Farm. Один из адвокатов использовал инструменты ИИ для составления юридического плана. Этот документ, содержащий фиктивные исследования, был передан крупной юридической фирме K&L Gates, которая включила его в официальное заявление.

«Ни один адвокат или сотрудник обеих фирм, похоже, не проверил и не рассмотрел эти исследования перед подачей жалобы», — отметила Вилнер, как сообщает WIRED.

После обнаружения, что по крайней мере два из цитированных случаев были полностью вымышленными, судья Вилнер попросил уточнения у K&L Gates. Когда они представили новую версию, оказалось, что в ней содержится еще больше поддельных цитат. Судья потребовал объяснений, которые раскрыли подписанные под присягой заявления о использовании инструментов искусственного интеллекта, как сообщает WIRED.

Вилнер пришел к выводу: «Первоначальное, не раскрытое использование продуктов искусственного интеллекта для создания первого варианта доклада было явно неправильным […] И отправка этого материала другим адвокатам без раскрытия его сомнительного происхождения от искусственного интеллекта реально подвергла этих профессионалов риску», как сообщает WIRED.

Это не первый случай, когда ИИ становится причиной проблем в суде. В самом деле, недавно два адвоката из Вайоминга признали использование поддельных дел, сгенерированных AI, в судебных документах по иску против Walmart. Федеральный судья угрожал им санкциями.

В этом контексте «галлюцинации» ИИ — вымышленная информация, созданная с помощью инструментов ИИ — становятся все более тревожной проблемой в правовой системе.