Эксперты предупреждают: суды могут пропустить галлюцинации ИИ в юридических документах

Суд в Джорджии отменил решение о разводе после обнаружения поддельных юридических ссылок, вероятно, сгенерированных ИИ, что вызвало тревогу о растущих рисках в системах правосудия.

Дело, рассматриваемое судом в Джорджии, показывает, как искусственный интеллект (AI) может незаметно подорвать доверие общественности к американским судебным учреждениям. ArsTechnica сообщает, что судья Джефф Уоткинс из Апелляционного суда Джорджии отменил решение о разводе, так как обнаружил в документе два выдуманных дела, которые, вероятно, были созданы AI.

Приказ был составлен адвокатом Дианой Линч, о чем ArsTechnica сообщает, что это теперь обычная практика в перегруженных судах. Эта растущая тенденция использования искусственного интеллекта в судебных процессах делает возможными рискованные укорочения.

Линч была оштрафована на $2,500, и судья Уоткинс написал: «нерегулярности в этих заявлениях предполагают, что они были составлены с использованием генеративного AI», добавляя, что галлюцинации AI могут «тратить время и деньги», наносить ущерб репутации системы и позволить «стороне в споре […] оспорить судебное решение, неискренне высказывая сомнения в его подлинности», как сообщает ArsTechnica.

Эксперты предупреждают, что это не единичный случай. Джон Браунинг, бывший судья апелляционного суда Техаса, заявил, что «пугающе вероятно», что больше судов первой инстанции по ошибке будут опираться на фальшивые ссылки, сгенерированные ИИ, особенно в перегруженных системах. «Я могу представить такой сценарий в любом количестве ситуаций,» — он сказал Ars Technica.

Другие недавние примеры подтверждают эту тревогу. Юридическая система Колорадо оштрафовала двух адвокатов, представляющих генерального директора MyPillow Майка Линделла, на общую сумму в 3 000 долларов после того, как они представили юридические документы, сгенерированные ИИ, с более чем двадцатью крупными ошибками. Судья Нина Я. Ванг написала: «этот суд не испытывает радости от вынесения санкций адвокатам», но подчеркнула, что адвокаты несут ответственность за проверку поданных документов.

В Калифорнии еще один судья оштрафовал две юридические фирмы на 31 000 долларов после того, как они представили документы, содержащие фальшивые ссылки. «Это пугает», — написал судья Майкл Уилнер, который почти поверил в фальшивые решения. Если суды быстро не адаптируются, галлюцинации от ИИ могут стать повторяющимся кошмаром в американской судебной системе.

Этот тренд особенно тревожит, учитывая, насколько дорогим может быть юридическое представительство. Люди обычно верят, что юридические сборы гарантируют им точность и профессионализм со стороны их адвокатов. Однако, поскольку адвокаты используют ИИ для ускорения работы, клиенты могут в итоге оказаться теми, кто платит за ошибки, совершенные машиной.

Эти галлюцинации не просто угрожают законным исходам, они также могут усиливать неравенство, делая справедливость еще более недоступной для тех, кто меньше всего может позволить себе бороться с ней.