Высокий суд Англии указал на риски фабрикации данных юристами с помощью ИИ

Высокий суд Англии и Уэльса вынес решение, выражающее серьезную обеспокоенность ненадлежащим использованием генеративного искусственного интеллекта в юридической практике. Поводом для постановления послужили два дела, рассмотренные в рамках так называемой юрисдикции Хамида: «Айинде против Лондонского боро Харингей» и «Аль-Харун против Катарского национального банка».

В обоих случаях суд установил, что юристы или их клиенты представляли документы, содержащие вымышленные ссылки на правовые источники, предположительно сгенерированные инструментами искусственного интеллекта, такими как ChatGPT.

По делу «Айинде против Лондонского боро Харингей» барристер Сара Фори, как представляется, сослалась на сфабрикованные судебные прецеденты в документах, касающихся спора о временном жилье. Суд установил, что ни одно из пяти упомянутых дел в действительности не существовало, и отметил, что использованные формулировки имели шаблонный характер, свойственный машинно-сгенерированному тексту.

В параллельном деле «Аль-Харун против Катарского национального банка» солиситор Абид Хуссейн представил судебные документы, ссылающиеся на 45 правовых источников, 18 из которых оказались полностью вымышленными, а многие из оставшихся цитат были либо неверно приведены, либо вырваны из контекста. По данным суда, ссылки были предоставлены самим истцом, который использовал общедоступные инструменты ИИ. Однако суд подчеркнул, что Хуссейн нес личную ответственность за проверку каждой ссылки и не выполнил свои основные профессиональные обязанности.

Суд под председательством главы Отделения королевской скамьи подчеркнул, что, хотя ИИ может служить полезным инструментом в юридической работе, его результаты должны подвергаться тщательной проверке и использоваться в рамках профессиональных стандартов. Особое внимание было уделено проблеме «галлюцинаций» — явлению, при котором ИИ генерирует правдоподобно звучащий, но полностью ложный контент, включая вымышленные названия дел и цитаты. Суд отметил, что подобные инциденты уже регистрировались в Великобритании, США и других странах.

По обоим делам суд применил санкции. Барристеру Саре Фори и Юридическому центру Харингей было предписано выплатить по 2000 фунтов стерлингов каждому, а материалы по обоим делам были переданы в их соответствующие профессиональные регуляторные органы — Совет по стандартам адвокатуры и Управление по регулированию деятельности солиситоров.

Кроме того, суд призвал юридические институты, включая Совет адвокатов, Юридическое общество и Совет судебных иннов, в срочном порядке пересмотреть свои руководящие принципы и механизмы надзора за использованием ИИ в юридической практике.

Ранее МИА «Казинформ» сообщало, что ChatGPT может жертвовать безопасностью пользователей ради самосохранения.