Высокий суд Англии и Уэльса вынес решение, которое может кардинально изменить подходы юристов к использованию искусственного интеллекта. Судья Виктория Шарп предупредила о "суровых санкциях" для адвокатов, которые подают в суд фальшивые цитаты, сгенерированные AI-системами.
Когда технологии подводят профессионалов
Решение суда базируется на анализе двух резонансных дел. В одном из них адвокат подал документ с 45 цитатами, 18 из которых оказались полностью вымышленными. Другие цитаты не содержали указанных в них утверждений или вообще не касались дела.
Второе дело касалось юриста, который защищал мужчину после выселения из лондонского жилья. Адвокат процитировал пять судебных решений, которые на самом деле никогда не существовали. Хотя юрист отрицал использование ИИ, судья предположила, что цитаты могли происходить из ИИ-сгенерированных резюме в Google или Safari.
Опасная уверенность машин
Судья Шарп подчеркнула ключевую проблему генеративных ИИ-инструментов вроде ChatGPT. Они создают "когерентные и правдоподобные ответы", которые могут оказаться совершенно неточными. Машины делают уверенные утверждения, которые просто не соответствуют действительности.
По данным исследования Stanford HAI, более 60% американских юристов уже используют ИИ в своей работе. Однако только 23% из них проводят тщательную проверку полученной информации. Это создает серьезные риски для правосудия.
Профессиональная ответственность в цифровую эпоху
Суд не запрещает адвокатам пользоваться искусственным интеллектом для исследований. Однако юристы имеют профессиональный долг проверять точность такой информации через авторитетные источники перед использованием в работе.
Решение будет передано профессиональным организациям, включая Совет барристеров и Общество юристов. Оба адвоката из рассмотренных дел были направлены к профессиональным регуляторам.
Последствия для будущего юриспруденции
Полномочия суда в отношении нарушителей варьируются от публичного выговора до наложения штрафов, процедур за неуважение к суду или даже обращения в полицию. Судья Шарп отметила, что растущее количество подобных случаев требует усиления контроля за соблюдением профессиональных стандартов.
Это решение устанавливает важный прецедент для юридического сообщества во всем мире, демонстрируя необходимость баланса между инновациями и профессиональной ответственностью.
