Tòa án tối cao Anh tại London.

Theo tờ Politico ngày 7/6, bà Victoria Sharp - Chủ tịch Tòa án Tối cao King's Bench tại London - tuyên bố trong một phán quyết mới rằng các luật sư nộp hồ sơ có chứa thông tin hư cấu do AI tạo ra có thể đối mặt với cáo buộc hình sự. Bà nhấn mạnh: "Sẽ có những tác động nghiêm trọng đến việc thực thi công lý và niềm tin của công chúng vào hệ thống tư pháp nếu trí tuệ nhân tạo bị sử dụng sai mục đích”.

Phán quyết được ban hành sau khi có dấu hiệu cho thấy các luật sư trong hai vụ án riêng biệt đã sử dụng công cụ AI khi chuẩn bị lập luận bằng văn bản trình bày tại tòa. Một trong các luật sư liên quan phủ nhận việc sử dụng AI nhưng thừa nhận có thể đã vô tình làm như vậy trong quá trình tìm kiếm thông tin trên internet phục vụ công việc.

Bà Sharp cho biết tòa án đã tiếp nhận các phản ánh liên quan đến năng lực và hành vi nghề nghiệp của các luật sư nói trên. Theo bà, những hướng dẫn hiện hành dường như chưa đủ để kiểm soát tình trạng lạm dụng AI, đặc biệt trong bối cảnh ngày càng xuất hiện hiện tượng "ảo giác” - những thông tin sai lệch hoặc hư cấu do AI tạo ra -tại nhiều văn bản pháp lý, kể từ khi các công cụ như ChatGPT trở nên phổ biến.

Cảnh báo được đưa ra trong bối cảnh các hệ thống tư pháp trên thế giới đang xem xét tác động của AI đối với quá trình tố tụng và yêu cầu thiết lập cơ chế giám sát rõ ràng nhằm đảm bảo tính minh bạch, trách nhiệm và tuân thủ pháp luật trong hoạt động hành nghề luật.