Deloitte Australia sẽ phải hoàn lại một phần chi phí cho chính phủ sau khi bản báo cáo trị giá 290.000 USD của họ bị phát hiện chứa hàng loạt lỗi nghiêm trọng do AI tạo ra. Các sai sót này bao gồm việc trích dẫn các công trình nghiên cứu học thuật không có thật và bịa đặt một câu nói trong phán quyết của tòa án liên bang.

Báo cáo này được Bộ Lao động Australia công bố lần đầu vào tháng 7. Tuy nhiên, một phiên bản sửa đổi đã được âm thầm đăng tải lại vào tuần trước. Vụ việc vỡ lở sau khi ông Chris Rudge, một nhà nghiên cứu luật y tế và phúc lợi tại Đại học Sydney, lên tiếng cảnh báo với truyền thông rằng bản báo cáo này "đầy rẫy những tài liệu tham khảo bịa đặt".

Trong một thông cáo ngày 7/10, Bộ Lao động cho biết Deloitte đã xem xét lại toàn bộ báo cáo dài 237 trang và "xác nhận một số chú thích và tài liệu tham khảo là không chính xác".

Fortune đã liên hệ với Deloitte nhưng chưa nhận được phản hồi ngay lập tức.

Trong phiên bản báo cáo mới, Deloitte đã phải bổ sung một ghi chú thừa nhận đã sử dụng hệ thống AI tạo sinh (Azure OpenAI) trong quá trình soạn thảo. Phiên bản này cũng đã xóa bỏ câu trích dẫn bịa đặt của một thẩm phán tòa án liên bang và các tài liệu tham khảo "ma" được gán cho các chuyên gia luật và kỹ thuật phần mềm.

Deloitte viết trong phần cập nhật: "Những thay đổi này hoàn toàn không ảnh hưởng đến nội dung chính, các kết quả và khuyến nghị của báo cáo."

Trước đó, vào cuối tháng 8, tờ Australian Financial Review là đơn vị truyền thông đầu tiên đưa tin về những sai sót này, dựa trên phát hiện của nhà nghiên cứu Rudge.

Ông Rudge tình cờ phát hiện ra những sai sót này khi đọc một đoạn trong báo cáo, trong đó gán cho giáo sư luật hiến pháp Lisa Burton Crawford (Đại học Sydney) quyền tác giả một cuốn sách không hề tồn tại, với tiêu đề hoàn toàn không liên quan đến lĩnh vực chuyên môn của bà.

"Tôi biết ngay lập tức rằng thông tin này hoặc là do AI 'ảo giác' tự bịa ra, hoặc đây là bí mật được giấu kỹ nhất thế giới. Bởi vì tôi chưa bao giờ nghe nói về cuốn sách đó và nó nghe thật lố bịch," ông Rudge chia sẻ với hãng tin Associated Press.

Hiện nay, các công ty tư vấn hàng đầu thế giới (nhóm Big Four) và các hãng quản lý như McKinsey đang đổ hàng trăm triệu đô la vào các sáng kiến AI để tăng hiệu quả công việc. Hồi tháng 9, Deloitte tuyên bố sẽ đầu tư 3 tỷ USD để phát triển AI tạo sinh cho đến năm 2030.

Mặc dù Deloitte sẽ hoàn trả khoản thanh toán cuối cùng cho chính phủ Australia, Thượng nghị sĩ Barbara Pocock cho rằng công ty này nên trả lại toàn bộ số tiền 290.000 USD.

"Deloitte đã lạm dụng AI một cách hết sức cẩu thả: trích dẫn sai lời thẩm phán, sử dụng các tài liệu tham khảo không tồn tại," bà Pocock nói. "Đây là những lỗi sơ đẳng mà một sinh viên năm nhất cũng có thể bị kỷ luật nặng nếu mắc phải."

Một phát ngôn viên của Deloitte Australia cho biết: "Vấn đề này đã được chúng tôi giải quyết trực tiếp với khách hàng."