Đào sâu · 3 phút đọc
AI bịa trích dẫn giống thật đến mức bạn phải đi tra mới biết là không tồn tại
Mô hình chỉ học cách đoán chữ nào thường đi sau chữ nào trong hàng tỷ văn bản, nên nó ghép ra một bài báo hoàn hảo về hình thức mà không cần biết bài đó có tồn tại hay không.
Hiện tượng bạn mô tả có tên gọi trong nghiên cứu: "ảo giác" (hallucination) của mô hình ngôn ngữ lớn. Mô hình không tra cứu cơ sở dữ liệu học thuật; nó dự đoán token (đơn vị chữ) tiếp theo dựa trên xác suất thống kê học được từ lượng văn bản khổng lồ. Vì các trích dẫn thật thường có cấu trúc rất quy củ — tên tác giả, năm, tên tạp chí, số trang — nên mô hình có thể sinh ra một trích dẫn trông y hệt trích dẫn thật mà không hề "biết" bài báo đó có tồn tại. [1]
Vì sao trích dẫn giả lại thuyết phục đến vậy?
Mô hình được huấn luyện trên hàng tỷ trang văn bản, trong đó có vô số danh mục tài liệu tham khảo. Nó học được khuôn mẫu hình thức của một trích dẫn chuẩn, chứ không học được sự thật rằng bài báo kia có thật hay không. Kết quả là nó có thể bịa ra một bài báo hoàn toàn hợp lý về mặt cấu trúc, thậm chí gán cho một tác giả có thật đang làm việc đúng lĩnh vực đó, khiến người đọc dễ tin. [1][2]
Một nghiên cứu công bố trên tạp chí Nature cho thấy các chatbot như ChatGPT có thể bịa ra tài liệu tham khảo, và tình trạng này đã khiến các nhà khoa học phải rà soát lại danh mục trích dẫn của mình để phát hiện các nguồn không tồn tại. [2]
Hậu quả thực tế
- Sinh viên hoặc nhà nghiên cứu có thể trích dẫn nguồn không tồn tại mà không hay biết, dẫn đến sai sót trong bài viết. [2]
- Việc kiểm chứng đòi hỏi phải tra cứu thủ công trên các cơ sở dữ liệu học thuật hoặc thư viện, vì mô hình không đưa ra nguồn xác thực. [1]
- Một số tòa án và tạp chí đã phải áp dụng quy định kiểm tra trích dẫn do AI tạo ra trước khi chấp nhận. [3]
- Các nhà phát triển đang thử nghiệm giải pháp như yêu cầu mô hình tra cứu nguồn thật trước khi trả lời, nhưng chưa triệt để. [1][3]
Mốc thời gian đáng chú ý
- 2022
ChatGPT ra mắt, hàng loạt người dùng phát hiện trích dẫn giả trong câu trả lời.
- 2023
Các nghiên cứu và bài báo trên Nature, cùng nhiều tạp chí, ghi nhận hiện tượng trích dẫn bịa lan rộng trong giới học thuật.
- 2024
Một số tạp chí và tòa án bắt đầu yêu cầu kiểm tra nguồn gốc trích dẫn do AI sinh ra.
- 2025
Các mô hình mới được tích hợp công cụ tìm kiếm, nhưng vẫn có thể trích dẫn sai hoặc bịa khi không có nguồn phù hợp.
Điểm mấu chốt: mô hình không có "ý định" lừa dối; nó chỉ tối ưu khả năng sinh chuỗi ký tự giống văn bản mẫu. Vì vậy, bất kỳ trích dẫn nào do AI tạo ra đều cần được kiểm tra độc lập trước khi sử dụng. [1][3]
