Đào sâu · 3 phút đọc
Mô hình ngôn ngữ lớn hơn có thể tính nhẩm kém hơn mô hình nhỏ
Hiện tượng 'nghịch đảo theo quy mô' cho thấy khi mô hình lớn lên, một số tác vụ như số học nhiều chữ số lại giảm độ chính xác. Nguyên nhân là mô hình học mẫu thống kê thay vì thuật toán, và cách sinh từng token khiến lỗi tích lũy.
Trực giác thông thường cho rằng mô hình ngôn ngữ càng lớn thì càng giỏi mọi thứ. Nhưng với một số tác vụ, đặc biệt là số học nhiều chữ số, điều ngược lại lại xảy ra: mô hình nhỏ đôi khi đạt độ chính xác cao hơn hẳn mô hình lớn cùng họ. Hiện tượng này được gọi là "nghịch đảo theo quy mô" (inverse scaling), và nó cho thấy năng lực của mô hình không tăng đơn điệu theo kích thước. [1][3]
Vì sao mô hình lớn lại tính nhẩm kém hơn?
Một phần nguyên nhân nằm ở cách mô hình học. Mạng nơ-ron tối ưu hóa để dự đoán token tiếp theo dựa trên phân bố thống kê trong dữ liệu huấn luyện, chứ không được lập trình sẵn một thuật toán cộng trừ có quy tắc. Với các phép tính ngắn, mô hình có thể ghi nhớ mẫu; với số nhiều chữ số, không có đủ ví dụ tương tự trong dữ liệu để suy ra quy tắc chính xác, nên mô hình lớn có xu hướng "bịa" ra kết quả trông hợp lý nhưng sai. [2][3]
Yếu tố thứ hai là cách sinh văn bản. Mô hình tạo ra từng token một, và mỗi token đều dựa trên các token trước đó. Nếu một chữ số ở giữa bị sai, các bước sau sẽ tiếp tục dựa trên kết quả sai ấy, khiến lỗi tích lũy và lan rộng. Mô hình nhỏ đôi khi ít tham vọng hơn, chỉ xử lý các phép tính ngắn, nên ít rơi vào chuỗi sai này. [1][2]
Bằng chứng từ các nghiên cứu
- Trên một số bộ dữ liệu số học, mô hình lớn hơn có độ chính xác thấp hơn mô hình nhỏ hơn cùng kiến trúc. [1][3]
- Hiện tượng cũng xuất hiện ở các tác vụ đòi hỏi quy tắc hình thức, không chỉ số học. [1]
- Kết quả phụ thuộc nhiều vào cách đặt câu hỏi và định dạng đầu ra, cho thấy vấn đề không chỉ là kích thước. [3]
Điều này nói lên gì về bản chất mô hình?
Nghịch đảo theo quy mô nhắc nhở rằng mô hình ngôn ngữ không phải là máy tính. Chúng là công cụ dự đoán văn bản, giỏi bắt chước mẫu nhưng không đảm bảo tính đúng đắn của phép toán. Vì vậy, với các tác vụ cần độ chính xác cao, người dùng thường phải kết hợp mô hình với công cụ bên ngoài như máy tính hoặc trình thông dịch mã. [2][3]
Các nhà nghiên cứu vẫn đang tìm cách giảm hiện tượng này, ví dụ bằng cách yêu cầu mô hình trình bày từng bước suy luận hoặc dùng kỹ thuật "chain-of-thought". Tuy nhiên, việc chỉ tăng kích thước mô hình không tự động khắc phục điểm yếu về tính toán. [1][2]
