RAG hay fine-tuning: dữ liệu đổi nhanh khiến lựa chọn lệch hẳn

Nếu hệ thống phải trả lời theo tài liệu nội bộ thường xuyên thay đổi và chỉ rõ căn cứ, hãy bắt đầu bằng RAG. Hướng dẫn của AWS khuyến nghị cách này cho hỏi đáp trên tài liệu riêng: có thể đưa tài liệu mới vào nguồn truy xuất mà không huấn luyện lại mô hình, đồng thời trả về tham chiếu đến nguồn thông tin.

Nếu dữ kiện tương đối ổn định nhưng mô hình xử lý sai một tác vụ lặp lại, không giữ định dạng hoặc thiếu nhất quán về giọng văn, fine-tuning đáng cân nhắc. Khi câu trả lời vừa cần dữ kiện mới vừa cần cách xử lý chuyên biệt, có thể kết hợp hai kỹ thuật: RAG cung cấp ngữ cảnh hiện hành, còn fine-tuning điều chỉnh hành vi của mô hình. Có nhiều tài liệu riêng, tự nó, chưa đủ để quyết định huấn luyện mô hình.

Ma trận quyết định theo sáu biến

RAG tìm nội dung liên quan tại thời điểm nhận yêu cầu rồi đưa nội dung đó vào ngữ cảnh để mô hình trả lời. Fine-tuning dùng dữ liệu huấn luyện để điều chỉnh mô hình. Điểm phân biệt cần xác định là hệ thống thiếu thông tin để tham khảo hay thiếu khả năng thực hiện tác vụ theo cách mong muốn.

• Độ mới của dữ liệu: nếu tài liệu phải có hiệu lực trước khi hoàn tất một vòng chuẩn bị dữ liệu, huấn luyện, đánh giá và triển khai, hãy nghiêng về RAG. Ngưỡng quyết định là thời gian cập nhật mà hệ thống của bạn thực sự đạt được, không phải một số giờ áp dụng chung.
• Yêu cầu dẫn nguồn: nếu người dùng cần mở lại điều khoản hoặc phiên bản tài liệu làm căn cứ, hệ thống cần lưu nguồn gốc đoạn được truy xuất và gắn nó với câu trả lời. Fine-tuning tự nó không cung cấp đường dẫn đến tài liệu đã ảnh hưởng đến trọng số mô hình.
• Loại tác vụ: hỏi đáp về dữ kiện trong kho tài liệu thường nghiêng về RAG; phân loại theo nhãn ổn định, giữ cấu trúc đầu ra hoặc thể hiện giọng văn nhất quán có thể nghiêng về fine-tuning. Tác vụ vừa tra cứu vừa tuân theo quy tắc trình bày riêng có thể cần cả hai.
• Dữ liệu sẵn có: PDF, wiki và tài liệu kỹ thuật có thể được chuẩn bị để truy xuất, nhưng chưa phải bộ ví dụ gán nhãn cho fine-tuning. Huấn luyện có cơ sở hơn khi đã có các cặp đầu vào và đầu ra mong muốn, nhất quán với tác vụ cần cải thiện.
• Độ trễ cho phép: RAG thêm bước tìm kiếm trước khi tạo câu trả lời. Nếu giới hạn phản hồi chặt, cần tính cả thời gian truy xuất và xử lý ngữ cảnh; bỏ bước này có thể nhanh hơn nhưng cũng khiến câu trả lời mất căn cứ từ tài liệu hiện hành.
• Ngân sách cập nhật: RAG cần duy trì kho tìm kiếm và trả chi phí cho truy xuất, ngữ cảnh đầu vào. Fine-tuning cần chuẩn bị ví dụ, huấn luyện, đánh giá và triển khai phiên bản mới khi hành vi phải thay đổi. Hãy so sánh tổng chi phí theo chu kỳ cập nhật, không chỉ chi phí một lần gọi mô hình.

Thứ tự ưu tiên thay đổi theo công việc. Với trợ lý tra cứu chính sách, độ mới và dẫn nguồn có thể quyết định kiến trúc trước khi tối ưu thời gian phản hồi. Với bộ phân loại văn bản dùng nhãn ít thay đổi, chất lượng dữ liệu gán nhãn và chi phí xử lý mỗi lượt có thể quan trọng hơn việc truy xuất một đoạn tài liệu.

Vì sao tài liệu đổi nhanh làm thay đổi lựa chọn?

Trong RAG, bản sửa đi vào nguồn mà ứng dụng tìm khi trả lời; với fine-tuning, thay đổi tri thức trong mô hình đòi hỏi một vòng huấn luyện và đánh giá mới. Khoảng cách này quan trọng khi câu trả lời phải theo kịp quy định, danh mục sản phẩm hoặc hướng dẫn nghiệp vụ vừa được sửa. Tuy nhiên, bản mới chỉ giúp ích nếu hệ thống đã lập chỉ mục và tìm đúng đoạn, đúng phiên bản.

Nghiên cứu của Yang và cộng sự thử nghiệm hỏi đáp nhiều bước trên ba mô hình mã nguồn mở cỡ 7B: RAG cải thiện nhất quán khi câu hỏi dựa vào thông tin mới theo thời gian, trong khi supervised fine-tuning đạt độ chính xác tổng thể cao nhất trên các mô hình và bộ dữ liệu của thử nghiệm. Kết quả tổng thể ấy không phải ngưỡng lựa chọn cho mọi hệ thống dùng dữ liệu riêng; nó cho thấy điểm mạnh của mỗi cách còn phụ thuộc vào điều được đo.

Một ngưỡng vận hành rõ hơn là khoảng thời gian từ khi bản sửa được phê duyệt đến khi người dùng nhận được câu trả lời dựa trên bản sửa đó. Khoảng này bao gồm việc đưa tài liệu vào kho, lập chỉ mục và truy xuất đúng phiên bản. Nếu khâu truy xuất vẫn trả về bản cũ, lợi thế cập nhật của RAG chưa xuất hiện trong câu trả lời thực tế.

Ba công việc thường gặp chọn điểm xuất phát khác nhau

Hỏi đáp trên tài liệu

Với trợ lý trả lời câu hỏi về quy trình nhân sự, hướng dẫn sản phẩm hoặc tài liệu kỹ thuật, RAG là điểm xuất phát phù hợp. Câu trả lời có thể gắn với đoạn và phiên bản mà người hỏi được phép xem. Nếu không tìm được căn cứ phù hợp, ứng dụng cần thể hiện sự thiếu căn cứ; một đoạn truy xuất bất kỳ không khiến câu trả lời trở nên đáng tin.

Câu hỏi yêu cầu tổng hợp toàn bộ tài liệu dài cũng khác câu hỏi chỉ cần tìm vài đoạn liên quan. Kho truy xuất, cách chia tài liệu và lượng ngữ cảnh đưa vào mô hình phải phù hợp với phạm vi câu hỏi; chọn RAG không tự giải quyết được việc bỏ sót phần quan trọng của tài liệu.

Phân loại văn bản

Nếu đầu vào là một hồ sơ và đầu ra là nhãn thuộc bộ phân loại ổn định, truy xuất tài liệu ở mọi lượt có thể không đem lại nhiều giá trị. Tài liệu tùy chỉnh Amazon Nova mô tả supervised fine-tuning bằng các cặp văn bản đầu vào và nhãn đầu ra cho tác vụ phân loại. Khi đã có ví dụ đáng tin cậy và lỗi lặp lại ở cùng loại trường hợp, fine-tuning là phương án để đánh giá.

Nếu ý nghĩa của một nhãn phụ thuộc vào quy định thường xuyên sửa, hãy tách phần quy định hiện hành khỏi phần hành vi phân loại. Truy xuất có thể cung cấp quy định đang áp dụng; mô hình được điều chỉnh để trả nhãn theo cấu trúc nhất quán. Nhờ vậy, một thay đổi trong văn bản quy định không mặc nhiên buộc phải huấn luyện lại.

Tạo nội dung theo phong cách

Fine-tuning hữu ích khi mô hình cần duy trì cấu trúc, cách dùng từ hoặc mức độ trang trọng nhất quán qua nhiều bản nháp và lời nhắc chưa đáp ứng được yêu cầu đó. Nhưng giá, tính năng và điều kiện áp dụng của sản phẩm có thể đổi. Nếu bản nháp phải nêu những dữ kiện ấy, RAG có thể cung cấp nội dung hiện hành cho mô hình đã được điều chỉnh giọng văn.

Hai yêu cầu này cần được đánh giá riêng: một đoạn viết đúng phong cách vẫn có thể chứa thông tin cũ, còn một đoạn đúng dữ kiện vẫn có thể không đạt chuẩn biên tập. Phân biệt chúng giúp xác định nên sửa nguồn truy xuất, ví dụ huấn luyện hay cả hai.

Độ trễ và chi phí nằm ở toàn bộ đường đi của yêu cầu

Tài liệu Microsoft Foundry nêu các phần tăng thêm của RAG: truy vấn chỉ mục, tạo embedding khi dùng tìm kiếm vector và token của đoạn được đưa vào ngữ cảnh. Vì thế, chỉ so giá lần gọi mô hình sẽ bỏ sót chi phí và thời gian của lớp truy xuất. Chất lượng câu trả lời cũng phụ thuộc vào cách chuẩn bị tài liệu và cấu hình tìm kiếm.

Ở phía fine-tuning, hóa đơn huấn luyện đầu tiên chưa phản ánh toàn bộ chi phí cập nhật hành vi. Khi quy tắc đầu ra đổi, nhóm còn phải sửa ví dụ, đánh giá lại và triển khai phiên bản đã kiểm tra. Một phép so sánh hữu ích dùng cùng tập yêu cầu đại diện để ghi nhận độ đúng, khả năng dẫn nguồn, thời gian phản hồi và chi phí qua một chu kỳ cập nhật.

Khi nào nên kết hợp?

Kết hợp có ý nghĩa khi cả hai nhu cầu đều hiện hữu: câu trả lời phải dựa trên tài liệu mới, còn mô hình nền vẫn xử lý thiếu ổn định một tác vụ hoặc định dạng chuyên biệt. Khi đó, RAG giữ vai trò đưa căn cứ hiện hành vào yêu cầu; fine-tuning điều chỉnh cách mô hình dùng căn cứ và trình bày kết quả. Tài liệu thay đổi không mặc nhiên kéo theo huấn luyện lại nếu quy tắc xử lý vẫn giữ nguyên.

Vị trí của lỗi quyết định thành phần cần sửa. Không tìm thấy đoạn đúng thì cần xem lại nguồn và bước truy xuất. Đã đưa đoạn đúng vào ngữ cảnh mà mô hình vẫn áp dụng sai nhãn hoặc trả sai cấu trúc thì có cơ sở để thử điều chỉnh hành vi. Cách phân biệt này giữ quyết định kiến trúc gắn với yêu cầu thực tế của từng công việc.

Đọc thêm:

• Nasuni mua DryvIQ: dữ liệu chưa phân loại trở thành nút thắt AI
• OpenAI công bố sáu sự cố lệch hướng, nhưng cơ chế báo cáo vẫn tự nguyện
• Twitch mở tài trợ cho Affiliate: hồ sơ trống vẫn khiến thương hiệu bỏ qua