RAG mi fine-tuning mi? Yeni bilgi için eğitim ters tepebilir

Değişen kurumsal belgelerden yanıt üretip dayanak göstermek istiyorsanız RAG ile başlayın. Sorun, doğru bilgi verildiği hâlde modelin istenen üslubu, çıktı biçimini veya görev adımlarını tutarlı uygulayamamasıysa fine-tuning’i değerlendirin. Microsoft, Foundry rehberinde özel ve sık değişen bilgiye erişim ile model davranışını değiştirme ihtiyacını bu şekilde ayırıyor.

Yeni olguları yalnızca belge metniyle yapılan eğitim üzerinden modele kazandırmak doğruluğu düşürebilir. Ovadia ve arkadaşlarının karşılaştırmasında, 2023’te ABD’de yaşanan olaylara ilişkin çoktan seçmeli sorularda Llama2 7B’nin doğruluğu temel modelde %35,3 iken standart gözetimsiz ince ayardan sonra %21,9’a indi; temel model ile RAG birleşiminde %58,5’e çıktı. Bu sonuç, Türkiye’deki her kurumsal uygulama için aynı oranları vaat etmez; yeni bilgiyi eğitime bırakmanın ölçülmesi gereken bir risk olduğunu gösterir.

Seçimi hangi ihtiyaç belirler?

Belge sayısından önce bilginin ne sıklıkla değiştiğine ve yanıtın kaynağını gösterme zorunluluğuna bakın. AWS’nin RAG ve fine-tuning karşılaştırması, özel belgelere dayalı soru-cevap için RAG ile başlamayı, özetleme gibi ek görevlerde fine-tuning’i değerlendirmeyi öneriyor; ayrıca fine-tuning’in tek başına yanıtın kaynağını vermediğini belirtiyor.

Belgeler sık yenileniyor veya yürürlükten kalkıyorsa bilgiye RAG üzerinden erişin. Böylece güncelleme, modelin yeniden eğitilmesinden ziyade belge ve dizin yönetiminin konusu olur.
Yanıtın dayandığı belge gösterilecekse RAG seçimi güçlenir. Kaynak bağlantısının görünmesi yeterli değildir; gösterilen bölümün yanıtı gerçekten desteklemesi gerekir.
Bilgi doğru sağlandığında bile biçim, ton ya da görev sırası tutarsızsa önce açık talimatla çalışan temel modeli deneyin. Sorun sürüyorsa etiketli örneklerle denetimli fine-tuning, yani SFT, adaydır.
Her iki sorun ayrı ayrı görülüyorsa RAG ve SFT birlikte değerlendirilebilir. Ek eğitim, yanlış bölümü getiren aramayı kendiliğinden düzeltmez.

Veri hacmi tek başına karar verdirmez. Az sayıda fakat sık değişen politika belgesi, erişim ve sürüm yönetimi gerektirir; çok sayıda etiketli örnek ise tutarlı bir davranışı öğretmek için yararlı olabilir. Aynı kurumun iki ihtiyacı bulunabilir, ancak bunların çözülüp çözülmediği farklı ölçülerle anlaşılır.

RAG’de güncellik ve kaynak nasıl korunur?

RAG, soruyla ilgili içeriği bir belge deposundan getirip modele bağlam olarak verir. Bu akışın güncel bilgi sunabilmesi için eski sürümün aramadan çıkarılması, yeni sürümün dizine girmesi ve erişim yetkilerinin arama sırasında uygulanması gerekir. Koşullu bir örnek olarak, yürürlükteki izin politikasını soran çalışana başka bir birimin belgesini getiren sistem, akıcı bir yanıt yazsa da doğru belgeye dayanmamış olur.

Belgeyi bölümlere ayırma biçimi de sonucu değiştirir. Çok geniş parçalar ilgili hükmü ilgisiz metin arasında bırakabilir; çok dar parçalar ise hükmün koşulunu veya istisnasını koparabilir. Bu yüzden doğru bölümün bulunmasını, yanıtın o bölüme sadakatini ve gösterilen bağlantının iddiayı desteklemesini ayrı değerlendirin. RAG hatasını ayıran ölçüler bu ayrımı açıyor.

Kaynak gösterme gereksinimi, belge kimliği ve sürüm bilgisinin dizinde tutulmasını da etkiler. Yanıt eski bir sürüme dayanıyorsa yalnızca metni düzeltmek yetmez; aramanın hangi belgeyi seçtiği bulunmalıdır. Yetki sınırı da aynı katmandadır: kullanıcıya kapalı bir bölüm, model yanıtında dolaylı biçimde görünmemelidir.

SFT için hangi veri ve bütçe gerekir?

SFT’de eğitim verisi, belge arşivinin kopyasından çok istenen davranışı gösteren girdi ve örnek çıktı çiftleridir. AWS’nin özel belgelere yönelik yöntem açıklaması, denetimli fine-tuning’i etiketli örneklerle yeni bir görev öğretme yolu olarak tanımlıyor. Kurumun istediği yanıt şeması, uygun ton ve sınır durumları bu örneklerde tutarlı biçimde temsil edilmelidir.

Eğitim örneklerinin sayısını artırmak, çelişkili örnekleri düzeltmenin yerini tutmaz. Aynı tür talebe farklı kurallar uygulayan çıktılar, öğrenilecek davranışı belirsizleştirir. Eğitim sırasında görülmeyen istekleri ayrı tutmak da gereklidir: model yalnızca ezberlediği örnekleri iyi taklit ediyorsa gerçek görevdeki tutarlılık sorunu çözülmemiştir.

Bütçede iki yöntemin giderleri farklı zamanlarda ortaya çıkar. RAG; belge temizleme, dizin güncelleme, her sorguda arama, ek bağlam ve bunların gecikmesini taşır. SFT; örnek seçme, etiketleme, eğitim, değerlendirme ve yeni model sürümlerini yönetme işi getirir. Belgeler sık değişiyorsa yeniden eğitim yükü ayrıca büyür. Bu nedenle yalnızca eğitim ücretini bir sorgunun maliyetiyle karşılaştırmak, sistemin işletme maliyetini göstermez.

Hibrit yaklaşım ne zaman değer katar?

Hibritte güncel olgu getirilen belgeden gelir; SFT ise modelin bu olguyu istenen görev düzeninde kullanmasına yardım eder. Koşullu bir kullanımda sistem yürürlükteki prosedürü bulur, ardından yanıtı kurumun zorunlu şemasına yerleştirir. Eğitim hedefi prosedür maddelerini ezberletmek değil, doğru bağlam sağlandığında biçimi ve görev sırasını korumaktır.

Ek eğitimin değerini görmek için aynı soruları temel model artı RAG ve SFT modeli artı RAG ile karşılaştırın. Biçim başarısı yükselirken kaynak sadakati düşüyorsa hibrit yapı ürünün asıl gereksinimini karşılamamış olabilir. Benzer şekilde, arama yanlış belgeyi getiriyorsa eğitim verisini büyütmeden önce belge seçimini düzeltmek gerekir.

Yayına almadan önce neyi kabul edeceksiniz?

Kabul kümesine güncel belgelerden soruların yanında eski sürümlere yöneltebilecek soruları, erişim sınırlarını ve belgelerde yanıtı bulunmayan talepleri koyun. Eğitim veya ayar sırasında kullanılan örnekleri bu kümeden ayrı tutun. Seçenekleri aynı geçerli belge sürümleri ve aynı sorularla karşılaştırmak, farkın nereden geldiğini görmeyi sağlar.

RAG: Doğru ve yetkili bölüm getiriliyor mu? Yanıt bölümdeki bilgiyi doğru aktarıyor mu? Gösterilen kaynak her iddiayı destekliyor mu? Belge güncellendiğinde yanıt yeni sürüme geçiyor mu?
SFT: Görülmemiş taleplerde istenen biçim ve görev sırası korunuyor mu? Açık talimat verilen temel modele göre iyileşme var mı? Doğru bilgi sunulduğunda model onu bozuyor veya desteklenmeyen ayrıntı ekliyor mu?
Hibrit: SFT eklenmesi görev başarısını artırırken RAG’in kaynak sadakatini, yetki sınırlarını ve yanıtsız kalması gereken durumları koruyor mu? Kazanç, ek gecikme ve işletme maliyetini karşılıyor mu?

Güncel ve denetlenebilir bilgi ürünün vazgeçilmez koşuluysa RAG’i bu ölçülerle kabul edin. Davranış sorunu aynı değerlendirmede sürüyorsa SFT ekleyin; hibriti de iki gereksinimi birlikte karşıladığı ölçüde seçin.

Ayrıca okuyun: