Mät hallucinationer i RAG – träffsäker hämtning räcker inte

För att mäta hallucinationer i en RAG-tjänst behöver teamet skilja på vad sökningen hittar och vad modellen sedan skriver. Spara frågan, de textavsnitt som faktiskt skickas till modellen och det genererade svaret. Bedöm om underlaget räcker, om svaret besvarar frågan och om varje sakpåstående har stöd i de hämtade avsnitten. En relevant sökträff garanterar inte ett grundat svar.

Jämför ändringar med samma frysta frågor, referenssvar och dokumentversioner. Saknas en uppgift som krävs för svaret pekar testet mot hämtningen. Finns uppgiften i modellens kontext men svaret lägger till något utan stöd pekar det mot genereringen. Den skillnaden avgör vilken del av tjänsten som behöver undersökas.

Frys frågorna och underlaget

Bygg en uppsättning frågor som motsvarar tjänstens användning: direkta faktafrågor, frågor som kräver flera uppgifter och frågor som dokumenten inte kan besvara. Ta med svenska formuleringar och facktermer från den egna verksamheten. En fråga som kräver både ett datum och ett villkor är särskilt användbar, eftersom den visar om sökningen levererar hela underlaget eller bara en del.

Ge varje testfall ett id, ett granskat referenssvar och en markering av vilka uppgifter i källmaterialet som krävs. Referenssvaret ska beskriva vad ett godtagbart svar behöver innehålla; det behöver inte föreskriva exakt ordalydelse. Markera också när korrekt beteende är att avstå. Frys dokumentversionerna tillsammans med frågorna, så att en ändrad korpus inte misstas för effekten av en ny sökmetod.

Spara för varje körning källavsnittens id, deras ordning och deras exakta innehåll så som modellen fick det. Anteckna även promptversion, modellinställningar och slutligt svar. Håll antalet avsnitt som skickas vidare och bedömningsmetoden lika när två varianter jämförs. Om flera delar ändras samtidigt gäller jämförelsen hela konfigurationen; den visar inte vilken enskild ändring som orsakade utfallet.

Skilj rangordning från täckning

Ragas dokumentation om context precision beskriver ett mått som belönar att relevanta avsnitt placeras före irrelevanta. Varianten med referenssvar bedömer om hämtade avsnitt är användbara för att besvara frågan. Måttet säger därmed något om ordningen på träffarna, men en högt placerad relevant träff kan fortfarande sakna ett annat villkor som svaret kräver.

Kontrollera därför täckningen separat mot de uppgifter som markerats som nödvändiga i testfallet. För varje fråga kan teamet notera vilka av dessa uppgifter som finns i avsnitten som faktiskt skickades till modellen. Kontrollera innehållet, inte enbart dokumentets id: rätt dokument kan ha delats upp så att just den avgörande meningen faller utanför det hämtade avsnittet.

Redovisa ordning och täckning per fråga. Ett genomsnitt kan se stabilt ut trots att sökningen har slutat hitta underlaget för en viktig frågetyp. Om täckningen faller ligger en första felsökning i dokumenturval, uppdelning i avsnitt, sökfrågans formulering och rangordning. Den diagnosen går att göra innan det genererade svaret bedöms.

Pröva relevans och stöd i svaret var för sig

Ragas definition av faithfulness delar upp ett svar i påståenden och beräknar andelen som stöds av den hämtade kontexten. Granska vilka påståenden som underkänts, inte bara poängen. Ett påstående kan råka vara sant enligt en annan källa och ändå vara ostött i den kontext som tjänsten använde.

Bedöm därefter om svaret faktiskt besvarar frågan och täcker dess nödvändiga delar. Ett källtroget svar kan utelämna ett efterfrågat villkor, medan ett relevant och till synes fullständigt svar kan innehålla en obelagd detalj. I RAGAS-studiens WikiEval-test överensstämde faithfulness-bedömningen med mänskliga parvisa bedömningar i 95 procent av fallen. Det resultatet gäller testets jämförelser av svar, inte träffsäkerheten hos en bedömare på teamets egna svenska texter.

Frågor som ska besvaras med ett avstående behöver en egen kontroll: avstod tjänsten när underlag saknades, och besvarade den frågor där underlag fanns? Ett avstående innehåller inga sakpåståenden att räkna andelen stödda påståenden på. Registrera det därför som ett beteende i testfallet i stället för att behandla det som ett fullgott faktasvar.

Använd kombinationerna för att hitta felet

Läs måtten för varje testfall tillsammans med de sparade avsnitten. Följande mönster ger en första förklaring till en försämring:

• Saknas en nödvändig uppgift i kontexten har sökningen eller urvalet inte levererat tillräckligt underlag.
• Finns underlaget i kontexten men svaret innehåller ett ostött påstående behöver genereringen granskas.
• Är påståendena stödda men en efterfrågad del saknas brister svarets relevans eller fullständighet.
• Besvarar svaret frågan men lägger till en obelagd detalj syns felet i stödet för just det påståendet.

Anta som ett hypotetiskt testfall att frågan kräver ett datum och ett villkor. Om bara datumet hämtas är täckningen otillräcklig. Om båda uppgifterna finns i kontexten men svaret hittar på ett annat villkor är påståendet ostött. Om svaret återger datumet korrekt men hoppar över villkoret är det ofullständigt. Samma fråga kan alltså avslöja olika fel beroende på de avsnitt modellen fick.

Bestäm regressionsgränser och granska stickprov

Sätt beslutsgränser innan en ändring utvärderas. En möjlig lokal regel är att ingen kritisk fråga får ett nytt ostött påstående, att täckningen av nödvändiga uppgifter inte försämras och att genomsnittlig context precision får falla högst 0,05 poäng. Siffran är ett exempel på en i förväg vald gräns, inte ett uppmätt resultat eller en allmän standard. Spara både gränsen och utfallet för varje fråga.

Granska ett manuellt stickprov av både godkända och underkända svar samt alla nya fel i kritiska frågor. Granskaren behöver se frågan, svaret och exakt den kontext som modellen fick. Markera påståenden som stödda, ostödda eller oklara, och notera vilken efterfrågad uppgift som eventuellt saknas. Det gör det möjligt att upptäcka när den automatiska bedömaren missförstår en svensk formulering eller ett villkor som uttrycks över flera avsnitt.

Jämför slutligen förändringen fråga för fråga. Om en ny sökmetod förbättrar rangordningen men samtidigt ger fler ostödda svarspåståenden har förbättringen i sökningen inte löst problemet i svaret. De sparade avsnitten och påståendena visar då om nästa ändring hör hemma i hämtningen, i instruktionerna till modellen eller i båda delarna.

Läs också:

• Ett lyckat agenttest räcker inte – mät utfallet och upprepningen
• Signera Git-commits med SSH – den gröna markeringen räcker inte ensam
• Onoterade aktier: hög värdering är inte samma sak som ett säljpris