LangChain eða LlamaIndex: fulltrúinn og gögnin ráða sitthvoru valinu

Veljið LlamaIndex þegar meginvandinn er að taka inn eigin gögn, vísa þeim og finna réttar heimildir. Hugtakayfirlit LlamaIndex setur leit yfir eigin gögn í kjarna RAG-ferlisins. Veljið LangChain þegar fulltrúi þarf einkum að velja verkfæri og stýra aðgerðum í fleiri skrefum; yfirlit LangChain lýsir stillanlegum fulltrúa sem sameinar líkan, verkfæri, fyrirmæli og millilög.

Þetta er forgangsröðun fyrir þróunarteymi, ekki skörp skipting á eiginleikum: báðir rammar geta sinnt leit og verkfæraköllum. Ef sérhæfð heimildaleit er eitt verkfæri í stærra aðgerðaflæði getur teymið notað LlamaIndex fyrir gagnalagið og LangChain fyrir fulltrúann. Sú samsetning er helst réttlætanleg þegar hvort lag um sig krefst eigin útfærslu og mats.

Hvar liggur erfiðleikinn í gagnalaginu?

Í RAG-verkefni þarf að koma gögnum inn, skipta efni í leitarhæfa hluta, geyma vísanir og finna viðeigandi heimildir þegar spurning berst. Ef gögnin eru á ólíku formi, breytast oft eða þurfa nákvæma heimildavísun verður þessi keðja sjálft þróunarverkefnið. Þá er LlamaIndex eðlilegur upphafskostur: gögn, vísanir og fyrirspurnarvélar eru skýr hugtök í rammanum.

Vel heppnuð leit er þó ekki það sama og vel heppnað svar. Fyrirspurnarvél getur skilað svari ásamt því samhengi sem sótt var, en teymið þarf enn að ákveða hvaða skjöl megi leita í, hvernig uppfærslur berist í vísinn og hvernig heimildarhlutar haldist tengdir upprunaskjölum. Þessar ákvarðanir ráða því hvort hægt er að rekja rangt svar aftur að inntöku, leit eða svarmyndun.

Ákvörðunarfylki fyrir rammana

Fylkið sýnir hvar hvor rammi gefur verkefninu eðlilegan þungamiðju. Það lýsir ekki einkarétti á eiginleikum; teymi getur útfært einfalt RAG-flæði í LangChain og fulltrúa í LlamaIndex.

• Inntaka: LlamaIndex á vel við þegar lestur, umbreyting og endurvinnsla skjala taka verulegan hluta vinnunnar. Ef gögnin eru þegar aðgengileg og inntakan einföld getur LangChain dugað sem grunnur að öllu forritinu.
• Vísun og leit: LlamaIndex hentar þegar mismunandi vísar, leitaraðferðir eða fyrirspurnarvélar eru miðlæg í lausninni. Þegar ein bein leit skilar nægu samhengi er sérstakt gagnalag síður nauðsynlegt.
• Verkfæraköll: LangChain hentar þegar fulltrúinn þarf að velja milli heimildaleitar, innri þjónustu og annarra aðgerða eftir því sem niðurstöður berast. Ef verkefnið er fyrst og fremst að svara út frá skjölum er sá stýrihluti minni.
• Staða og stýring: Fulltrúar LangChain byggja á LangGraph og geta nýtt stöðu og viðvarandi keyrslu. LlamaIndex býður líka Workflows og fulltrúa, svo valið ræðst af því hvar flækjan liggur fremur en því hvort staða sé yfirhöfuð möguleg.
• Mat og rekjanleiki: Í gagnamiðuðu verkefni þarf að greina gæði leitar frá gæðum svars. Í fulltrúaflæði þarf jafnframt að sjá hvaða verkfæri var kallað, í hvaða röð og með hvaða niðurstöðu.

Hvenær dugar einn rammi?

Fyrir afmarkaða spurningaþjónustu yfir handbækur getur LlamaIndex eitt og sér verið skýr lausn. Í slíku skilyrtu dæmi er meginvinnan að uppfæra skjalasafnið, finna rétta kafla og tengja þá svarinu. Fulltrúi sem velur milli margra ólíkra aðgerða myndi ekki leysa þann erfiðasta hluta verkefnisins.

LangChain getur einnig séð um allt RAG-flæðið. Leiðbeiningar LangChain um leit lýsa skjalalesurum, textaskiptingu, vigrageymslum og því að tengja fyrirliggjandi gagnagrunn sem verkfæri. Ef fulltrúinn á að leita í handbók, sækja stöðu úr innri þjónustu og ákveða næstu aðgerð getur því verið einfaldara að halda leit og stýringu í sama ramma.

Fyrirfram ákveðin leit fyrir hvert svar og leit sem fulltrúi kallar eftir þörfum hafa ólíka eiginleika. Fyrri leiðin gerir röð skrefa fyrirsjáanlega; sú síðari leyfir fulltrúanum að sækja heimildir þegar þær vantar í flóknara verkefni. Þessi munur skiptir meira máli fyrir arkitektúrinn en það hvort verkefnið sé einfaldlega kallað RAG.

Þegar LlamaIndex verður verkfæri fulltrúa

Samnýting hefur skýrasta hlutverkið þegar leitin er sjálfstætt flókin og fulltrúinn þarf jafnframt fleiri verkfæri. Samanburður AI Agentics lýsir þessu mynstri: fyrirspurnarvél LlamaIndex er gerð kallanleg sem verkfæri, en LangChain stýrir stærra fulltrúaflæðinu. Þannig má þróa leitina án þess að færa allt aðgerðaflæðið inn í gagnalagið.

Hugsum okkur skilyrt dæmi þar sem notandi spyr hvaða verklagsregla gildi um mál og hver staða málsins sé nú. LlamaIndex tekur við fyrirspurn um regluna og skilar viðeigandi heimildum; annað innra verkfæri skilar stöðunni. LangChain-fulltrúinn ákveður hvenær hann kallar hvort verkfæri og setur niðurstöðurnar saman í svar. Dæmið sýnir verkaskiptingu, ekki mældan árangur tiltekinnar útfærslu.

Skilin þurfa að vera nægilega skýr til að leitarniðurstaða flytji með sér auðkenni heimilda og þau lýsigögn sem svarið þarf. Fulltrúinn þarf síðan að varðveita tengsl milli spurningar, verkfærakalls og loka­svars. Án þeirra tengsla getur réttur kafli fundist í leitinni en horfið úr rekjanleika þegar fulltrúinn vinnur áfram.

Kostnaðurinn við tvö lög

Tveir rammar bæta við samþættingu sem teymið verður að eiga. Það þarf að samræma gagnalíkön, villumeðhöndlun, aðgangsheimildir og rakningu yfir mörkin milli leitar og fulltrúa. Ef bæði lög umbreyta sömu skjölum eða sía heimildir hvort í sínu lagi verður erfiðara að finna hvaða ákvörðun olli vöntun eða röngu svari.

Þess vegna réttlætir almenn löngun í fleiri eiginleika ekki samsetninguna. Hún á við þegar sjálfstætt gagnalag leysir afmarkaðan vanda sem einfaldari leit í LangChain leysir illa, á sama tíma og verkfærastýringin er nægilega flókin til að hafa eigin ábyrgð. Sé aðeins annað þessara skilyrða til staðar er einn rammi yfirleitt skýrari upphafspunktur.

Mat sýnir hvaða lag þarf að bæta

Rangt svar getur stafað af því að rétta heimildin fannst ekki, að röng heimild var valin eða að svarið studdist ekki við heimild sem fannst. Matsleiðbeiningar LlamaIndex aðgreina mat á viðeigandi leitarniðurstöðum frá mati á því hvort svar sé trútt sóttu samhengi. Þessi aðgreining kemur í veg fyrir að breyting á líkani sé talin lausn á vanda sem liggur í vísun eða leit.

Í fulltrúaflæði bætist við spurningin hvort rétt verkfæri hafi verið valið og hvort óþarfa köll hafi fylgt. Sameiginleg rakning þarf að tengja verkfærakall við leitarniðurstöðu og loka­svar; annars sést aðeins annar helmingur ferlisins. Fyrir teymi sem velur arkitektúrinn er því gagnlegt að bera saman sömu raunhæfu spurningar með fyrirhuguðum gögnum og verkfærum. Niðurstaðan getur sýnt hvort flækjan situr í heimildaleitinni, stýringunni eða skilunum þar á milli.

Lestu einnig:

• ChatGPT eða Microsoft 365 Copilot: gögnin ráða valinu, ekki líkanið
• NotebookLM eða Perplexity: eigin heimildir og opni vefurinn skilja þau að
• Descript eða CapCut: talað efni og stutt myndskeið velja sitt hvort tólið