Rektu feril gervigreindarfulltrúa — en geymdu ekki leyndarmálin í slóðinni

Til að rekja heilan feril gervigreindarfulltrúa skaltu tengja innkomna beiðni, keyrslu fulltrúans, líkanaköll, gagnaleit og verkfæri í eina OpenTelemetry-rekjaslóð. Spannirnar sýna röð aðgerða og tímalengd; táknatalningar á líkanaköllum hjálpa til við að meta kostnað. GenAI-merkingarvenjur OpenTelemetry lýsa þessum aðgerðum og gera skráningu skilaboðainnihalds að sérstöku vali.

Byrjaðu á stöðugum heitum aðgerða, tengingu milli spanna og þeim sviðum sem skýra tafir, villur og notkun. Haltu texta beiðna, svörum, leitarstrengjum og niðurstöðum verkfæra utan almennra rekjagagna. Sú ákvörðun dugar þó ekki ein og sér: sjálfvirk HTTP-skráning getur líka flutt leyndarmál úr vefslóðum inn í sömu rekjaslóð.

Settu hverja aðgerð á réttan stað í ferlinum

Innkomin beiðni getur myndað rót rekjaslóðarinnar. Undir henni fer span fyrir keyrslu fulltrúans og þar undir spannir fyrir einstök líkanaköll, gagnaleit og framkvæmd verkfæra. Ef verkfæri kallar sjálft á líkan er líkanakallið barn þess verkfæraspans; ef leitin fer fram áður en verkfæri er valið eru leit og verkfæri aðskildar greinar undir keyrslunni. Foreldratengslin sýna þannig hvar bið varð til, ekki aðeins að mörg köll áttu sér stað.

Dæmi OpenSearch um handvirka skráningu setur köllun fulltrúans í yfirspan og framkvæmd verkfæris í innra barnsspan. Sjálfvirk skráning getur tekið utan um HTTP-útköll, en forritið þarf að merkja eigin keyrslu fulltrúans og verkfæraaðgerðir þar sem þær gerast. Þannig verður hægt að greina á milli biðar eftir ytri þjónustu og tíma sem fer í aðra vinnu fulltrúans.

1. Opnaðu span fyrir innkomna beiðni og varðveittu rekjasamhengið þegar vinnan færist milli þjónusta eða í biðröð.
2. Opnaðu span fyrir keyrslu fulltrúans. Láttu hverja aðgerð verða barn þess spans eða barns sem framkvæmir aðgerðina.
3. Opnaðu sérstakt span þegar líkanakall, gagnaleit eða verkfæri hefst og lokaðu því þegar svar eða villa liggur fyrir.
4. Haltu endurteknum tilraunum aðgreindum svo bið og villur hverrar tilraunar sjáist án þess að þær renni saman í eina óskýra aðgerð.

Þetta er kort fyrir eina beiðni, ekki krafa um að allir fulltrúar fylgi sömu röð. Fulltrúi getur leitað oftar en einu sinni eða kallað á sama verkfæri aftur. Samhengið og foreldratengslin eiga að endurspegla þá keyrslu sem fór raunverulega fram.

Notaðu merki sem svara rekstrarspurningum

Á líkanakalli skaltu skrá heiti aðgerðar, umbeðið líkan og líkanið sem svaraði þegar þær upplýsingar fást. Sviðin gen_ai.usage.input_tokens og gen_ai.usage.output_tokens halda utan um táknanotkun hvers kalls. Tímalengd spansins sýnir biðina; villuflokkur gerir kleift að greina bilun án þess að varðveita hrátt villuskilaboð sem gæti endurtekið inntak.

Til að áætla kostnað skaltu leggja saman notkun sjálfstæðra líkanakalla og tengja hana við verð þess líkans og þjónustusamnings sem á við. Táknatalning er ekki sjálf reikningur. Tákn sem lesin eru úr skyndiminni geta verið hluti af heildarfjölda inntakstákna, svo ekki má leggja þau við heildina aftur sem nýja notkun. Sama gildir ef yfirspan sýnir samantekt yfir köllin sem eru þegar talin á undirspönnum.

Á verkfæraspani nægja oft stöðugt heiti verkfæris, niðurstaða aðgerðar og villuflokkur. Á leitarspanni getur stöðugt auðkenni gagnasafns hjálpað til við að finna hæga leit, ef auðkennið afhjúpar ekki viðkvæmar upplýsingar. Fjöldi niðurstaðna og vísbending um tóma leit geta skýrt hvers vegna fulltrúinn þurfti annað skref. Skráðu þessi merki þar sem aðgerðin fer fram; heildartími keyrslunnar einn segir ekki hvaða undirskref olli töfinni.

Ákveddu hvaða efni má fylgja rekjaslóðinni

Hafðu skráningarstefnuna skýra áður en sjálfvirkar og handvirkar mælingar eru virkjaðar saman. Þessi ákvörðunarskrá miðar við að teymið þurfi að greina afköst og bilanir, en þurfi ekki að geyma samtalsefni í rekjakerfinu:

• Skrá: heiti aðgerðar og verkfæris, líkan, tímamerki, táknatalningar, stöðu og villuflokk. Þau svið lýsa ferlinum án þess að afrita beiðni notandans.
• Skrá með skilyrðum: stöðugt auðkenni gagnasafns eða fyrirfram skilgreindan flokk beiðni, ef samanburður milli keyrslna krefst þess. Athugaðu hvort gildið geti sjálft auðkennt einstakling eða trúnaðarmál.
• Sía sjálfgefið: inntaks- og úttaksskilaboð, kerfisfyrirmæli, leitartexta, sótt skjöl og færibreytur eða niðurstöður verkfæra. Slík svið geta innihaldið persónuupplýsingar þótt spanheitið sé saklaust.
• Haltu utan rekjakerfis: aðgangslyklum, auðkennistáknum, óhreinsuðum vefslóðum og hráum villuútskriftum. Ef varðveisla efnis er nauðsynleg vegna sérstakrar úttektar þarf að ákveða hana sérstaklega, með aðgangsstýringu og varðveislureglum fyrir þá geymslu.

Lengdartakmörkun textasviðs kemur ekki í stað síunar: stuttur bútur getur enn geymt nafn, kennitölu eða lykil. Beittu því stefnunni áður en efni verður að eiginleika spans og láttu hana einnig ná til tengdra atvika og annála. Veldu þau gildi sem þarf til að svara rekstrarspurningunni, fremur en að senda allt sem mælingarsafnið getur tekið upp.

Hreinsaðu vefslóðir áður en þær verða rekjagögn

Verkfæri fulltrúa sækja gjarnan gögn með HTTP-köllum. Þá getur sjálfvirk skráning tekið upp heila vefslóð með fyrirspurnarfæribreytum, jafnvel þótt skráningu GenAI-skilaboða sé sleppt. HTTP-merkingarvenjur OpenTelemetry krefjast þess að aðgangsupplýsingar í vefslóð séu fjarlægðar, mæla með hreinsun þekktra viðkvæmra gilda og vara við óvalinni skráningu HTTP-hausa.

Notaðu stöðugt leiðarsnið þegar þú þarft að bera saman köll, en fjarlægðu leynileg gildi úr fullri slóð og fyrirspurn áður en þau fara út úr forritinu. Þetta skiptir sérstaklega máli fyrir undirritaðar slóðir og verkfæri sem senda auðkennistákn áfram. Skoðaðu líka hvaða hausar eru teknir upp: að sleppa samtalinu úr líkanaspaninu verndar það ekki ef sama gildi birtist í HTTP-spani. Síun í söfnunarþjónustu getur verið viðbót, en þar er gildið þegar farið frá forritinu.

Prófaðu bæði ferilinn og síunina

Keyrðu tilbúna beiðni sem leiðir til gagnaleitar, verkfærakalls og svars frá líkani. Athugaðu hvort aðgerðirnar tengjast sömu rekjaslóð, liggja undir réttum foreldrum og sýna tímalengd, táknanotkun og niðurstöðu þar sem við á. Láttu einnig verkfæri skila stýrðri villu svo sjáist hvort misheppnaða tilraunin birtist án hrárrar villuútskriftar.

Settu tilbúið leynigildi og tilbúna persónuupplýsingu í prófunarinntak og leitaðu að þeim í útfluttum spannum, tengdum atvikum og annálum. Leitaðu sérstaklega í vefslóðum og hausum, ekki aðeins í GenAI-sviðum. Ef gildin birtast þarf að breyta upptöku eða síun áður en raunverulegar beiðnir fara um kerfið; rekjaslóðin á áfram að sýna hvaða aðgerð tafðist og hvar notkunin varð til.

Lestu einnig:

• Gervigreindarfulltrúar fá ekki frjálsar hendur á vinnustöðum
• 48% starfsmanna ýkja gervigreindarkunnáttu sína undir þrýstingi
• Google Takeout velur ekki tímabil — afritaðu Gmail án þess að týna merkjum