A Haiku 5.5 gyorsabban ír a Lunánál – az első szó viszont késhet

|Szerző: A QUASA szerkesztősége|4 perc olvasás| 1
A Haiku 5.5 gyorsabban ír a Lunánál – az első szó viszont késhet

Az Anthropic 2026. október 7-én kiadott Claude Haiku 5.5 modelljéhez egymillió tokenes kontextusablakot, legfeljebb 128 ezer tokenes kimenetet és alapértelmezett adaptív gondolkodást ad meg; a modellt aktívként tartja nyilván. A rendszer szöveget és képet fogad, szöveget állít elő, és a Claude API-n keresztül is elérhető. A besorolás, az adatkinyerés, a kérésirányítás és az alügynökök jól körülhatárolt feladatai szerepelnek a megcélzott munkák között.

A BitsMinds október 8-i összevetése az Artificial Analysis API-méréseiből a Haikunál 155–244, a GPT-6 Lunánál 112–129 token/másodperces kimenetet közöl; alacsony gondolkodási fokozaton 12,8, illetve 3,2 másodpercet mért az első válasz-tokenig, a Haiku maximális fokozatán pedig 341 másodpercet. A gyorsabb szövegkibocsátás tehát valós, de egy rövid, azonnal látható választ igénylő folyamatban a későbbi indulás lehet a meghatározó.

A kimeneti tempó és a válaszkezdet két külön óra

Az első válasz-tokenig eltelt idő a kérés elküldésétől a tényleges válasz megjelenéséig tart. Gondolkodó modellnél ebbe a látható szöveg előtti feldolgozás is beleszámít. A token/másodperc mutató viszont csak azt méri, milyen ütemben érkezik a kimenet, miután a szövegfolyam már elindult. A teljes várakozást a kezdési késés és a további szöveg előállítása együtt adja, ezért egyetlen „gyors” jelző kevés a felhasználói élmény leírására.

Rövid válasznál a generálási szakasz annyira rövid lehet, hogy a nagyobb kibocsátási tempó nem dolgozza le a lassabb kezdést. Hosszabb válasznál viszont a folyamatos termelésre fordított idő egyre nagyobb hányadot képvisel. Ez a különbség magyarázza, miért lehet ugyanaz a modell kedvező egy terjedelmes összefoglalónál és kényelmetlen egy rövid, élő reakciónál.

Az alacsony fokozat közölt értékeivel, azonos hosszúságú kimenetet és változatlan mérési feltételeket feltételezve, nagyjából 3700 token után egyenlítheti ki a Haiku gyorsabb írása a későbbi indulást. Ez egyszerű időbecslés, nem minőségi összehasonlítás: eltérő gondolkodás vagy eltérő hosszúságú válasz esetén más lesz a végeredmény. A szám azt teszi kézzelfoghatóvá, hogy a kezdési késésnek rövid feladatnál aránytalanul nagy súlya van.

A nagy kontextus hosszú bemenetnél számít

A széles kontextusablak akkor értékes, ha az automatizálás sok kapcsolódó szöveget, korábbi üzenetet vagy hosszú dokumentumot ad át egyetlen kérésben. Egy adatkinyerő feladat így a dokumentum távolabbi részeiben szereplő tényeket is ugyanabban a menetben érheti el. Ettől még a rendelkezésre álló kapacitás nem azonos a szükséges bemenettel: egy rövid rekord besorolása vagy egy kérés útválasztása nem válik önmagában gyorsabbá attól, hogy nagyobb az ablak.

A kontextus a bemenet és a kimenet közös kerete, miközben a válasz hosszának külön felső határa is van. Nagyobb bemenet több feldolgozandó tokent jelenthet, és a Haiku díjszabása hosszabb promptnál magasabb egységárra vált. Emiatt a teljes előzmény automatikus továbbítása a költséget is módosítja, még ha a végső válasz rövid marad is. A hosszú dokumentumos munka előnye tehát a hozzáférhető információban van, nem abban, hogy a modell minden esetben többet vagy hamarabb ír.

A gondolkodási fokozat megváltoztatja a mérlegelést

Az adaptív gondolkodás mélységét az effort beállítás szabályozza; az alapértelmezett fokozat közepes. Összetettebb feladatnál a több belső munka javíthatja az eredményt, de a látható válasz előtt telik el, és a tényleges tokenfogyasztást is növelheti. A gyors kimeneti tempó ezért nem mondja meg, mennyi ideig tart egy komplett feladat, és a tokenenkénti listaár sem azonos a feladatonként fizetett összeggel.

Az Artificial Analysis aktuális Haiku-adatlapján a maximális gondolkodási fokozat 240,5 token/másodperces kimenettel, 296,17 másodperces első válasz-tokenig tartó idővel, 43 pontos intelligenciaindexszel és feladatonként 0,21 dolláros benchmarkköltséggel szerepel. Az első napi összevetés és a későbbi adatlap azonos fokozatnál eltérő késést és kimeneti tempót mutat; a mérési pillanatkép tehát számít. A benchmark feladatonkénti átlaga ráadásul a tesztben használt kérésekre és tokenfogyasztásra vonatkozik, nem egy tetszőleges ügyfélszolgálati beszélgetés várható számlája.

A gondolkodás bekapcsolt állapotában mért késésből nem lehet közvetlenül következtetni a gondolkodás nélkül futtatott konfigurációra. A különböző fokozatok más minőségű és hosszúságú választ is előállíthatnak, így a sebesség, a pontosság és a költség ugyanannak a beállításnak külön következményei. Az API-k feladatonkénti költsége ezért közvetlenül kapcsolódik a válaszidő kérdéséhez.

Élő válasznál és háttérmunkánál más a szűk keresztmetszet

Élő ügyfélszolgálati csevegésben vagy egy alkalmazás gyors visszajelzésénél a felhasználó először azt érzékeli, mikor jelenik meg az első olvasható szó. Egy rövid besorolási vagy útválasztási válasz hamar befejeződik, miután elindult, így ott a kezdési idő uralja a várakozást. A folyamatos tokenfolyam csak az indulás után javít az élményen; a válasz előtti csendet a nagyobb kimeneti tempó nem rövidíti meg.

Háttérben futó összefoglalásnál, dokumentumfeldolgozásnál vagy hosszabb alügynöki részválasznál inkább az elkészült eredmény ideje számít. Ilyenkor a gyorsabb szövegkibocsátás valóban megtakaríthat időt, különösen ha a kimenet hosszú és az első token késése kisebb részét adja a teljes munkának. A feladat tényleges minősége és tokenfogyasztása ugyanakkor eldönti, hogy ez az időnyereség üzemben is előnyös-e.

A Haiku mostani alapértelmezett gondolkodási módjával ezért az azonnali, rövid reakciót kérő felületnek a válaszkezdet a kritikus időpont, míg a háttérben készülő hosszabb szövegnél a befejezés ideje kerül előtérbe. Ugyanannak az API-válasznak ez a két szakasza más automatizálásban válik látható korláttá.

Olvassa el ezt is:

Megosztás:

Kapcsolódó cikkek

Iratkozzon fel hírlevelünkre

A legfrissebb Web3-, MI- és kriptohírek egyenesen a postafiókjába.

0