ElevenLabs apo Cartesia: si matet vonesa e zërit

Për një agjent zanor në kohë reale, shifrat e publikuara të vonesës nuk nxjerrin vetë një fitues mes ElevenLabs dhe Cartesia: ato matin modele, pika fillimi dhe pjesë të ndryshme të shpërndarjes së përgjigjeve. Për telefonata nga Shqipëria ose Kosova, krahasimi ka kuptim kur të dy API-të marrin të njëjtin tekst, nga i njëjti rajon serveri, me të njëjtën ngarkesë.

Nëse agjenti duhet të flasë shqip, kufiri i gjuhës vjen përpara çmimit. Lista e gjuhëve të Sonic 3.6 përfshin 44 gjuhë, por nuk rendit shqipen. As dokumentacioni i modeleve ElevenLabs nuk e rendit shqipen ndër 32 gjuhët e Flash v2.5 ose mbi 90 gjuhët e Eleven v4 Turbo; për planin Scale ai dallon 30 gjenerime të njëkohshme Flash nga 105 sesione WebSocket të Text to Dialogue. Mungesa në listë nuk është provë se modeli s’mund të prodhojë asnjë fjalë shqip, por është kufizim i mbështetjes së deklaruar.

Pse dy shifra të vonesës nuk japin të njëjtën përgjigje?

Vonesa e inferencës përshkruan punën e modelit. Koha deri te audioja e parë nis me dërgimin e kërkesës dhe mbaron kur mbërrin fragmenti i parë i audios; koha deri te tingulli që dëgjon telefonuesi përfshin edhe rrjetin, transportin dhe riprodhimin. Në një agjent të plotë shtohen njohja e të folurit dhe koha që i duhet modelit gjuhësor të përgatisë përgjigjen. Një numër i vetëm për modelin nuk përshkruan gjithë pauzën pas pyetjes së telefonuesit.

Krahasimi teknik i Micdrop përmbledh një test të ElevenLabs me medianë rreth 150 ms deri te të folurit e parë për Eleven v4 Turbo dhe 262 ms për Sonic 3.6, pasi është hequr vonesa e rrjetit. Ai përmbledh veçmas një krahasim P90 të paraqitur nga Cartesia: 351 ms për Sonic 3.5 dhe 2 499 ms për Flash v2.5. Këtu ndryshojnë si modelet, ashtu edhe statistika e raportuar. Rezultati për Sonic 3.5 nuk është rezultat i Sonic 3.6.

Mediana është pika ku gjysma e përgjigjeve janë më të shpejta dhe gjysma më të ngadalta; P90 tregon kufirin nën të cilin bien nëntë të dhjetat e përgjigjeve. Për një linjë telefonike, P90 ka rëndësi sepse pritjet më të gjata mund të bëjnë që telefonuesi të flasë sërish para agjentit. Por një P90 nuk mund të vendoset përballë një mediane sikur të dyja të ishin i njëjti test. Për të gjykuar sjelljen nga infrastruktura që u shërben përdoruesve në Ballkan, duhen matur të dyja statistikat mbi të njëjtën pikë fillimi dhe të njëjtën pikë mbarimi.

Matja më e ngushtë fillon kur teksti i përgjigjes dërgohet te API-ja TTS dhe mbaron me mbërritjen e fragmentit të parë audio. Matja e bisedës fillon kur telefonuesi përfundon fjalinë dhe mbaron kur ai dëgjon përgjigjen. E dyta tregon përvojën e thirrjes, por përfshin komponentë të tjerë përveç furnizuesit të zërit. Ruajtja e këtyre dy rezultateve veçmas tregon nëse vonesa vjen nga sinteza apo nga pjesa tjetër e agjentit.

Sa kushton një milion karaktere të shqiptuara?

Çmimi i planit Scale të Cartesia është 299 dollarë në muaj për 8 milionë kredite; për Sonic, një kredit i përgjigjet një karakteri dhe kufiri TTS është 15 kërkesa të njëkohshme. Nëse të gjitha kreditet përdoren për zë, pjesëtimi jep rreth 37,38 dollarë për një milion karaktere. Kreditet shërbejnë edhe për transkriptim, ndaj ky normalizim përshkruan përdorim vetëm për sintezën e të folurit.

Në tabelën mujore të ElevenAPI, Scale kushton 299 dollarë dhe përfshin 7 475 000 karaktere Flash/Turbo, me tarifë të paraqitur prej 0,04 dollarësh për një mijë karaktere. Kjo është afërsisht 40 dollarë për një milion karaktere kur përdoret i gjithë volumi i përfshirë. Në të njëjtën faqe, karta hyrëse e Flash/Turbo shfaq 0,05 dollarë për një mijë karaktere; për krahasimin e dy abonimeve Scale, shifra përkatëse është ajo e tabelës së planit mujor.

Diferenca në vëllimin e përfshirë është 525 000 karaktere në favor të Cartesia, nëse buxheti shkon i tëri për TTS. Ajo nuk tregon koston e plotë të një telefonate: njohja e të folurit, modeli gjuhësor, shërbimi i agjentit dhe telefonia mund të tarifohen ndryshe. Edhe karakteret e dërguara për një përgjigje që më pas ndërpritet hyjnë në llogarinë e përdorimit. Për këtë arsye, minuta e linjës së hapur dhe karakteri i sintetizuar duhen mbajtur si njësi të veçanta.

Kur kufiri i gjenerimeve bëhet kufi i thirrjeve?

Një telefonatë përmban kohë kur flet përdoruesi, kur përgatitet përgjigjja dhe kur prodhohet audioja. Te TTS, kërkesat e njëkohshme zënë kapacitet gjatë gjenerimit; thirrjet e hapura nuk prodhojnë domosdoshmërisht zë në çdo çast. Prandaj 15 vende gjenerimi në Cartesia dhe 30 në ElevenLabs Flash nuk përkthehen drejtpërdrejt në po aq telefonata aktive.

Text to Dialogue i Eleven v4 Turbo përdor një matës tjetër: lidhja WebSocket mban një sesion për sa kohë që qëndron hapur, edhe gjatë heshtjes. Kufiri i sesioneve të këtij produkti nuk është dyfish apo shumëfish i krahasueshëm me kufirin e kërkesave Flash. Nëse bisedat kanë pauza të gjata, gjenerimet TTS mund të shpërndahen ndërmjet më shumë thirrjeve. Nëse shumë agjentë nisin të flasin njëherësh, kërkesat mund të arrijnë kufirin edhe pse numri i thirrjeve të hapura nuk ka ndryshuar.

Për të njëjtin skenar agjenti duhen dalluar kulmi i thirrjeve aktive, kulmi i përgjigjeve që po sintetizohen dhe numri i lidhjeve që mbeten hapur gjatë heshtjes. Kjo ndarje shpjegon pse një plan me më shumë karaktere të përfshira mund të jetë më i ngushtë në çastet e ngarkesës, ndërsa një plan me më shumë vende gjenerimi mund të mos sjellë përfitim kur trafiku është i rrallë.

Çfarë ndryshojnë klonimi dhe ndërprerja?

Të dy furnizuesit ofrojnë klonim zëri, por vlera e tij për një agjent telefonik varet nga shqiptimi i emrave, numrave, datave dhe fjalive që përdor realisht shërbimi. Një zë i ngjashëm me kampionin mund të shqiptojë dobët një gjuhë që modeli nuk e rendit si të mbështetur. Për përdorim në shqip, kjo e bën cilësinë e të folurit një pyetje më themelore se sa madhësia e bibliotekës së zërave ose shpejtësia e klonimit.

Ndërprerja provon një pjesë tjetër të përvojës. Kur telefonuesi nis të flasë mbi përgjigjen sintetike, agjenti duhet të ndalë audion e vjetër, të përpunojë fjalinë e re dhe të nisë përgjigjen përkatëse. Një kohë e ulët deri te audioja e parë nuk tregon sa shpejt ndalet fjalia e vjetër. Në të njëjtin skenar krahasimi, koha e ndalimit dhe koha deri te përgjigjja pas ndërprerjes janë rezultate më vete; ato ndikojnë drejtpërdrejt nëse biseda ndihet e rrjedhshme apo nëse agjenti vazhdon të flasë pasi përdoruesi ka marrë fjalën.

Lexoni gjithashtu: