Whisper, SpeD sau Parakeet pentru română pe CPU

Pentru dictare în română pe un calculator fără accelerator grafic, SpeD Romanian CTC INT8 este prima configurație de evaluat: pe proza testată local a terminat repede și a făcut mai puține greșeli observate decât Parakeet. Pentru un interviu în care româna alternează cu engleza, Whisper Large-v3-Turbo merită timpul suplimentar de procesare. Parakeet TDT 0.6B v3 rămâne o opțiune pentru fișiere procesate rapid pe CPU, cu atenție la termenii englezești din fraze românești.

Verdictul depinde de forma vorbirii și de implementare. Viteza unui fișier întreg nu este latența după o propoziție dictată, iar un scor de acuratețe obținut pe un corpus academic nu descrie automat un interviu înregistrat în alt mediu. Pentru alegerea locală contează simultan fidelitatea textului, timpul pe procesorul disponibil, memoria și licența modelului distribuit.

Aceleași criterii pentru fiecare model

SpeD Romanian. Acuratețe: proza românească din comparația locală i-a fost favorabilă; engleza intercalată a rămas dificilă. Viteză și hardware: varianta CTC INT8 a fost rapidă pe segmente de dictare rulate pe CPU. Fișa SpeD Romanian descrie arhitectura FastConformer cu decodoare CTC și TDT, antrenarea pe 2.636 de ore de vorbire românească și licența Apache 2.0. Fișa indică un WER de 8,85 pe Fleurs-RO pentru CTC cu decodare beam și model lingvistic n-gram; această configurație diferă de CTC INT8 din testul pe CPU.
Whisper. Acuratețe: în proba mixtă, varianta Large-v3-Turbo a păstrat mai bine expresiile englezești, dar evaluarea pe română spontană cere prudență. Viteză și hardware: faster-whisper Small INT8 și whisper.cpp Large-v3-Turbo Q5 au costuri de procesare foarte diferite; simplul nume al familiei nu spune cât va dura transcrierea. Depozitul oficial Whisper prezintă modele de mărimi diferite și precizează că atât codul, cât și ponderile sunt sub licența MIT.
Parakeet TDT 0.6B v3. Acuratețe: acceptă româna și engleza, însă în proba locală a deformat unele expresii când limbile alternau. Viteză și hardware: configurația INT8 prin sherpa-onnx a procesat repede fișierele pe CPU; cifra aparține acelei implementări. Fișa NVIDIA indică 600 de milioane de parametri, suport pentru 25 de limbi europene, punctuație și marcaje temporale, licența CC BY 4.0 și un WER de 12,44% pentru română pe Fleurs cu decodare greedy.

Ce măsoară efectiv timpii pe CPU

În testele locale DO IT MAGIC, comparația principală a folosit pe Linux și CPU un fișier de 52,099 secunde în română și unul de 83,963 secunde cu română și engleză, ambele pregătite în același flux audio. Pentru fișierul românesc, Parakeet TDT INT8 prin sherpa-onnx a avut nevoie de 3,980 secunde, faster-whisper Small INT8 de 7,048 secunde, iar Whisper Large-v3-Turbo Q5 prin whisper.cpp de 30,72 secunde. Pe fișierul mixt, timpii configurațiilor respective au fost 7,490, 10,203 și 40,56 secunde.

Comparația separată SpeD–Parakeet a folosit 96,7 secunde de proză românească împărțite în nouă segmente. Transcrierea acelor segmente a durat 0,666 secunde cu SpeD CTC INT8 și 2,588 secunde cu Parakeet INT8, după încărcarea modelelor; autorii au observat și mai puține greșeli cu SpeD, fără să publice un WER pentru probă. Fișierul a avut nivel audio scăzut și nu a fost păstrat pentru reproducerea testului. Timpul segmentelor nu poate fi comparat direct cu timpul pentru fișiere întregi din primul experiment.

Mai există o diferență în cronometrare: încărcarea a fost măsurată separat pentru Parakeet și faster-whisper, dar inclusă în timpii whisper.cpp. Modelul exact al procesorului și variația dintre rulări nu sunt documentate complet. Prin urmare, ordinea este un indiciu pentru selecția pe CPU, iar secundele exacte nu sunt o promisiune pentru alt laptop. La dictare se adaugă pauza prin care aplicația decide că vorbitorul a încheiat fragmentul, apoi timpul de inserare a textului.

Acuratețea depinde de corpus și de felul vorbirii

WER reprezintă rata cuvintelor omise, adăugate sau înlocuite față de o transcriere de referință. Scorurile Fleurs din fișele SpeD și Parakeet au configurații de decodare diferite și nu țin loc de un test comun pe același audio, cu aceeași normalizare a textului. Nici unul dintre aceste scoruri nu măsoară viteza pe CPU; pentru dictare contează atât textul obținut, cât și timpul până la afișarea lui.

Studiul lui Ion Cernei de la Universitatea Tehnică a Moldovei evaluează Whisper pe audio românesc din domenii diferite și arată variația acurateței în funcție de structura vorbirii și de condițiile înregistrării. Vorbirea spontană și mediile audio variabile sunt mai dificile decât pasajele clare și pregătite. Pentru un interviu, acesta este motivul pentru care un rezultat obținut pe lectură controlată nu poate fi transferat direct la replici suprapuse, întreruperi și zgomot.

Româna amestecată cu engleza schimbă alegerea

Suportul declarat pentru două limbi nu rezolvă automat alternarea lor în aceeași propoziție. În proba mixtă locală, Parakeet a redat „pull request” ca „por request”, iar SpeD a întâmpinat dificultăți cu secvențele englezești. Whisper Large-v3-Turbo a păstrat mai bine expresiile de software, însă a procesat acel fișier mai lent decât celelalte configurații menționate. Observația privește o singură probă mixtă, nu toate accentele, microfoanele sau domeniile profesionale.

Pentru un interviu tehnic, un nume de produs sau un termen englezesc greșit poate cere mai multă corectură decât restul paragrafului. În dictarea exclusiv românească, unde acești termeni lipsesc, avantajul observat al SpeD pe proză devine mai relevant. O înregistrare integral în engleză este un alt caz: proba cu schimbări de limbă nu îi stabilește separat rezultatul.

Procesare locală, licență și alegerea finală

Modelele pot transcrie local după descărcarea fișierelor și pregătirea motorului de inferență. „Offline” descrie unde ajunge sunetul în timpul procesării, nu garantează aceeași viteză pentru orice instalare. Cuantizarea INT8 poate micșora cerințele de memorie și poate accelera anumite operații, dar efectul depinde de procesor și de implementare; configurația evaluată trebuie păstrată când se compară rezultatele.

Licențele din fișele modelelor au condiții diferite pentru redistribuire. Dacă transcrierea intră într-un produs oferit altora, contează și licența motorului de inferență, a conversiei și a componentelor suplimentare. O licență permisivă a ponderilor nu stabilește singură condițiile întregii aplicații. Pentru folosirea pe propriul calculator, criteriul imediat rămâne raportul dintre timpul de așteptare și corecturile necesare.

Pentru dictare predominant românească fără GPU, SpeD CTC INT8 are cel mai convingător indiciu practic din comparația pe segmente, cu rezerva că proba a fost mică. Pentru fișiere în română procesate în lot, Parakeet INT8 oferă timpul scurt observat în comparația pe fișiere întregi. Pentru interviuri cu treceri frecvente la engleză, Whisper Large-v3-Turbo este candidatul mai bun când fidelitatea termenilor justifică așteptarea. Dacă latența după fiecare propoziție decide experiența, cronometrul trebuie să includă segmentarea și apariția textului, nu doar inferența.

Citește și: