Hviske eller Whisper til dansk tale? Lokalt valg koster funktioner

Hviske v5 Tiny er et oplagt valg til korte danske diktater, når modellen skal køre lokalt på begrænset hardware. Modelkortet for Hviske v5 Tiny angiver 263 millioner parametre, 16 kHz monolyd og klip på højst 35 sekunder. Modellen leverer hverken tidskoder, taleradskillelse eller indbygget streaming.

Whisper er det mere fleksible udgangspunkt, hvis optagelserne også rummer andre sprog, eller teksten skal knyttes til tidspunkter i lyden. Begge modeller kan bruges i en lokal løsning. For en organisation afhænger valget desuden af, hvordan hele programmet behandler lyd og tekst, og om licensen tillader den planlagte brug.

Hvilken model genkender dansk bedst?

På den åbne danske ASR-rangliste måles modellerne ens på fem offentlige danske testsæt: Hviske v5 Tiny har en gennemsnitlig ordfejlrate på 14,08 procent mod 23,89 procent for OpenAI Whisper Large v3; på CoRals spontane samtaler er tallene 25,94 og 48,79 procent. Lavere ordfejlrate betyder færre forkerte, manglende eller tilføjede ord efter ranglistens tekstnormalisering. Den direkte sammenligning gælder netop disse modelversioner og denne testmetode.

Gennemsnittet omfatter både spontan samtale, oplæsning og parlamentarisk tale. Det er derfor mere oplysende at se på samtaleresultatet, hvis formålet er møder eller interviews, end at læse gennemsnittet som en forventet fejlrate for enhver optagelse. Ranglisten scorer også tegnfejl og hastighed, men ingen af målene fortæller alene, om navne, fagudtryk eller overlappende replikker bliver rigtige i en bestemt organisations lyd. Modellens egen testtabel viser en lidt anden gennemsnitsscore; den direkte sammenligning her bygger konsekvent på ranglistens fælles måling.

I Codictates separate benchmark opnåede Hviske v5 Tiny Q5_0 en dansk ordnøjagtighed på 88,7 procent mod 87,6 procent for fuld Whisper Large v3; de målte modelfiler fyldte henholdsvis 181 MB og 3,0 GB, og behandlingstiden var 18 mod 164 millisekunder per sekund lyd i leverandørens opsætning. Den danske lyd i denne måling er oplæste FLEURS-sætninger, så resultatet siger mindre om møder end ranglistens særskilte samtaletest. Ord­nøjagtighed og ordfejlrate fra de to undersøgelser bør heller ikke lægges sammen til én rangering: datasæt, konfiguration og normalisering er forskellige.

Hvad betyder størrelse og hastighed i drift?

Codictates størrelsestal beskriver bestemte modelfiler, ikke alle udgaver af Hviske og Whisper. Hviske findes i flere kvantiseringer, og en mindre fil kan mindske behovet for lagerplads og arbejdshukommelse. Hastigheden afhænger samtidig af processor, runtime og måden lydklip sendes til modellen på. Et målt forspring på én maskine er derfor et godt argument for at undersøge den kompakte model, men ikke en garanti for samme svartid på en anden.

Ved diktering er behandlingstid per sekund lyd kun en del af ventetiden. Programmet skal også afgøre, hvornår en ytring er færdig, afslutte klippet og vise resultatet. En hurtig model kan føles langsom, hvis appen samler for meget tale, før den begynder at transskribere. Til en længere interviewoptagelse, der behandles efterfølgende, kan den samlede gennemløbstid til gengæld være vigtigere end forsinkelsen efter hver sætning. Her er både klipopdeling og håndtering af overgange mellem klip en del af løsningen.

Hvor koster det kompakte valg funktioner?

Hviske v5 Tiny tager afgrænsede lydklip og returnerer tekst uden placering i optagelsen. En app kan opdele indgående tale efter pauser og vise tekst løbende, men det er appens behandling af klip, ikke ægte streaming i modellen. Skal et citat findes igen på et bestemt tidspunkt, må tidsplaceringen komme fra en anden komponent. Skal et mødeudskrift vise, hvem der taler, kræves der også særskilt taleradskillelse.

OpenAIs Whisper-projekt understøtter flersproget genkendelse, behandling af lydfiler i vinduer og tidsopdelte transskriptionssegmenter; kode og modelvægte er udgivet under MIT-licensen. Transskriptionskoden har desuden en valgfri indstilling til ordtidskoder. Det gør Whisper til et mere direkte udgangspunkt for undertekster og optagelser, hvor man skal kunne springe til en passage. Standardtransskriptionen mærker dog ikke automatisk hver replik med en taler, og den filbaserede arbejdsgang er ikke i sig selv en live-tjeneste.

Forskellen mærkes især i efterbehandlingen. Hvis resultatet blot skal indsættes som et notat, er tidskoder måske uden værdi. Hvis en redaktør derimod skal finde et citat i en optagelse, eller en undertekst skal følge talen, bliver manglende tidsplacering et ekstra teknisk trin. For møder løser tidskoder kun spørgsmålet om hvornår; taleradskillelse skal stadig afgøre hvem.

Privat lokal drift kræver den rigtige licens

En lokalt kørt model betyder, at selve genkendelsen kan ske uden at sende lyden til en ekstern transskriptionstjeneste. Det siger ikke alt om appen omkring modellen. Optagelse, lydforbehandling, lagring, synkronisering og eventuelle netværkskald er selvstændige dele af arbejdsgangen. Ved fortrolige møder er det den samlede løsning, ikke blot placeringen af modelvægtene, der afgør, hvor lyd og tekst ender.

Licensen er en anden grænse. AI Alliancens modeloversigt angiver CC BY-NC 4.0 for Hviske v5 Tiny og oplyser, at kommerciel brug kræver en særskilt licens. En virksomhed bør derfor afklare vilkårene for sin konkrete anvendelse, også hvis modellen teknisk fungerer godt på dens egne maskiner. Whisper har en enklere vej for kommerciel brug under MIT-vilkårene, men software omkring modellen kan have sine egne betingelser.

Valg efter opgave

Den mest brugbare beslutning tager både lydtypen og det ønskede slutprodukt med. Følgende valg gælder de beskrevne modelversioner; de er ikke en påstand om, at enhver app bygget ovenpå dem har samme funktioner.

• Kort dansk diktering: Hviske v5 Tiny er en stærk første kandidat, når kompakt lokal drift og ren tekst er vigtigst. Appen skal stadig afslutte og opdele talen i passende klip.
• Møder: Brug samtaletallene som pejlemærke for genkendelse, men planlæg taleradskillelse særskilt, hvis referatet skal knytte replikker til deltagere. Whispers tidssegmenter kan gøre optagelsen lettere at navigere i.
• Interviews: Hvis citater skal kunne findes i lydfilen, giver Whisper et mere direkte udgangspunkt med tidskoder. Til et rent tekstudkast kan Hviskes danske samtaleresultat være mere relevant end størrelsen på Whisper-modellen.
• Fortrolig lokal behandling: Begge modeller kan indgå i løsningen. Valget står først fast, når appens lagring og netværksbrug passer til kravene for den konkrete lyd.
• Kommerciel brug: Whisper har MIT-vilkår for kode og vægte. Hviske kræver særskilt licens til kommerciel anvendelse.
• Undertekster og tidskoder: Whisper leverer tidsopdelte segmenter og kan udtrække ordtidskoder. Med Hviske skal tidsjustering tilføjes efter transskriptionen.

For et valg, der skal holde i drift, er egne optagelser den afgørende prøve: dansk diktering bør prøves på diktater, og en mødeløsning på samtaler med de forhold, den faktisk skal håndtere. Mål både genkendelsesfejl og tiden fra afsluttet tale til brugbar tekst på den planlagte hardware. Så kan de offentlige målinger bruges som sammenligningsgrundlag, mens licens og nødvendige ekstra komponenter afgør den samlede løsning.

Læs også:

• Otter eller Fireflies til danske møder? Sproglisten afgør valget
• Grammarly eller LanguageTool? Dansk tekst gør standardvalget usikkert
• Docker eller Podman: Rootless-sikkerhed har en målbar pris