Ollama eller LM Studio: Samme modell ga bare 2 prosent fartsforskjell

I Onticposts måling, oppdatert 15. oktober 2026, ga samme Gemma 4 31B Q4_0-fil 11,74 token per sekund i LM Studio og 11,50 i Ollama på en Mac med M4 Pro og 48 GB minne – en forskjell på om lag 2 prosent. Det er et resultat for disse oppsettene, ikke en fast fartsrangering av programmene.

Velg LM Studio hvis du vil finne og prøve modeller i et grafisk program og deretter bruke dem gjennom en lokal server. Velg Ollama hvis applikasjonen din skal styre svarformat, genereringsparametere og modellens tid i minnet fra hver forespørsel. Begge tilbyr API-er og kan brukes til automatisering. Derfor er arbeidsformen et mer nyttig utgangspunkt enn den lille forskjellen i målt skrivehastighet.

Hva målingen sier om fart

En sammenligning av lokale modellkjørere blir fort misvisende når modellvariant, kvantisering eller maskinvare varierer. Her ble den samme modellfilen kjørt på den samme maskinen med lik grense for generering og like innstillinger for kontekstvindu og temperatur. Det gjør sammenligningen av skrivehastighet mer relevant enn tall hentet fra ulike oppsett. Hastigheten var likevel rapportert av hvert program selv, og resultatet gjelder kjøreversjonene som ble brukt i målingen.

Token per sekund beskriver hvor raskt tekst produseres etter at genereringen er i gang. Den sier mindre om hvor lenge brukeren venter på første synlige svar. For en lang melding må modellen først behandle innholdet; for en modell som er fjernet fra minnet, kommer innlasting i tillegg. Disse delene kan merkes tydelig i en interaktiv samtale selv når skrivehastigheten er nesten lik.

Det er også forskjell på en kort samtale og en automatisering som sender store dokumenter eller mange forespørsler etter hverandre. Kontekstvinduet avgjør hvor mye innhold modellen kan ta imot, mens minneinnstillinger påvirker om modellen må lastes igjen senere. En fartsforskjell må derfor leses sammen med oppgavens lengde, modellens innstillinger og hvordan tjenesten håndterer gjentatt bruk. Målingen gir en god korreksjon til bastante fartsrangeringer, men ingen universell vinner.

LM Studio: grafisk arbeid og valg av endepunkt

LM Studio lar deg arbeide med lokale modeller i et grafisk program og betjene andre applikasjoner fra en server. LM Studios API-oversikt beskriver et eget REST-API for inferens og modellstyring, samt OpenAI- og Anthropic-kompatible endepunkter. Det gir flere innganger til samme lokale modell når en eksisterende klient allerede forventer et bestemt API-format.

Endepunktene er ikke funksjonelt like. Det egne chat-endepunktet kan bevare samtaletilstand og la klienten angi kontekstvindu ved forespørselen. De kompatible chat-endepunktene støtter på sin side egne verktøykall, men har andre grenser for samtaletilstand og innstillinger. En klient som bare sender vanlige meldinger, kan være enkel å koble til. En agent som bruker verktøy eller forventer at serveren husker samtalen, må ha et endepunkt som støtter akkurat den oppførselen.

LM Studios eget API har dessuten funksjoner for å liste, laste inn, laste ut og laste ned modeller. Det kan være nyttig når samme lokale tjeneste skal veksle mellom modeller uten at alt styres manuelt i programvinduet. Det grafiske grensesnittet og serveren dekker dermed ulike deler av arbeidsflyten: det ene gjør modellene lette å utforske, mens API-valget avgjør hvordan annen programvare faktisk kan bruke dem.

Ollama: innstillinger fra klienten

Ollamas styrke for en egen integrasjon er at forespørselen kan bære med seg viktige modellvalg. Ollamas API-dokumentasjon viser at format kan be om JSON eller følge et JSON-skjema, at options kan endre blant annet temperatur og kontekstvindu, og at keep_alive styrer hvor lenge modellen beholdes lastet etterpå. Ulike jobber kan dermed bruke ulike innstillinger mot den samme lokale tjenesten.

For en arbeidsflyt som sender modellsvaret videre til programkode, kan et strukturert svar gjøre neste ledd enklere å behandle. Kontekstvinduet kan tilpasses en lang inngangstekst, mens genereringsinnstillinger kan variere mellom en kort klassifisering og et lengre svar. Dette er kontroll som utvikleren må bruke bevisst: mer tilgjengelig kontekst krever også ressurser på maskinen, og et JSON-skjema erstatter ikke kontroll av innholdet svaret bygger på.

Minnevalget har en konkret driftskostnad. En modell som blir liggende lastet, kan være klarere for neste forespørsel, men opptar fortsatt minne som andre programmer kunne brukt. Hvis klienten lar den lastes ut raskere, kan neste kall måtte vente på ny innlasting. Ollama lar applikasjonen som sender forespørselen, påvirke denne avveiningen direkte. Det er særlig relevant når en automatisering går med pauser mellom jobbene.

API-kompatibilitet er likevel ikke forbeholdt LM Studio. Ollamas oversikt over lokale API-adresser omfatter også OpenAI-kompatible kall og en adresse for Anthropic-klienter. Et eksisterende klientbibliotek er derfor ikke alene grunn nok til å velge det ene programmet. Det avgjørende er hvilke konkrete kall og funksjoner klienten trenger, og om de støttes i den aktuelle kompatibilitetsflaten.

Hodeløs drift og modellinnlasting

LM Studio kan kjøre som tjeneste uten et åpent grafisk program. LM Studios veiledning for hodeløs drift beskriver llmster som en selvstendig bakgrunnstjeneste uten grafisk grensesnitt, i tillegg til en modus der skrivebordsprogrammet fortsetter å betjene forespørsler i bakgrunnen. Et ønske om en maskin som svarer på API-kall uten aktivt programvindu skiller derfor ikke produktene alene.

LM Studio kan også laste en nedlastet modell når en forespørsel kommer inn, dersom innlasting ved behov er slått på. Når den er slått av, må modellen lastes før den kan brukes. Modeller som er lastet ved behov, kan senere fjernes fra minnet etter inaktivitet. For en tjeneste som mottar ujevne mengder trafikk, betyr disse valgene noe for både ventetid og minnebruk. Ollamas keep_alive gir en annen, forespørselsstyrt måte å påvirke samme praktiske avveining på.

Hva bør avgjøre valget?

Hvis du først og fremst vil finne en modell, prøve den i samtale og senere koble til annen programvare, gir LM Studios grafiske program en samlet arbeidsflate. Hvis du bygger en egen lokal tjeneste der hver jobb skal kunne styre svarformat, parametere og minnevarighet, gir Ollamas API en direkte vei. Begge kan betjene kompatible klienter, så undersøk funksjonen klienten faktisk bruker fremfor å stoppe ved navnet på API-formatet.

Når begge passer integrasjonen, er en relevant ytelsessammenligning knyttet til din modellfil, maskin og oppgave. Hold også kontekstvindu og genereringsinnstillinger like, og skill skrivehastighet fra ventetid og innlasting. For arbeid som allerede er definert av en bestemt klient eller et bestemt driftsoppsett, kan støtte for de nødvendige kallene avgjøre valget lenge før en liten forskjell i token per sekund gjør det.

Les også:

• CrewAI eller AutoGen: sikkerhetstesten ga 52,3 mot 30,8 prosent
• Notion Calendar eller Google Kalender: samme møter, ulik arbeidsflyt
• OpenAI API eller Gemini API: tokenpris alene kan villede