Tshekatsheko ya Unsloth: Tsela e e Bonako go Gaisa ya go Dira Diphetolo tse di Nepagetseng mo Dimotlolong tsa Khoutu e e Bulegileng

#Quasa #QUA #unsloth

Unsloth (e e tlhagisitsweng mo Quasa.io/projects/unsloth-ai) ke letlhomeso le le bonako go gaisa e bile le dirisa memori ka bokgoni jo bo kwa godimo go gaisa go dira diphetolo tse di nepagetseng mo dimotlolong tse dikgolo tsa puo.

E dira gore go katisa le go dira diphetolo tse di nepagetseng mo di-LLM tsa khoutu e e bulegileng (Llama 3, Mistral, Gemma, Phi, Qwen, jalo le jalo) go nne bonako thata e bile go tlhwatlhwatlase thata — go fitlha go 2x ka bonako le go dirisa memori o o kwa tlase ka 60-70% fa go bapisiwa le mekgwa e e tlwaelegileng e e jaaka Hugging Face Transformers.

Mo motheong wa yone, Unsloth e tokafatsa karolo nngwe le nngwe ya modikologo wa katiso ka mekgwa e e botlhale e e dirang kwa maemong a a kwa tlase a khoutu, e ntse e tswelela go tsamaisana ka botlalo le tikologo ya Hugging Face.

Dintlha tsa konokono di akaretsa:
• Go dira diphetolo tse di nepagetseng ka bonako jo bo kwa godimo thata — katisa dimotlolo tsa 7B–70B mo GPU e le nngwe ka lobelo lo lo kwa godimo thata.
• LoRA, QLoRA & Go Dira Diphetolo tse di Nepagetseng mo Motlolong Otlhe — e tshegetsa mekgwa yotlhe e e tumileng e e dirisang dipharametara ka bokgoni, ka bokgoni jo bo kwa godimo jo bo kgonegang.
• Khoutu e e bulegileng & Maemo a tiriso ya mahala — laeborari ya konokono e na le khoutu e e bulegileng mme e letla tiriso e ntsi ya mahala.
• Unsloth Studio — sebopego sa tiriso sa mo webong se se sa tlhokeng go kwala khoutu, sa go dira diphetolo tse di nepagetseng le go dirisa motlolo go ntsha dipholo.
• Romela kwa GGUF, vLLM, Ollama — go tsenya mo tirisong ka thelelo mo ditikologong tsa mo khomphiutheng ya gago kgotsa tsa tiriso ya mmatota.

E siametse babatlisisi, batlhabolodi ba ba ikemetseng, di-startup tsa AI, dikhampani tse di agang dimotlolo tse di diretsweng ditlhoko tsa tsone, le mongwe le mongwe yo o batlang dimotlolo tsa boleng jo bo kwa godimo tse di dirilweng diphetolo tse di nepagetseng, a sa duele ditšhelete tse dintsi tsa ditirelo tsa cloud kgotsa go tsaya nako e telele ya katiso. Ka 2026, Unsloth e fetogile tlhopho ya ntlha ya diketekete tsa batlhabolodi ba ba dirang diphetolo tse di nepagetseng mo dimotlolong ka bokgoni.

Setšhaba sa badirisi se itumetse thata:
“Unsloth e fokoditse nako ya me ya go dira diphetolo tse di nepagetseng go tswa go 24 hours go ya kwa tlase ga 6 hours mo didirisweng tsone tseo. Go a gakgamatsa.”
“Kgabagare go a kgonega go katisa dimotlolo tse di molemo tse di kgethegileng mo lefapheng le le rileng mo khomphiutheng ya gago ka tlhwatlhwa e e kwa tlase. Ke selo se se molemo go gaisa fa e sa le LoRA e goroga.”
“Go bolokiwa ga memori go a bonala — jaanong ke kgona go dira diphetolo tse di nepagetseng mo dimotlolong tsa 70B mo GPU ya 24GB.”

E dira bontle segolobogolo mo lobelong le mo go diriseng memori ka bokgoni, mo go nneng bonolo go e dirisa, mo go fokotseng ditshenyegelo, le mo go kopaneng ka thelelo le tikologo ya di-LLM tsa khoutu e e bulegileng.

Makoa: E tsepamisitse mogopolo thata mo katisong le mo go direng diphetolo tse di nepagetseng (e seng mo go tokafatseng tsela e motlolo o ntshang dipholo ka yone jaaka vLLM); dikago dingwe tsa dimotlolo tse dintšhwa thata di ka tlhoka gore go letelwe tshegetso ya tsone; go dira ka bokgoni jo bo kwa godimo go gaisa go tlhoka di-GPU tsa NVIDIA tse di tsamaisanang le yone.
Ka kakaretso, mo go mongwe le mongwe yo ka 2026 a ikemiseditseng go dira diphetolo tse di nepagetseng mo di-LLM ka bokgoni, Unsloth ke nngwe ya didiriswa tse di mosola thata le tse di nang le seabe se segolo mo setlhopheng sa dithekenoloji tsa AI tsa khoutu e e bulegileng. E dira gore AI e e diretsweng ditlhoko tse di rileng e fitlhelelwe ka nnete. 
Iponele le tuelo ya QUA ka Quasa!

Dinaledi di le 4.9/5 (e tlhomologile ka go tokafatsa bokgoni jwa go dira le maitemogelo a batlhabolodi).

Simolola: https://quasa.io/projects/unsloth-ai