Mistral Large 4 ima bilijon parametrov, uteži pa še niso izšle

|Avtor: Uredništvo QUASA|4 min branja| 1
Mistral Large 4 ima bilijon parametrov, uteži pa še niso izšle

Mistral je 6. oktobra 2026 v uradni predstavitvi modela razkril Mistral Large 4, imenovan tudi Le Chonk, z bilijonom skupnih parametrov in odprl njegov predogledni API v Mistral Studiu; objavo uteži je napovedal do konca oktobra. Model je že mogoče uporabljati kot gostovano storitev, uteži za namestitev v lastnem okolju pa še niso na voljo.

Za razvijalce javni predogled omogoča preizkus odzivov modela na lastnih nalogah. Organizacije, ki ga želijo poganjati v zasebnem oblaku ali lastnem podatkovnem centru, morajo počakati na izdajo uteži. Ta razlika določa, koliko nadzora nad izvajanjem modela je trenutno mogoče dobiti.

Predogledni API deluje, uteži še čakajo

Predogledni API sprejema zahteve prek Mistralove storitve, zato lahko razvijalec model vključi v aplikacijo, ne da bi ga poganjal na svoji infrastrukturi. Obdelavo izvaja ponudnik; organizacija prejme odgovor storitve, ne pa nadzora nad samim izvajanjem modela. To je pomembno tam, kjer morajo pravila dostopa, revizije in neprekinjenega delovanja veljati tudi za model, ne le za aplikacijo okoli njega.

Pred objavo uteži Mistral model preizkuša v resničnih okoljih z izbranimi partnerji, strokovnjaki za kibernetsko varnost in državnimi organi. Ti sodelujoči lahko uporabljajo različico z manj omejitvami in širšimi kibernetskimi zmogljivostmi kot javni predogled. Njihov dostop je del varnostnega preizkušanja in ne pomeni, da so enake zmogljivosti že splošno dostopne prek API-ja ali za namestitev v podjetju.

Po izidu uteži bosta zasebni oblak in lastna namestitev drugačna izvedbena izbira od gostovanega API-ja. Upravljavec bo moral poleg kakovosti odgovorov upoštevati velikost celotnega modela, potrebni pomnilnik, posodabljanje in pogoje licence. Podrobnosti o arhitekturi in metodi dodatnega učenja so še napovedane, zato iz samega števila parametrov danes ni mogoče sestaviti natančnega infrastrukturnega načrta.

Skupni in aktivni parametri merijo različne stvari

V tehnični kartici modela je navedenih 1,05 bilijona skupnih in 52 milijard aktivnih parametrov, slikovni kodirnik z 1,6 milijarde parametrov ter kontekstno okno do milijona žetonov; za predogledni API sta prikazani akcijski ceni 0,68 dolarja za milijon vhodnih in 2,09 dolarja za milijon izhodnih žetonov. To sta ceni gostovane storitve, ne ocena stroška poznejše lastne namestitve.

V Axiosovem poročilu ob predstavitvi je bilo za isti model navedenih 49 milijard aktivnih parametrov, Mistralov podpredsednik za znanost Pierre Stock pa je izdajo uteži po dodatnem učenju in varnostnih preizkusih napovedal za 27. oktober ter ob primerjavi z vodilnimi zaprtimi modeli dejal: »We're not there yet on the frontier.« Sedanja uradna številka aktivnih parametrov je višja od prvotne navedbe; vzrok za razliko ni pojasnjen. Napovedani dan izdaje je načrt, ne zagotovilo, da bodo uteži takrat dejansko objavljene.

Razlika med skupnim in aktivnim obsegom izhaja iz arhitekture mešanice strokovnjakov. Pri posameznem delu zahteve sodeluje le izbrani del modela, zato bilijon parametrov ni enak količini računanja pri vsakem odgovoru. Za lastno namestitev pa je potreben dostop do celotnega nabora uteži; številka aktivnih parametrov sama ne pove, koliko pomnilnika in računske opreme bo zahtevala uvedba.

Primerjalne zmogljivosti so odvisne od naloge in različice

Med predstavljenimi področji uporabe so programiranje, kibernetska varnost, finančne in pravne naloge ter razumevanje slik. Nabor preizkusov vključuje DeepSWE in Terminal-Bench za programsko delo ter Cybench za varnostne naloge. Model lahko obdeluje tudi dokumente, grafikone in tehnične risbe; prikazani primeri vključujejo preverjanje mehanskih delov na risbah ter iskanje predmetov na obsežnih satelitskih posnetkih.

Objavljeni dosežki nimajo enake stopnje neodvisnosti. Del meritev in človeških primerjav je izvedel proizvajalec, del nalog so ocenjevali zunanji izvajalci, kibernetski indeks Artificial Analysis pa je zunanja primerjava. Izbrani rezultati različnih preizkusov ne pomenijo ene skupne uvrstitve modela. Na primerjavo vplivajo različica, nabor nalog, dovoljena orodja in način sestavljanja odziva pri vsakem modelu.

Pri kibernetskih nalogah lahko varovalke drugega modela zavrnejo zahtevo, ki jo preizkus šteje za rešljivo; slab rezultat zato lahko meri tudi politiko zavračanja. Dodatno učenje Large 4 se obenem nadaljuje, zato meritev sedanjega predogleda ni mogoče brez novega preizkusa prenesti na pozneje izdane uteži. Za širšo primerjavo bodo pomembne objavljene metodologije in ponovljive meritve izdane različice.

Evropsko gostovanje in lastna uvedba sta ločeni možnosti

Javni predogled teče na Mistralovi infrastrukturi v evropskih podatkovnih centrih. Podjetje načrtuje tudi evropsko gostovano uvedbo, ki jo bo upravljalo samo, neodvisno od drugih ponudnikov digitalnih storitev. Evropska lokacija infrastrukture je pomembna za organizacije, ki iščejo gostovano obdelavo pri evropskem ponudniku, vendar sama po sebi še ne daje nadzora nad izvajanjem modela v lastnem okolju.

Možnosti se razlikujejo glede na nadzor, ki ga organizacija potrebuje:

  • Predogledni API: model je mogoče uporabljati takoj; izvajanje, posodobitve in razpoložljivost so vezani na Mistralovo storitev.
  • Evropsko gostovanje: načrtovana možnost izvajanja pri evropskem ponudniku; pri konkretni uporabi bosta pomembna izbrana regija in pogodbeni pogoji.
  • Lastno okolje: neposreden nadzor nad izvajanjem bo mogoč po objavi uteži ter podatkov, potrebnih za namestitev in licenciranje.

Po objavi uteži bo mogoče izmeriti, koliko infrastrukture zahteva lokalna različica in kako se njeni rezultati razlikujejo od javnega predogleda.

Preberite tudi:

Deli:

Naročite se na naše e-novice

Najnovejše novice o Web3, UI in kriptovalutah neposredno v vaš e-poštni predal.

0