Maia 300 taps pagrindiniu „Microsoft“ DI varikliu, bet tik nuo 2027-ųjų

„Microsoft“ spalio 12 d. pranešime pristatė „Azure Maia 300“ ir paskelbė, kad gamybinis jos diegimas prasidės 2027 m., kartu numatydama kelių gigavatų masto „Azure Maia“ plėtrą. Pagal šį planą „Maia“ šeima taps pagrindine pačios bendrovės produktų ir paslaugų DI išvadų skaičiavimo sistema. Dabar „Microsoft Copilot“ gamybines apkrovas jau aptarnauja ankstesnės kartos „Maia 200“.

Planas pirmiausia susijęs su „Microsoft“ valdomomis paslaugomis, todėl jis savaime nekeičia kitų įmonių naudojamos „Azure“ infrastruktūros. „Microsoft“ aparatinės infrastruktūros vadovė Rani Borkar „Axios“ sakė: „For us, it's not an either-or strategy.“ Ji taip pat perspėjo, kad kelių gigavatų mastas nebus pasiektas vos prasidėjus diegimui. Taigi naujas spartintuvas stiprins bendrovės nuosavus pajėgumus, o jo reikšmė išoriniams klientams priklausys nuo vėlesnių „Azure“ pasiūlymų.

Kodėl „Microsoft“ kuria išvadų skaičiavimo sistemą

„Maia 300“ skirta išvadų skaičiavimui – darbui, kurį jau parengtas DI modelis atlieka gavęs užklausą ir generuodamas atsakymą. „Copilot“ atveju toks darbas kartojasi su kiekviena naudotojo užklausa, tad svarbu ne vien tai, kiek gali vienas spartintuvas. Kai paslauga aptarnauja daug užklausų, reikšmės įgauna atsakymų kiekis, vėlavimas, energijos poreikis ir galimybė vienu metu vykdyti skirtingas apkrovas.

Nuosava įranga leidžia „Microsoft“ derinti spartintuvų sandarą su modeliais ir programine įranga, kuriuos ji naudoja savo paslaugose. „Maia 200“ jau aptarnauja „Copilot“ ir naudojama bendrovės DI modelių komandos darbui; joje vykdomi „OpenAI“, pačios „Microsoft“ ir atvirojo kodo modeliai. Ši veikimo patirtis padėjo formuoti „Maia 300“ projektą, tačiau ankstesnės kartos naudojimas dar nereiškia, kad naujasis spartintuvas jau aptarnauja naudotojus.

Naujoji sistema projektuojama ilgo konteksto užduotims, pokalbiams, kuriuose svarbus mažas vėlavimas, ir ilgiau trunkantiems kelių žingsnių DI agentų veiksmams. Tokios užduotys spaudžia ne tik skaičiavimo grandines: modelio duomenis reikia laikyti atmintyje ir greitai perduoti tarp spartintuvų. Todėl „Maia 300“ pristatoma kaip aparatinės įrangos, ryšio ir programinės įrangos visuma, o ne vien naujas lustas.

Ką iš tiesų rodo „Maia 300“ našumo skaičiai

Pagal „Data Center Dynamics“ apžvalgą, vienoje „Maia 300“ spintoje numatyti 96 spartintuvai, 167 kW galios riba ir 27,6 TB didelio pralaidumo atminties; „Microsoft“ tikisi iki 40 proc. daugiau apdorotų žetonų vienam megavatui nei pirmaujančiose GPU sistemose ir nurodo iki septynių kartų didesnį spintos žetonų apdorojimo našumą nei „Maia 200“ spintoje. Tai skirtingi palyginimai: vienas sieja apdorojimą su elektros galia, kitas – visų spintoje veikiančių spartintuvų našumą su ankstesnės kartos spinta.

Šie rodikliai apibūdina sistemos masto galimybes ir bendrovės lūkesčius, o ne nepriklausomai išmatuotą būsimo „Copilot“ atsakymo laiką. Ypač svarbi spintos palyginimo riba: kelių dešimčių kartu veikiančių spartintuvų rezultato negalima priskirti vienam lustui. Faktinis poveikis paslaugai priklausys nuo naudojamo modelio, vienu metu gaunamų užklausų ir to, kaip efektyviai apkrova paskirstoma visoje sistemoje.

„Maia 300“ sandaroje atskirtos skaičiavimo, atminties valdymo ir įvesties bei išvesties funkcijos. Šis sprendimas, didelio pralaidumo atmintis ir spartintuvų ryšys skirti riboti nereikalingą duomenų judėjimą – vieną iš kliūčių vykdant didelius DI modelius. Dėl to „Microsoft“ siekia daugiau naudingų atsakymų iš turimos galios ir vietos duomenų centruose; ar numatytas efektyvumas pasitvirtins plačiai diegiant sistemą, paaiškės tik jai veikiant gamybinėmis apkrovomis.

Ką planas reiškia „Copilot“ ir „Azure“

„Copilot“ yra tiesioginis šio plano adresatas, nes „Microsoft“ pati valdo ir paslaugą, ir jai parenkamą skaičiavimo infrastruktūrą. Didesnis sistemos pajėgumas galėtų leisti aptarnauti daugiau vienu metu pateikiamų užklausų arba vykdyti sudėtingesnes užduotis naudojant tą patį elektros galios biudžetą. Tai numatoma nauda, o ne jau paskelbtas naudotojų patirties pagerėjimas įdiegus „Maia 300“.

„Azure“ apima ir pačios „Microsoft“ paslaugoms reikalingus išteklius, ir infrastruktūrą, kurią renkasi išoriniai klientai. Bendrovė gali perkelti daugiau savo DI išvadų skaičiavimo į nuosavus spartintuvus neįpareigodama kitų įmonių taip pat keisti jų naudojamos įrangos. Klientui svarbu, ar konkretus skaičiavimo variantas bus pasiūlytas jo naudojamoje paslaugoje, kokiems modeliams jis tiks ir kokiomis sąlygomis bus prieinamas.

Geresnis energijos panaudojimas galėtų sumažinti „Microsoft“ išlaidas vienam sugeneruotam atsakymui arba leisti aptarnauti daugiau užklausų esamuose pajėgumuose. Tai nesuteikia pagrindo prognozuoti mažesnių „Azure“ sąskaitų Lietuvoje: viešai nepaskelbta nei „Maia 300“ paremta klientams skirta paslauga, nei jos kaina. Net jei vidinės sąnaudos mažėtų, ar ši nauda būtų perduota klientams, lemtų atskiri komerciniai sprendimai.

Kodėl „Nvidia“ iš „Azure“ nedings

Nuosavi spartintuvai gali sumažinti „Microsoft“ priklausomybę nuo „Nvidia“ ten, kur bendrovė pati parenka modelius ir valdo dideles, pasikartojančias išvadų skaičiavimo apkrovas. Išorinių „Azure“ klientų poreikiai įvairesni: jie renkasi skirtingus modelius, programines priemones ir įrangos konfigūracijas. Dėl to vienos bendrovės paslaugoms tinkamiausia sistema nebūtinai taps vieninteliu pasirinkimu visoje debesijos platformoje.

Šis skirtumas keičia ir konkurencijos mastą. „Maia“ suteikia „Microsoft“ daugiau kontrolės kuriant savo DI paslaugų grandinę nuo lusto iki galutinio atsakymo, tačiau ji vis tiek turi palaikyti platesnę klientų naudojamų technologijų įvairovę. Be to, nuosavų spartintuvų gamybai reikia pažangių gamybos pajėgumų, atminties ir komponentų surinkimo, dėl kurių varžosi ir kiti DI infrastruktūros kūrėjai.

Pirmieji gamybinio „Maia 300“ naudojimo duomenys parodys, kokias apkrovas „Microsoft“ iš tiesų perkels į naująją sistemą ir kaip jos efektyvumas atrodys veikiančiose paslaugose. Išoriniams „Azure“ klientams lemiama būsima žinia bus konkretaus pasiūlymo prieinamumas ir jo kaina, o ne vien vidinės infrastruktūros plėtros mastas.

Taip pat skaitykite:

• Make ar Zapier: pigi automatizacija priklauso nuo skaičiuojamo veiksmo
• „Todoist“ ar „Microsoft To Do“: nemokamai gaunate daugiau, mokėdami – kontrolę
• „Microsoft“ pardavimo agentas rašys klientams, bet kol kas lieka peržiūroje