Reflection отвара Beam од 501 милијарде параметара — активна су 23 милијарде

Reflection је 16. октобра 2026. објавио тежине модела Beam на Hugging Face-у, под лиценцом Apache 2.0. Beam има 501 милијарду укупних параметара, али се при обради појединачног токена активира око 23 милијарде. За програмере је пресудна разлика између рачунског рада током генерисања и количине тежина коју треба преузети и сместити: други захтев остаје близак величини целог модела.

У објави Google Cloud-а од истог дана представљени су рецепти за BF16, FP8 и NVFP4 и резултат до пет пута веће пропусности на оптимизованој конфигурацији; Џо Списак, потпредседник Reflection-а, описао је мерење речима „up to 5x higher performance and 8x lower latency“. Резултат потиче из партнерског мерења на Google Cloud-у и не описује брзину сваког самосталног постављања Beam-а.

Зашто активни параметри не одређују величину преузимања

Beam је модел са мешавином експерата. Уместо да за сваки токен користи све тежине, механизам усмеравања бира део експерата који учествују у том кораку обраде. Зато је број активних параметара користан за разумевање количине рачунског рада по токену, док укупан број боље описује колико тежина мора бити доступно поставци која служи модел. Мање активних параметара не претвара целу контролну тачку у датотеку величине модела који има само толико параметара.

Та разлика утиче и на дељење модела између графичких процесора. Експерти који тренутно мирују и даље морају бити у меморији или у систему из којег се могу довољно брзо учитати. Ако се тежине расподеле на више уређаја, поставка мора да организује и њихову међусобну комуникацију. Зато однос укупних и активних параметара сам по себи не даје број потребних картица, нити цену сервера по генерисаном одговору.

BF16, FP8 и NVFP4 мењају меморијски захтев

Према техничком приказу Hugging Face-а, BF16 контролна тачка за Beam заузима око 1 ТБ, а NVFP4 варијанта око 280 ГБ; за рад са NVFP4 приказ препоручује четири B200 графичка процесора како би, поред тежина, остало места за контекст и истовремене захтеве. Мања датотека зато решава део проблема преузимања и смештаја, али њена величина није укупна количина меморије потребна док модел ради.

Избор формата зависи и од хардвера и софтвера који извршавају модел. NVFP4 користи нижу прецизност за највећи део тежина и намењен је новијим NVIDIA Blackwell процесорима; FP8 је пут за поставке на старијим генерацијама које га подржавају. BF16 задржава већу прецизност, уз знатно већи захтев за смештај тежина. Стварна потрошња током рада расте и због кеша контекста, привремених података и начина на који се модел дели између уређаја.

Отворене тежине омогућавају прилагођавање, уз различите трошкове

Лиценца Apache 2.0 омогућава употребу и измене, укључујући комерцијалне пројекте, под својим условима. Објављене тежине програмеру дају могућност да модел покрене у сопственој инфраструктури и прилагоди га подацима или задатку. То је другачији избор од Reflection-овог API-ја или хостоване понуде партнера: код сопственог постављања корисник обезбеђује капацитет, управља извршавањем и сноси трошак рада инфраструктуре, док код хостованог приступа плаћа услугу према условима провајдера.

Обим прилагођавања такође мења рачуницу. Обука адаптера мења мали додатни скуп тежина док основни модел остаје замрзнут; обука већег дела модела захтева знатно више меморије и рачунарског времена. Hugging Face је објавио рецепте за надгледано фино подешавање и учење уз повратну спрегу, али постојање рецепта не значи да сваки од тих поступака има исти хардверски захтев као генерисање одговора. Цена зависи од поступка, количине података, трајања обуке и инфраструктуре.

Дугачак контекст и партнерска мерења

Beam подржава контекст до милион токена, што омогућава да у један радни ток стане дуга историја разговора, изворни код и излази алата. Капацитет контекста, међутим, није обећање да ће свака поставка обрађивати најдуже захтеве истом брзином. Док сесија траје, кеш већ обрађеног текста заузима меморију; више истовремених сесија повећава тај захтев. Због тога је за трошак сервирања важан и облик саобраћаја, а не само величина тежина.

Google Cloud-ови рецепти комбинују Beam са алатима llm-d и vLLM, односно NVIDIA Dynamo и SGLang. Усмеравање поновљених захтева ка сачуваном контексту смањује поновну обраду улаза; раздвајање обраде улаза и генерисања одговора помаже када дугачки захтеви стижу упоредо; премештање дела кеша ослобађа графичку меморију. То су оптимизације читаве поставке, па се њихов добитак не може приписати само архитектури модела.

Партнерски графикони пореде оптимизовану и полазну поставку на истом хардверу унутар сваког окружења. Окружења користе различите уређаје и софтверске стекове, те њихови резултати нису међусобно заменљиви. За програмера који планира сопствено покретање остају одвојена питања: може ли изабрани хардвер да смести тежине и кеш, и колику ће пропусност постићи под његовим оптерећењем. Независно мерење цене по завршеном задатку на упоредивим поставкама тек би омогућило поузданије поређење тих избора.

Прочитајте и:

• Facebook се отвара у Reels фиду — тест ипак може да се искључи
• Фондови од 10 милијарди гледају Србију, али инвестиције још нису обећане
• ConsentID без лутања: активациони параметри стижу на два начина