MLflow или W&B: локалното следење заштедува до 72 секунди

|Автор: Уредувачки тим на QUASA|5 мин. читање
MLflow или W&B: локалното следење заштедува до 72 секунди

Во објавениот тест со CIFAR-10, разликата од 72 секунди е меѓу 144 секунди вкупно време на кодот со локален MLflow и 216 секунди време на интерфејсот со W&B. Тоа се различни мерни точки: кога се споредува вкупното време на кодот, резултатите се околу 144 и 149 секунди; кога се споредува времето на интерфејсот, тие се околу 162 и 216 секунди.

За истражувач што работи сам и сака едноставно локално следење, MLflow е разумен избор. За распределен тим што редовно ги разгледува и споделува резултатите, W&B нуди побогати алатки за анализа и соработка. Кај тим со чувствителни податоци, пресудни стануваат местото на чување, контролата на пристап и тоа кој ќе ја одржува услугата.

Колку време навистина се заштедува?

Во споредливата колона за вкупно време на кодот, предноста на MLflow во сликовниот експеримент е околу пет секунди. Во колоната за време на интерфејсот таа е околу 54 секунди. Разликата од 72 секунди настанува само ако се одземе време на кодот за едната конфигурација од време на интерфејсот за другата, па не претставува измерена заштеда за исто дејство.

Испитаната конфигурација користела локално складиште за артефактите на MLflow и хостирани прикази на W&B. Времињата затоа го опфаќаат конкретниот работен тек, вклучувајќи го и чекањето поврзано со испраќање резултати. Тие не кажуваат колкава ќе биде разликата ако W&B е поставен на инфраструктурата на тимот или ако MLflow испраќа големи артефакти во оддалечено складиште.

Практичното прашање е кога експериментот му станува корисен на следниот човек. Ако истражувачот започнува ново извршување штом кодот заврши, времето на кодот е поблиску до неговото чекање. Ако колега треба да отвори приказ, да спореди предвидувања и да одлучи што понатаму, времето до достапен резултат е исто толку важно. Овие две задачи бараат одделни мерења.

Што добива тимот од приказите на W&B?

Предноста на W&B станува поконкретна кога повеќе луѓе ги испитуваат истите резултати. Документацијата за W&B Tables опишува споен и паралелен приказ на табели, филтрирање и групирање, како и зачувување на приказот во работен простор или извештај. Тим што бара кои слики моделот погрешно ги класифицира може да ги споредува записите по пример, наместо секој член да извезува датотеки и да гради сопствен преглед.

MLflow ги бележи извршувањата, параметрите, метриките и артефактите потребни за следење експерименти. Разликата за изборот е во зачестеноста на заедничката анализа: дали тимот претежно бара претходна вредност на метрика или редовно се враќа на споредби меѓу поединечни примери и верзии. Ако таквата анализа е секојдневна, времето потрошено за синхронизација може да биде прифатлива цена за заеднички контекст. Ако резултатите главно ги користи нивниот автор, користа од тие прикази е помала.

Хостирањето ја менува сметката

Упатството за сопствено хостирање на MLflow наведува локален почеток со SQLite и локални артефакти, како и премин кон PostgreSQL и облачно складиште за поголемо поставување. Локалниот почеток бара малку инфраструктура. Кога истата инстанца ќе стане заедничка услуга, некој мора да ги одржува базата и складиштето, да прави резервни копии, да ги поставува надградбите и да обезбеди пристап за колегите.

Опциите за поставување на W&B опфаќаат заедничка SaaS услуга, посебен управуван облак и поставување што клиентот го управува во сопствен облак или на сопствени сервери. Кај управуваните варијанти одржувањето е дел од услугата; кај клиентски управуваната варијанта тимот презема поголем дел од оперативната работа. Затоа изборот на W&B сам по себе не одредува каде ќе бидат сместени податоците.

Вкупниот трошок не може да се прочита само од цената на лиценцата. За споредлива сметка треба одделно да се стават инфраструктурата, времето за администрација, чувањето артефакти и договорните услови на избраната услуга. Локалниот MLflow може да биде евтин за поединец, а заедничкиот MLflow може да бара постојана оперативна поддршка. Исто така, управуваниот W&B ја намалува работата околу серверот, но воведува трошок за услугата и услови што зависат од понудата.

Артефакти и пристап до податоците

Описот на складиштето за артефакти во MLflow ги раздвојува параметрите и метриките во заднинското складиште од моделските тежини, сликите и податочните датотеки во складиштето за артефакти. Таа поделба има последици за капацитетот, резервните копии и правата на пристап. Тимот може да има мала база со метаподатоци, а големо и чувствително складиште со модели и примероци.

За мал регулиран тим во Северна Македонија, најважно е да утврди кои од тие записи смеат да ја напуштат одобрената инфраструктура. Метрика може да биде безопасна, додека примерок од податоците или зачуван модел може да бара построга контрола. Сопственото поставување на MLflow овозможува тимот директно да ги избере местата на чување; клиентски управуваниот W&B исто така отвора можност за сопствена инфраструктура. Во двата случаи контролата има вредност само ако правата на пристап, резервните копии и одржувањето се спроведуваат доследно.

Избор за различни тимови

Еден истражувач. Локалниот MLflow е наједноставниот кандидат кога брзото бележење и контролата врз сопствените датотеки се поважни од заедничките прикази. Инфраструктурата е мала додека резултатите се користат на една машина, а чекањето за синхронизација не е дел од секој циклус. Ако експериментите подоцна ги преземе тим, истото локално поставување веќе не ја решава потребата од заеднички пристап и резервни копии.

Мал регулиран тим. MLflow на сопствена инфраструктура има смисла ако тимот веќе има човек што може да ја одржува услугата и ако локацијата на податоците е главниот услов. W&B во посебен или клиентски управуван облик е кандидат кога споредбите и извештаите носат доволно корист за да го оправдаат договорниот и оперативниот трошок. За овој тим артефактите и пристапот треба да тежат повеќе во одлуката од разлика во времето добиена со едно испробано поставување.

Распределен тим. W&B е посилен кандидат кога колегите редовно разгледуваат исти табели и управуваната услуга им заштедува администрација. MLflow останува разумен избор ако организацијата веќе има база, складиште и поддршка за заедничка инстанца. При споредба на двете поставувања, тимот треба да пресмета одделно време до завршен код, време до резултат достапен за колегите, трошок за артефакти и работа за управување со пристапот. Така брзината се оценува заедно со работата што платформата ја презема или ја остава на тимот.

Прочитајте и:

Сподели:

Претплатете се на нашиот билтен

Добивајте ги најновите вести за Web3, AI и крипто директно во вашето сандаче.

0