Hugging Face Spaces o Replicate: la GPU inattiva può ribaltare il costo

Per una demo con richieste sporadiche, un modello pubblico Replicate fatturato a tempo può costare meno di una Space con GPU sempre avviata. Il listino Replicate indica 5,04 dollari per un’ora equivalente di elaborazione su A100 da 80 GB e precisa che molti modelli pubblici pagano soltanto il tempo necessario a elaborare le richieste; il listino delle GPU Spaces indica 2,50 dollari l’ora per la sua A100 da 80 GB, addebitata mentre la Space è avviata anche se nessuno la usa.

Con richieste abbastanza frequenti da occupare a lungo la GPU, la tariffa oraria inferiore di Spaces può invece prevalere. Il confronto cambia se la Space viene sospesa tra le visite o se su Replicate si usa un modello privato anziché uno pubblico: in quei casi cambiano proprio le ore che entrano in fattura.

Tre scenari di utilizzo, senza conversione in euro

I calcoli seguenti sono esempi ipotetici per un team in Italia: un mese di 30 giorni, una sola A100 da 80 GB e, per Spaces, un’istanza lasciata accesa per tutte le 720 ore. Su Replicate si ipotizza un modello pubblico fatturato in base al tempo, eseguito sull’hardware A100 del listino. Gli importi restano in dollari, la valuta delle tariffe pubblicate: convertirli con un cambio scelto arbitrariamente aggiungerebbe una variabile senza chiarire la differenza tra i due sistemi di addebito.

• Demo sporadica. Quattro sessioni da 15 minuti producono, nell’ipotesi, un’ora complessiva di elaborazione nel mese. Replicate costerebbe 5,04 dollari; una Space A100 sempre accesa costerebbe 2,50 × 720, cioè 1.800 dollari. La differenza deriva dalle ore in cui la Space resta pronta ma non elabora richieste, non dal prezzo di una singola ora di GPU.
• Servizio al 25% di utilizzo. Se l’elaborazione occupa 180 delle 720 ore mensili, il conto ipotetico di Replicate è 180 × 5,04 = 907,20 dollari. Spaces resta a 1.800 dollari finché l’istanza rimane accesa senza interruzioni: tre quarti del tempo disponibile non sono usati per elaborare richieste, ma continuano a essere fatturati.
• Servizio al 75% di utilizzo. Con 540 ore di elaborazione, Replicate arriverebbe a 540 × 5,04 = 2.721,60 dollari. La Space sempre accesa resterebbe a 1.800 dollari. In questo scenario l’uso prolungato della GPU compensa il costo delle pause residue.

Questi sono conti sulle tariffe, non una prova di prestazioni dello stesso modello sulle due piattaforme. Le configurazioni considerate hanno entrambe una A100 da 80 GB, ma il tempo richiesto da ciascuna inferenza può dipendere dal modello, dal software, dalla concorrenza e dalle risorse assegnate insieme alla GPU. Se le ore effettive di elaborazione cambiano, cambia anche il totale di Replicate.

Il pareggio vale per una Space sempre accesa

Con le ipotesi appena fissate, il pareggio si ottiene dividendo i 1.800 dollari mensili di Spaces per i 5,04 dollari di Replicate per ora equivalente: circa 357 ore di elaborazione al mese, pari a 11,9 ore al giorno e a poco meno del 50% delle 720 ore disponibili. Anche il confronto di AIToolsRecap colloca il pareggio A100 vicino a 11,9 ore giornaliere usando le tariffe pubblicate. È una soglia aritmetica per queste condizioni, non una percentuale valida per ogni modello o tipo di deployment.

La relazione utile è semplice: per Spaces contano le ore in cui l’istanza è avviata; per il modello pubblico Replicate fatturato a tempo contano i secondi di elaborazione. Un modello pubblico con prezzo per input o output richiede invece un calcolo per richiesta. Anche scegliere un’altra GPU cambia entrambe le tariffe: il punto di pareggio va quindi ricavato dal modello e dall’hardware che il team intende davvero usare.

La sospensione riduce il costo di Spaces e introduce attesa

Una Space su hardware a pagamento resta attiva per impostazione predefinita anche nei periodi senza visite. Il proprietario può impostare un tempo di inattività dopo il quale entra in sospensione: durante la sospensione la GPU non viene addebitata e una nuova visita riavvia l’app. Per la demo sporadica, quindi, i 1.800 dollari dell’esempio descrivono la scelta di tenerla sempre accesa, non un costo inevitabile della piattaforma.

Una soglia di sospensione breve limita i minuti pagati tra una visita e l’altra, ma rende più probabile che il visitatore debba attendere il riavvio. Una soglia lunga mantiene l’app pronta più spesso e lascia più tempo inattivo in fattura. La pausa manuale interrompe a sua volta l’addebito; in quel caso il riavvio spetta al proprietario, una differenza concreta per una demo che deve accogliere visite impreviste.

Nel calcolo di una Space sospesa occorre sommare l’elaborazione, il tempo di avvio fatturabile e gli intervalli di attesa prima che scatti ogni sospensione. Se le richieste arrivano in gruppi ravvicinati, una sola accensione può servirne molte. Se sono isolate e distanti, i riavvii possono incidere sull’esperienza anche quando il costo della GPU scende.

Modello pubblico e deployment privato non hanno la stessa fattura

Il vantaggio di pagare soltanto l’elaborazione su Replicate riguarda il modello pubblico con tariffa basata sul tempo. La documentazione di fatturazione Replicate precisa che per questi modelli avvio e inattività non sono addebitati, ma le richieste entrano normalmente in una coda condivisa e possono incontrare avvii a freddo. Per la maggior parte dei modelli privati e per i deployment, invece, sono fatturati anche l’avvio e il tempo in cui le istanze restano online in attesa; i fine-tuning contrassegnati come fast booting sono un’eccezione.

Se il team deve riservare un modello o mantenere istanze dedicate pronte a rispondere, applicare ai suoi costi il conto della demo pubblica sarebbe fuorviante. Un deployment Replicate può offrire più controllo su hardware e capacità, ma la sua fattura segue il tempo di vita delle istanze. La scelta di evitare una coda condivisa ha dunque un costo che va valutato insieme ai requisiti di risposta, non nascosto nel confronto tra prezzi orari.

Visibilità della demo e costo complessivo

Spaces separa la visibilità del codice da quella dell’app: secondo la panoramica ufficiale di Spaces, una Space pubblica espone entrambi, una protetta riserva il codice ai collaboratori ma lascia l’app accessibile tramite il suo indirizzo, mentre una privata limita anche l’accesso all’app. La stessa documentazione indica che per creare Spaces Gradio o Docker su risorse di calcolo serve un piano a pagamento, con un’eccezione limitata per ZeroGPU; quel piano non è incluso negli esempi, che isolano il costo della GPU.

Per un piccolo team, la scelta dipende quindi da quale prodotto sta effettivamente distribuendo. Una demo aperta con poche esecuzioni si presta al modello pubblico Replicate fatturato a tempo, se è disponibile il modello adatto e l’attesa occasionale è accettabile; una Space sospesa è un’alternativa quando serve ospitare direttamente l’app. Con traffico sostenuto e necessità di tenerla sempre pronta, la Space A100 dell’esempio può costare meno. Se modello, codice o accesso devono restare riservati, il confronto economico va rifatto sulle configurazioni private pertinenti, includendo le ore online oltre a quelle di elaborazione.

Leggi anche:

• Microsoft 365 o Google Workspace: lo storage ribalta il prezzo base
• Shopify o WooCommerce: il software gratis non azzera il costo del negozio
• AWS Cloud Practitioner o AZ-900: la lingua italiana può decidere la scelta