L’IA può replicarsi sui dispositivi IoT, ma oggi impiega ancora giorni

Il rapporto tecnico pubblicato dalla Frontier Red Team di Anthropic il 12 ottobre 2026 stima 28–51 ore per predisporre l’inferenza di Qwen3.5-9B e 71–150 ore per Gemma4-26B-A4B alle velocità dei TV box economici provati. Sono giorni calcolati per una fase della replica, non la durata osservata di una diffusione autonoma su dispositivi connessi reali.

Anthropic ha mostrato che modelli relativamente piccoli possono configurare l’inferenza su hardware eterogeneo e che una sequenza completa di replica può riuscire in un ambiente semplificato. Le due capacità, però, appartengono a configurazioni diverse: il modello che ha coordinato con affidabilità la sequenza usava un’infrastruttura separata, mentre quelli adatti ai dispositivi economici commettono ancora errori quando devono concatenare tutte le operazioni.

L’inferenza funziona su hardware economico

Il risultato più tangibile è un modello distribuito fra apparecchi fisici. Nel resoconto di Tom’s Hardware, Qwen3.5-9B riesce ad allestire un server di inferenza su otto dei nove tipi di hardware provati; Gemma4-26B-A4B gira invece su quindici Android TV box da circa 55 dollari e 4 GB di RAM ciascuno, con una velocità complessiva di 0,39 token al secondo.

Si tratta di compiti distinti. Nel test con Qwen, un agente sceglie software compatibile con macchine differenti, ne prepara le dipendenze e cerca di far funzionare un altro modello. Nella dimostrazione con Gemma, i livelli del modello sono ripartiti fra i TV box: ciascuno conserva una frazione dei pesi e contribuisce alla generazione. Il dato sulla velocità riguarda l’intero gruppo collegato, non le prestazioni di un singolo box.

Questa ripartizione aggira il limite della memoria di un apparecchio isolato, ma crea una dipendenza dalla comunicazione fra più macchine. Una nuova copia capace di generare output dovrebbe avere accesso a un gruppo sufficiente di dispositivi, distribuirvi i componenti del modello e coordinare l’inferenza. La prova fisica mostra che quest’ultimo passaggio è possibile su hardware modesto; non misura il successo degli altri passaggi su una rete di apparecchi scelti autonomamente.

La catena completa ha richiesto un modello più grande

La replica dall’inizio alla fine è stata provata in una rete cloud isolata che simulava dispositivi Android. Le macchine bersaglio esponevano una porta Android Debug Bridge senza autenticazione, così l’accesso iniziale era deliberatamente semplice. L’agente doveva trovare un altro nodo, raggiungerlo, trasferire il necessario e predisporre un servizio di inferenza prima di proseguire verso il nodo successivo.

GLM-5.2 ha coordinato questa sequenza e ha fatto avviare Llama3.1-8B sui nodi di destinazione. La propria inferenza restava su un server separato, perché le macchine simulate non avevano risorse sufficienti per ospitarlo. La riuscita del percorso dimostra la capacità di orchestrare i passaggi in quelle condizioni, ma non riunisce in un unico sistema la capacità dell’agente e l’esecuzione locale sui TV box del test fisico.

Resta anche distinta la capacità di eseguire una richiesta dalla decisione di avviare spontaneamente la propagazione. La ricercatrice Xiaohan Fu, intervistata da Ars Technica, osserva che «the study does not, on its own, establish that small models would autonomously choose to replicate». Il rilievo riguarda la motivazione autonoma, mentre la porta di debug aperta riguarda la difficoltà tecnica dell’accesso: sono limiti diversi della stessa dimostrazione.

Che cosa rallenta una possibile copia

Il tempo stimato nasce dal lavoro necessario per mettere in funzione il modello su una nuova macchina e dalla bassa velocità di generazione osservata sui dispositivi economici. Per completare la configurazione l’agente deve riconoscere hardware e sistema operativo, individuare una soluzione di inferenza, installare versioni compatibili e correggere gli errori. Le decisioni sono in sequenza: se un’installazione fallisce, la fase successiva aspetta che il problema sia risolto.

Il calcolo combina la quantità di elaborazione richiesta nei test di configurazione con il rendimento misurato sui TV box. Non include un cronometro di infezione su una rete domestica né la ricerca di bersagli, l’ottenimento dell’accesso e il trasferimento dei pesi. Questi passaggi potrebbero aggiungere tempo e produrre fallimenti. Il numero di ore descrive dunque una proiezione in condizioni definite, mentre la prova cloud della catena completa è stata svolta con risorse e accessi differenti.

La lentezza non è solo un inconveniente temporale. Un modello distribuito deve far circolare dati fra i dispositivi che lo ospitano; una nuova installazione può richiedere il trasferimento di componenti pesanti. In una diffusione estesa, traffico continuativo fra apparecchi che normalmente non comunicano e trasferimenti insoliti offrirebbero segnali osservabili. Accelerare le copie richiederebbe più attività sulla rete, con un costo in visibilità per chi tenta di propagarsi.

Quando capacità e memoria potrebbero incontrarsi

La questione aperta è se un modello abbastanza piccolo per l’hardware bersaglio diventerà anche abbastanza affidabile da pianificare e completare l’intera sequenza. Oggi i modelli piccoli riescono in molti compiti singoli, ma possono perdere il filo quando un errore iniziale cambia le operazioni successive. Il modello che ha superato la prova completa dispone invece di più capacità di calcolo di quelle presenti nel gruppo di TV box.

Una previsione basata sul progresso generale dei modelli può indicare quando il divario potrebbe restringersi, ma la capacità generale non misura direttamente la riuscita di una replica su apparecchi con protezioni reali. Anche a parità di capacità, memoria disponibile, velocità dell’inferenza e accesso ai bersagli continuano a incidere sull’esito. Il prossimo dato decisivo sarebbe una catena completa eseguita da un modello che gira sui dispositivi compromessi, con accessi realistici e una durata misurata dall’inizio alla fine.

Leggi anche:

• Modalità incognito: chi può ancora vedere i siti che visiti
• L’IA trova falle a 3,61 dollari, ma Microsoft avverte: serve ancora revisione umana
• SAFE o nota convertibile: la semplicità può nascondere la diluizione