Küçük AI modelleri kendini kopyalamaya yaklaştı, fakat solucan henüz yok

Anthropic araştırmacıları William Zhou ve Daniel Freeman, 12 Ekim 2026’da yayımladıkları araştırmada Qwen3.5-9B’nin test edilen dokuz donanım türünün sekizinde Llama3.1-8B için çıkarım ortamı kurabildiğini gösterdi; sınırı “We don’t yet have a full rogue replicator” sözleriyle çizdi. Küçük model, alışık olmadığı bir makineyi başka bir modeli çalıştırmaya hazırladı. Aynı modelin yeni cihazlara kendi başına geçip oradan yayılmayı sürdürdüğü gösterilmedi.

Ayrı ağ sınamasında daha güçlü GLM-5.2, yalıtılmış Android emülatörleri arasında kurulum zincirini yönetti. SecurityWeek’in haberine göre model, sekiz düğümün tamamına beş denemenin dördünde ulaştı; küçük modeller aynı zinciri tamamlayamadı. Buradaki başarı, erişimi kolaylaştırılmış bir laboratuvar ağındaki görev yönetimini gösteriyor. Ucuz hedef donanımda yaşayan bağımsız bir solucan gösterilmedi.

Deneyin üç kanıt düzeyi

İki deney birbirini tamamlıyor, fakat aynı şeyi ölçmüyor. Bir cihazda çıkarım sunucusu kurmak, ağda yeni hedeflere erişmek ve kopyanın kendi işlem gücüyle yeniden yayılması ayrı yetenekler. Aradaki farkı modelin hangi makinede çalıştığı belirliyor:

• Çıkarım kurulumu: Qwen3.5-9B, Jetson Nano’dan Mac’e ve RTX 4090’lı bilgisayara uzanan farklı donanımlarda Llama3.1-8B’yi çalıştıracak yazılım ortamını hazırladı. Bu görev, ağda hedef bulmayı veya kendi ağırlıklarını yeni makineye taşımayı gerektirmiyordu.
• Yayılma zincirini yönetme: GLM-5.2, önceden kurulmuş yalıtılmış ağda düğümlere geçişi, dosya aktarımını ve Llama3.1-8B için çıkarım sunucusu kurulumunu birleştirdi. Karar veren büyük model, hedef emülatörlerin dışında çalışan ayrı bir sunucudan çıkarım yaptı.
• Özerk çoğalma: Hedefte çalışan kopyanın kendi modelini kullanarak yeni cihaz bulması, erişim sağlaması ve döngüyü yeniden başlatması gerekir. Ucuz bağlı cihazlarda bu koşulları aynı küçük modelle bir araya getiren bir test sonucu bulunmuyor.

Ağ deneyindeki erişim özellikle basitleştirilmişti: Android Debug Bridge bağlantı noktaları kimlik doğrulaması istemiyordu. Bu seçim, donanımda çıkarım kurma ve adımları sıraya koyma becerisini görünür kıldı; gerçek bir ağdaki erişim engellerini ölçmedi. Bu yüzden düğümlere ulaşma oranı, savunulan cihazların ele geçirilme olasılığına çevrilemez.

TV kutularında model çalıştı, kurulum yavaş kaldı

Ucuz cihazlar üzerindeki gösterim yalnızca kuramsal bir kapasite hesabı değildi. Gemma4-26B-A4B’nin katmanları, her birinde 4 GB bellek bulunan 15 markasız Android TV kutusuna dağıtıldı. Kutular birlikte saniyede 0,39 token üretti; modelin tamamı tek bir kutuda tutulmadı. Bu gösterim, farklı makinelerin ağ üzerinden tek bir çıkarım sürecine katılabildiğini kanıtladı, cihazdan cihaza bulaşma hızını ölçmedi.

Yaklaşık 55 dolarlık kutularla yapılan deneyi ele alan 13 Ekim tarihli Tom’s Hardware değerlendirmesi, ölçülen çıkarım hızı ve görevlerin token ihtiyacından türetilen kurulum sürelerini Qwen3.5-9B için 28–51 saat, Gemma4-26B-A4B için 71–150 saat olarak aktarıyor. Bunlar gerçek bir solucanın yayılırken kaydedilmiş süreleri değil, aynı sınıftaki donanımda kurulum iş yükünün ne kadar sürebileceğine ilişkin hesaplar. Dolayısıyla çıkarımın mümkün olması, hızlı çoğalmanın da mümkün olduğu anlamına gelmiyor.

Kurulumda model dosyasının varlığı tek başına yeterli değil. Uygun çıkarım yazılımını seçmek, paket sürümlerini uyumlu hâle getirmek ve işletim sistemiyle donanıma özgü hataları ayıklamak gerekiyor. Bir adım başarısız olursa sonraki adım da bekliyor; yavaş işlemcilerde deneme ve düzeltme süresi büyüyor. Katmanlara ayrılmış modelde makineler arasında sürekli iletişim gereksinimi de buna ekleniyor. Böylece pahalı bir veri merkezi olmadan çalışabilen düzenek, hız ve ağ bağımlılığı bakımından belirgin bir bedel taşıyor.

Büyük modelin başarısı neden küçük solucana dönüşmedi?

Ağ sınamasındaki kritik ayrıntı, zinciri yöneten model ile hedef düğümlerde kurulan modelin ayrı olması. GLM-5.2, emülatörlerde Llama3.1-8B için çalışan bir sunucu hazırladı; kendi çıkarımı ise başka sunucuda kaldı. Başarılı kurulumun ardından test düzeneği hedef düğümde yeni bir ajan kopyası başlattı. Bu, görevleri takip edebilen büyük bir modelin becerisini ölçmeye yaradı, fakat aynı becerinin hedefe sığan modelde bulunduğunu göstermedi.

Donanım sınırı ile beceri eşiği henüz buluşmuyor. Qwen3.5-9B ve Gemma4-26B-A4B, bellekleri kısıtlı TV kutularında dağıtılmış biçimde çalışabilecek ölçekte; ancak küçük modeller zincirin adımlarını birleştirirken hata yaptı. GLM-5.2 zinciri yönetebildi, fakat hedef emülatörler bu büyük modeli çalıştıracak kapasitede değildi. Bu ayrım, “çalıştırma” ile “özerk çoğalma” arasındaki kanıt boşluğunu oluşturuyor.

Araştırmada kullanılan Memento düzeneği, bir ajan takıldığında önceki denemenin çalışma alanını ve kısa notlarını yeni bir örneğe devrediyor. Böylece model aynı çıkmazı tekrar etmek yerine önceki denemenin bilgisinden yararlanabiliyor; bu destek de küçük modelleri tam zincirde güvenilir hâle getirmedi. Deneyin asıl açığı yalnızca bir yazılım paketini yüklemek değil, uzun ve birbirine bağlı görevlerde yeterli karar kalitesini küçük bir modele sığdırmak.

Kurumlar açısından sonuç ne?

Bağlı cihaz işleten kurumlar için araştırmanın bugünkü sonucu, ölçülmüş bir saldırı dalgası değil, somut bir teknik eşik. Bir kopyanın ağırlıklarını yeni cihazlara aktarması ya da oradan indirmesi büyük veri transferleri yaratabilir. Model parçalara bölünmüşse normalde yoğun iletişim kurmayan cihazlar arasında sürekli trafik de oluşur. Hedef arama ve dış bağlantı girişimleriyle birleştiğinde bu davranış, ağ akışlarında ayırt edilebilir bir iz bırakabilir.

Bu izlerin savunma değeri, varsayımsal solucanın nasıl kurulacağına bağlı. Her hedefin modelin tamamını taşıması gerekmeyebilir; bazı cihazlar yalnızca geçiş veya hesaplama zincirinin bir parçası olabilir. Yine de ağırlıkların taşınması ve dağıtılmış çıkarım, ucuz cihazlarda sessiz ve süratli çoğalma fikrini teknik olarak zorlaştırıyor. Belirleyici sonraki veri, erişimi önceden açılmamış gerçek hedeflerde, aynı küçük modelin hem kendi çıkarımını kurup hem de yeni kopyayı bağımsız olarak harekete geçirip geçiremeyeceği olacak.

Ayrıca okuyun:

• AI model damıtma küçük modeli hızlandırır; kopyalama çizgisi veride başlar
• Suno v6 çıktı: eski modeller kapanırken lisanslı dönem başlıyor
• TrustedRouter 1,25 milyon dolar aldı: AI modelleri tek API’de metalaşıyor