Claude’un yeni kuralları: Fiziksel ajanlarda insan durdurma şartı

Anthropic, 8 Ekim 2026 tarihli politika duyurusunda Claude için güncellenen kuralların 12 Kasım 2026’da yürürlüğe gireceğini açıkladı. Yeni fiziksel eylem hükmü, yaralanmaya yol açabilecek otonom ekipmanı yetkin bir operatörün gözleyip gerektiğinde durdurabilmesini ve Claude bağlantısı kesildiğinde ekipmanın güvenli durumda kalmasını gerektiriyor. Türkiye’de Claude API kullanan bir ürün için kritik ayrım, model çıktısının bir öneriye mi dönüştüğü, yoksa insan onayı olmadan donanımı mı harekete geçirdiği.

İşe alım, sağlık ve finans gibi alanlarda insan incelemesi ile yapay zekâ kullanımını açıklama yükümlülükleri sürüyor; güncelleme bunların hangi önerilere uygulandığını daha açık anlatıyor. Fiziksel ekipman için getirilen kontrol ise ayrı: sonradan gözden geçirilen bir karar ile hareket hâlindeki bir cihazı anında durdurma yetkisi aynı işlevi görmüyor. Ürünün hangi sınıfa girdiğini, Claude’un çıktısından sonra kimin veya neyin eyleme geçtiği belirliyor.

Otonom ekipmanda durdurma yetkisi nasıl işleyecek?

Yürürlüğe girecek Usage Policy metni, yüksek riskli fiziksel eylem şartını model çıktısının insan onayı olmadan donanım tarafından uygulanmasına bağlıyor. İnsanların bulunabileceği ortak alanda ilerleyen mobil robot veya araç, bir kişiye çarpabilecek ya da yük düşürebilecek mekanizma ve yaralanmaya neden olabilecek enerji veya maddeyi kontrol eden ekipman bu kapsamın örnekleri. İnsan bedeni üzerinde işlem yapan cihazlar ve yangın söndürme ya da acil durdurma gibi güvenlik sistemlerinin kontrolü de aynı değerlendirmeye giriyor.

Böyle bir düzende yetkin operatör ekipmanın çalışmasını izleyebilmeli ve onu istediği anda durdurabilmeli. Operatör müdahale ettiğinde veya Anthropic hizmetleriyle bağlantı kesildiğinde ekipman durmalı ya da güvenli durumunu korumalı. Hız, kuvvet, erişim alanı, sıcaklık ve benzeri güvenlik sınırlarını da ekipmanın kendisi veya model çıktısından bağımsız bir kontrolör uygulamalı. Claude’a yalnızca güvenli davranması için talimat vermek, bağımsız sınır şartını karşılamaz.

Koşullu bir örnekte, Claude’un komutuyla insanların kullandığı koridorda ilerleyen mobil robot bu fiziksel eylem hükmüne girer. Aynı modelin hazırladığı güzergâhı yetkin bir kişi robot çalışmadan önce inceleyip onaylıyorsa politika bu özel şart için bir istisna tanır. Yalnızca sensör verisini izleyip arıza bildiren, fakat ekipmanı kontrol etmeyen kullanım da farklı değerlendirilir. Ayrımı cihazın türünden çok, hareket yetkisinin nasıl verildiği oluşturur.

İşe alım, sağlık ve finansta hangi inceleme gerekiyor?

İnsanların sağlığını, hukuki haklarını, mali durumunu veya geçimini etkileyen önerilerde gereken kontrol, fiziksel cihazı durdurmaktan farklıdır. ITmedia’nın haberinde aktardığı üzere güncel metin, istihdam dâhil 11 yüksek riskli alan için hangi kullanımların kapsama girdiğini somutlaştırıyor; yetkin insan incelemesi ve etkilenen kişiye yapay zekâ kullanımını açıklama şartı ise devam ediyor. İnceleyen kişinin alan bilgisi bulunmalı, öneriyi anlamlı biçimde değerlendirmeli ve gerekirse değiştirme yetkisi olmalı.

Koşullu bir işe alım senaryosunda Claude adayları sıralıyor veya kimin eleneceğini öneriyorsa çıktı, karar verilmeden önce yetkin kişi tarafından incelenmelidir. Bir sağlık uygulaması kişinin belirtilerini yorumlayıp tedavi önerdiğinde ya da finans uygulaması belirli yatırım ürünleri arasında kişiye özel dağılım tavsiye ettiğinde de aynı ilke geçerlidir. İnceleme, öneri kişiye sunulmadan veya karara uygulanmadan önce yapılır. Öneriden etkilenen kişiye yapay zekânın kullanıldığı açıkça söylenir; açıklamada Anthropic veya Claude adının geçmesi gerekmez.

Genel bir hastalık açıklaması, yatırım kavramlarını anlatan eğitim içeriği veya nihai öneriye dönüşmeyen iç taslak bu özel inceleme şartına girmez. Taslak otomatik olarak kişiye gönderildiğinde ya da birey hakkında verilen karara girdi olduğunda durum değişebilir. Politika ayrıca belirli, tamamen kişi lehine sonuçlanan bazı kararlar için, hukukun izin verdiği ölçüde, ön inceleme istisnası tanıyor; kısmi veya koşullu onay bu istisna kapsamında değil. Yapay zekâ kullanımını açıklama gibi diğer yükümlülükler yine geçerli olabilir.

Türkiye’deki ürünler için yasak, koşullu ve kapsam dışı ayrımı

İlk ayrım kullanım amacıdır: açıkça yasaklanan bir amaç, insan onayı eklenerek koşullu kullanım hâline gelmez. Quartz’ın güncelleme haberi, rıza dışı kişi takibi ile kolluk sürecinde kimin soruşturulacağı veya gözaltına alınacağına ilişkin kararların yasak kapsamının açıklaştırıldığını aktarıyor. Yasak amaç yoksa ürünün kişiye özel yüksek riskli öneri üretip üretmediğine ve donanımı insan onayı olmadan çalıştırıp çalıştırmadığına bakılır.

• Yasak kullanım: Rızası olmayan kişilerin konumunu, hareketlerini veya çevrimiçi etkinliklerini izleyen bir araç; kolluk sürecinde soruşturulacak ya da gözaltına alınacak kişiyi öneren bir sistem. Önceden toplanmış verilerle yapılan kişi takibi de yasak kapsamında olabilir.
• Yüksek riskli, şartlara bağlı kullanım: Adayları sıralayan işe alım aracı, kişiye özel tedavi veya yatırım önerisi ve kredi değerliliği hakkında karar girdisi. Bunlarda yetkin insan incelemesi ve etkilenen kişiye açıklama gerekir. Yaralanma riski taşıyan otonom ekipmanda ise operatörün izleme ve durdurma yetkisi, bağlantı kaybında güvenli durum ve bağımsız çalışma sınırları gerekir.
• Bu özel şartların dışında kalan kullanım: Kişiye özgü öneri vermeyen genel açıklama, nihai karara dönüşmeyen iç taslak, yetkin kişinin çalıştırmadan önce onayladığı ekipman komutu veya donanımı kontrol etmeden yalnızca durumunu raporlayan sistem. Genel kullanım yasakları ve uygulanabilir yerel kurallar yine geçerlidir.

Gözetimde rıza ve amaç belirleyicidir. Kişinin kabul ettiği dolandırıcılık takibi veya anonimleştirilmiş toplu analiz, rızasız kişi takibiyle aynı sınıfta değildir. Buna karşılık veri geçmişte ve başka bir amaçla toplanmış olsa bile, Claude’un bu verilerle rızası olmayan belirli bir kişiyi izlemesi yasak kapsamına girebilir. Ürün tasarımında verinin yaşı kadar, modelin kimi hangi amaçla hedeflediği önem taşır.

Yürürlükten önce ürün akışında ne değişmeli?

Claude API entegrasyonunda yalnızca üretilen metni sınıflandırmak yeterli olmaz. Yanıtın bir kişiye gösterilip gösterilmediği, işe alım veya kredi kararına aktarılıp aktarılmadığı ve bağlı bir cihaza komut verip vermediği de ürün akışının parçasıdır. Politika, geliştirilen veya dağıtılan ajanların araçlar ve bağlı sistemler üzerinden yaptığı eylemler için de kullanıcıya sorumluluk yüklüyor.

1. İşe alım, sağlık, finans ve kredi akışlarında kişiye özel öneriyi genel bilgi veya iç taslaktan ayırın. Önerinin kişiye ulaştığı ya da karara uygulandığı noktayı belirleyin.
2. Yüksek riskli öneride yetkin inceleyenin karardan önce devreye girdiğini, çıktıyı değiştirebildiğini ve etkilenen kişiye yapay zekâ kullanımının açıklandığını ürün akışına yerleştirin.
3. Fiziksel ekipmanda operatörün çalışma sırasında nasıl gözlem yapıp durdurabildiğini ve bağlantı koptuğunda hangi güvenli durumun korunduğunu belirleyin. Çalışma sınırlarını model çıktısından bağımsız uygulayın.
4. Rızasız takip veya kolluk kararı üretimine açılan araç yetkilerini kapatın. Dış kullanıcılarla doğrudan konuşan sohbet botu ve ajanlarda, kişinin yapay zekâ ile etkileşimde olduğunu oturum başında veya arayüzde açıklayın.

Bu kontroller, Anthropic’in kullanım politikasındaki şartları ürün davranışına çevirmeye yöneliktir; araç, tıbbi cihaz, iş güvenliği ve ilgili diğer yerel yükümlülüklerin ayrıca karşılanması gerekir. Yeni metin yürürlüğe girdiğinde esas fark, onay kutusunun varlığıyla değil, öneriyi değiştirebilen kişinin ve hareket eden ekipmanı durdurabilen operatörün gerçek akışta bulunmasıyla ortaya çıkacak.

Ayrıca okuyun:

• UKG Pro işe alım ve bordroya yeni AI ekledi; son karar yine uzmanda
• Claude Ar-Ge işlerinin yüzde 26’sını yönetiyor; özerklik hâlâ insan gözetiminde
• OpenAI, çocuk AI yasasını destekledi: Varsayılan koruma şartı geliyor