Microsoft AI yönetişimini yeniledi; ajanlar eski kontrol listesine sığmıyor

Microsoft, üçüncü yıllık Responsible AI Transparency Report’u 1 Eylül 2026’da yayımladı ve Responsible AI Standard’ını ajanlı sistemlerin doğurduğu yeni risklere göre yeniden düzenledi. Şirket açıklamasını aktaran 1 Eylül tarihli yayın kaydı, değişikliğin ajan değerlendirmelerini, çalışma zamanı kontrollerini ve davranış izlemeyi kapsadığını doğruluyor.

Kurumsal teknoloji, hukuk, uyum ve İK ekipleri açısından temel değişiklik şu: denetim artık yalnızca modelin verdiği son cevaba veya sürüm öncesi bir kontrol listesine bağlanmıyor. Microsoft; modeli, platform hizmetini, uygulamayı ve gerçek kullanım ortamını ayrı sorumluluk alanları olarak ele alırken ajanların araç erişimi, izinleri, belleği ve zaman içindeki eylemlerini de risk yönetiminin parçası yapıyor.

Standart teknoloji katmanlarına ve kurumsal rollere ayrıldı

Yenilenen yapı, bütün AI bileşenlerine aynı gereklilikleri uygulama yaklaşımından uzaklaşıyor. Modeller, platform hizmetleri ve uygulamalar için farklılaştırılmış hükümler getiriliyor; geliştirici ile sistemi gerçek kullanım ortamına taşıyan dağıtıcı için de ayrı bölümler tanımlanıyor.

Microsoft’un 2026 şeffaflık raporu, çekirdek gerekliliklerin yanında kullanım senaryosunun riskine bağlı ek kurallar öngörüldüğünü; daha önce ayrı duran politikaların birleştirildiğini ve standardın Security Development Lifecycle ile daha yakın hizalandığını gösteriyor. Aynı rapor, Microsoft içinde kullanılan üçüncü taraf AI uygulamaları için sağlayıcı belgelerinin incelenmesi, dağıtıma özgü risklerin değerlendirilmesi, kullanıcıların bilgilendirilmesi ve kullanıma alındıktan sonra performans ile olayların izlenmesi aşamalarını sıralıyor.

Bu ayrım, tek bir ürün sahibinin bütün riskleri kontrol edebileceği varsayımını zayıflatıyor. Model ekibi temel yetenek ve sınırlamalardan, uygulama ekibi araç bağlantıları ile izinlerden, sistemi kullanan iş birimi ise kullanım amacı, insan gözetimi ve operasyonel sonuçlardan farklı ölçülerde sorumlu hale geliyor.

Ajan denetimi sonuçtan eylem zincirine genişliyor

Ajanlı sistemlerde makul görünen bir sonuç, güvenli bir çalışma sürecinin kanıtı değil. Bir ajan doğru cevaba ulaşırken gereksiz bir veri kaynağına erişebilir, yanlış aracı çağırabilir veya çok adımlı bir işlemi yetki sınırlarının dışında yürütebilir.

Bu nedenle değerlendirme kaydının yalnızca giriş ve nihai çıktıyı değil; kullanılan araçları, verilen izinleri, ara kararları, işlem sırasını ve başarısız adımları da kapsaması gerekiyor. Microsoft’un yaklaşımında ajanlı yetenekler model, platform ve uygulama katmanlarının birden fazlasına yayılabildiği için kontrolün hangi katmanda çalıştığı ve hangi ekibin müdahale edebildiği ayrıca önem kazanıyor.

Bu ihtiyaç Microsoft’un raporuyla sınırlı bir şirket görüşü değil. Ajanların işletme adına işlem yapmasını ele alan TechRadar’daki bağımsız değerlendirme, yetki sınırlarının ve her eylemi sorumlu kişiye bağlayan denetim izinin açık olması gerektiğini vurguluyor. Yazı Microsoft standardını incelemiyor; ancak raporun erişim, izin, insan sorumluluğu ve izlenebilirlik üzerinde neden durduğunu açıklayan güncel sektör bağlamını sağlıyor.

İnsan onayı tek başına yeterli bir kontrol sayılmıyor

İnsan gözetimi, yalnızca süreç tanımında “onay gerekir” ifadesinin bulunmasıyla denetlenebilir hale gelmiyor. Kurumun hangi eylemin onaya yönlendirildiğini, karar yetkisinin kimde olduğunu, ajan beklerken hangi işlemlerin durdurulduğunu ve kararın sonradan nasıl incelenebildiğini gösterebilmesi gerekiyor.

Özellikle para transferi, personel kararı, müşteri kaydı değişikliği veya dış sisteme veri gönderimi gibi geri alınması zor eylemlerde insan müdahalesinin yeri uygulama tasarımında belirlenmeli. Bu örnekler Microsoft’un bütün müşteriler için yayımladığı zorunlu bir onay şeması değil; rapordaki yaşam döngüsü, izin ve hesap verebilirlik yaklaşımının kurumsal denetime çevrilmesidir.

Kötüye kullanım da aynı zincirin parçası. İstem enjeksiyonu savunması veya güvenlik sınıflandırıcısı model ve uygulama düzeyinde koruma sağlayabilir; fakat olay kaydı, erişimin daraltılması, işlemin durdurulması ve sorumlu ekibe eskalasyon olmadan operasyonel karşılık tamamlanmış sayılmaz.

Rapor kurumsal denetim matrisine nasıl çevrilebilir?

Microsoft müşterilere hazır veya zorunlu bir sahiplik matrisi sunmuyor. Buna karşılık rapordaki teknoloji katmanı, geliştirici-dağıtıcı ayrımı ve kullanım sonrası izleme modeli; sorumlu ekip, kanıt ve kontrol çıktısını aynı yapıda eşleştirmeye elveriyor. Aşağıdaki matris, raporun doğrudan bir bölümü değil, açıklanan yaklaşımın editoryal uyarlamasıdır.

• Model aşaması: Model veya AI mühendisliği ekibi; incelenen sürümle eşleşen kalite, güvenlik ve kötüye kullanım değerlendirmelerinden sorumlu olur. Kanıt çıktısı, test kapsamını, kabul ölçütlerini, bilinen sınırlamaları ve yeniden değerlendirme koşullarını içerir.
• Uygulama ve ajan aşaması: Ürün, güvenlik ve veri ekipleri; ajanın kimliğini, araç bağlantılarını, izin sınırlarını, bellek politikasını ve eylem izlerini birlikte ele alır. Kontrol çıktısı bir çalışma zamanı kuralı, insan onayı, erişimin sınırlandırılması veya işlemin durdurulması olabilir.
• Kullanım ve dağıtım aşaması: İş birimi, hukuk, uyum ve kullanım çalışanları etkiliyorsa İK; amaç, etkilenen gruplar, kullanıcı bilgilendirmesi ve insan gözetimi üzerinde sorumluluk paylaşır. Kanıt, dağıtım kararını, yetki kapsamını ve eskalasyon sahibini görünür kılmalıdır.
• Operasyon aşaması: Ürün operasyonu ve olay müdahale ekipleri; performans sinyallerini, kullanıcı geri bildirimini, olağandışı araç çağrılarını ve olay kayıtlarını izler. Bu kayıtlar düzeltme, erişimi daraltma, sürümü geri alma veya yeniden değerlendirme kararına bağlanır.

Matrisin işlevi, genel ilkeleri doğrulanabilir çıktılara dönüştürmek. “İnsan denetimi var” veya “ajan değerlendirildi” gibi ifadeler; ilgili sürüm, sorumlu kişi, incelenen eylem zinciri ve alınan karar gösterilmedikçe denetim kanıtı oluşturmuyor.

Şeffaflık raporunun henüz yanıtlamadığı sorular

Yayımlanan belge Microsoft’un kendi programına ilişkin bir şeffaflık raporu; bağımsız denetim veya bütün ürünlerde aynı kontrol etkinliğini kanıtlayan bir değerlendirme değil. Standardın farklı hizmetlerde ne ölçüde tutarlı uygulanacağı ve kurumsal müşterilerin ürün düzeyinde hangi ayrıntılı kayıtlara erişebileceği henüz bütünüyle görünür değil.

1 Eylül 2026 itibarıyla doğrulanan değişiklik, Responsible AI Standard’ın teknoloji katmanlarına ve geliştirici-dağıtıcı rollerine göre yeniden kurulması; ajan risklerinin ise değerlendirme, izin, izleme ve çalışma zamanı müdahalesiyle yaşam döngüsü boyunca ele alınmasıdır. Bundan sonra belirleyici olacak unsur, bu ilkelerin ürün ve dağıtım düzeyinde hangi denetlenebilir kayıtlarla destekleneceği ve Microsoft’un olaylar ile kontrol etkinliği konusunda ne kadar ayrıntı yayımlayacağıdır.

Ayrıca okuyun:

• Bending Spoons’un büyüme motoru: Eski uygulamalar nasıl nakit üretiyor?
• Lambda 1 milyar dolar borçlandı: Microsoft’un GPU kiralaması nasıl işleyecek?
• MCP sunucusuna bağlanmadan önce kontrol edilmesi gereken 8 güvenlik noktası