Türkiye’de AI ajanı denetimi zayıf: İnsan onayı yalnızca yüzde 13

KPMG Türkiye’nin araştırmasında, AI ajanı risklerine karşı hassas veri erişimini kısıtlama oranı yüzde 52 iken insan onayı zorunluluğu yüzde 13’te kalıyor. Sonuç, 2025’in ikinci çeyreğinde altı sektörden 31 üst düzey yöneticinin verdiği yanıtlara dayanıyor; dolayısıyla bütün Türkiye’yi temsil eden bir yaygınlık ölçüsü değil, sınırlı örneklemdeki belirgin bir denetim açığıdır.

Bu açığı kapatmanın yolu her adımı manuel onaya bağlamak değil; veri okuma, hassas çıkarım üretme, dışarı aktarma, mesaj gönderme ve geri döndürülemez işlemleri ayrı yetkilere bölmektir. Düşük etkili okumalar dar ve geçici izinlerle yürütülebilir; kişisel veri aktarımı, toplu değişiklik, ödeme, silme veya yetki verme ise icradan önce işlem ayrıntılarını görebilen bir insan tarafından onaylanmalıdır.

Yüzde 13 kurumlar için ne anlatıyor?

Araştırmadaki 39 puanlık fark, aynı katılımcı grubu içinde erişim kısıtlamasının insan gözetiminden çok daha yaygın olduğunu gösteriyor. Ancak örneklem küçük, yanıtlar yönetici beyanlarına dayanıyor ve operasyon, finansal hizmetler, sigorta, enerji, otomotiv ile teknoloji sektörlerini birlikte kapsıyor. Bu nedenle oranı tüm kurumlara genellemek veya belirli bir sektöre mal etmek doğru olmaz.

Yine de karşılaştırma önemli bir ayrımı görünür kılıyor: Bir ajanın hangi veriyi görebileceğini sınırlamak, o veriyle hangi eylemi gerçekleştirebileceğini denetlemekle aynı şey değildir. Salt okunur erişimi olan bir ajan bile kayıtları birleştirerek hassas bir çıkarım oluşturabilir; yazma ya da iletişim aracı da varsa bu sonucu başka bir sisteme veya kişiye taşıyabilir.

Çok adımlı işleyiş neden yeni kontrol noktaları gerektiriyor?

Tek tek bakıldığında düşük etkili görünen işlemler, aynı görev zincirinde daha kapsamlı bir sonuç üretebilir. Örneğin izinli müşteri kayıtlarını okuma, ayrılma olasılığına ilişkin bir çıkarım oluşturma ve sonucu dış alıcıya gönderme ayrı araç çağrılarıdır; risk, bu çağrıların birlikte doğurduğu sonuçta ortaya çıkar.

KVKK’nın etken yapay zekâ değerlendirmesi, hedef yönelimli, çok adımlı ve farklı düzeylerde otonom işleyişin kişisel veri süreçlerini daha dinamik ve çok katmanlı hâle getirebildiğini belirtiyor. Doküman, ayrı ayrı sınırlı etkili işlemlerin birlikte daha geniş ve öngörülmesi güç sonuçlar doğurabileceğine dikkat çekiyor; insan gözetiminin hangi koşulda ve hangi aşamada devreye gireceğinin açıkça tanımlanmasını öneriyor.

Bu nedenle başlangıçta verilen görev, sonraki bütün adımlar için sınırsız yetki sayılmamalıdır. Politika katmanı her araç çağrısında veri kategorisini, hedef kaynağı, alıcıyı, işlem yönünü ve beklenen etkiyi yeniden değerlendirmeli; görev kapsamı genişlediğinde eski yetkiyi otomatik olarak taşımamalıdır.

Beş işlem düzeyi için ayrı eşik belirleyin

Yetkileri uygulama adına göre değil, işlemin etkisine göre sınıflandırmak daha güvenli bir ayrım sağlar. Aynı CRM içinde tek kayıt okumakla binlerce kaydı dışarı aktarmak aynı rol altında değerlendirilmemelidir.

• Veri okuma: Görülebilecek alanları, kayıt kümesini ve zaman aralığını görevle sınırlayın. Salt okunur erişimi kısa süreli ve kullanıcı bağlamına bağlı verin; görev dışı alanları varsayılan olarak kapalı tutun.
• Veri çıkarımı: Profil, risk puanı veya davranış tahmini üretmeyi okumadan ayrı bir izin olarak tanımlayın. Çıkarım kişiyi etkileyen bir kararda kullanılacaksa amacı, veri dayanağını ve değerlendirecek rolü önceden belirleyin.
• Dışarı aktarma: Dosya indirme, panoya kopyalama, üçüncü taraf API’ye gönderme ve toplu rapor oluşturma için ayrı kurallar uygulayın. Alıcı, veri miktarı veya aktarım amacı izin kapsamını aşıyorsa işlemi durdurun.
• Mesaj gönderme: Taslak hazırlama yetkisini gerçek gönderim yetkisinden ayırın. Dış alıcı, toplu gönderim, kişisel veri içeren ek veya kurum adına taahhüt oluşturan içerik için insan onayı isteyin.
• Geri döndürülemez işlem: Silme, ödeme, sözleşme kabulü, üretime dağıtım ve erişim yetkisi değişikliğini otomatik varsayılan yapmayın. Ajan işlemi hazırlayabilir; icra, ayrıntıları gören yetkilinin onayından sonra gerçekleşmelidir.

Her kuralda izin verilen veri kümesi ve araç, hedef sistem, miktar ya da tutar sınırı, geçerlilik süresi ve onay verecek rol bulunmalıdır. Böylece “bu ajan yetkili mi?” sorusu yerine “bu ajan, bu kullanıcı adına, bu hedefte, bu parametrelerle ve bu süre içinde yetkili mi?” sorusu yanıtlanır.

İnsan onayını biçimsel kontrolden çıkarın

Onay ekranı yalnızca ajanın ürettiği “işlem güvenli” özetini gösterirse denetleyen kişi gerçek riski değerlendiremez. Ekranda işlem türü, hedef kaynak, alıcı, etkilenecek kayıt sayısı, normalleştirilmiş parametreler ve geri alma imkânı görünmelidir. Onay genel oturuma değil, kesin işlem nesnesine bağlanmalı; hedef veya parametre değiştiğinde geçersizleşmelidir.

OWASP’ın AI ajanı güvenlik rehberi, görev için gereken asgari araçların verilmesini, okuma ile yazma izinlerinin ayrılmasını ve yüksek etkili işlemlerde açık onay kullanılmasını tavsiye ediyor. Rehber ayrıca karar üretme ile icrayı ayırmayı; kapsam, yetki ve onay durumunu bağımsız bir politika veya yürütme bileşeninde doğrulamayı öneriyor.

Onayın doğru role yönelmesi de gerekir. Kişisel veri aktarımını süreç sahibi, ödemeyi mali yetkili, üretim değişikliğini teknik operasyon sorumlusu değerlendirebilir. Aynı kişinin hem riskli akışı tanımlaması hem de bütün istisnaları süresiz onaylaması, onayı bağımsız bir güvenlik kapısı olmaktan çıkarır.

Kayıt ve iptal denetimin devamıdır

Her araç çağrısı; ajanın ve adına hareket ettiği kullanıcının kimliği, görev kimliği, kullanılan yetki, veri kategorisi, hedef, zaman, politika kararı ve varsa onay kaydıyla izlenebilmelidir. Günlükler kişisel verileri veya kimlik bilgilerini gereksiz yere düz metin olarak çoğaltmamalı; erişimleri ve saklama süreleri ayrıca sınırlandırılmalıdır.

Çalışan hesabını kapatma, ajan belirtecini iptal etme, devam eden görevi durdurma ve bekleyen onayları geçersiz kılma mekanizmaları birlikte çalışmalıdır. Kısa ömürlü, göreve bağlı yetki jetonları eski bir oturumun başka amaçla kullanılmasını zorlaştırır; politika servisine veya denetim kaydına ulaşılamadığında yüksek etkili işlem reddedilmelidir.

Canlıya geçiş testleri yalnızca doğru çıktı üretimini değil, yetki sınırlarını da kapsamalıdır. Görev dışı kayıt talebi, yeni alıcıya aktarım, onaydan sonra parametre değiştirme, aynı işlemi tekrar yürütme ve iptal edilmiş yetkiyi kullanma girişimleri denenmelidir. Başarı ölçütü ajanın reddi açıklaması değil, politika katmanının işlemi gerçekten engellemesi ve denetlenebilir kayıt oluşturmasıdır.

Ayrıca okuyun:

• Yapay zekâ çağında herkesin kod yazması gerekmiyor: yüzde 1 ayrıntısı
• ABD kamu işe alımında AI genişliyor: İnsan onayı tek başına yetmiyor
• Çalışanların yüzde 90’ı yapay zekâya güveniyor, ilk denemede sonuç düşük