Hızlı cevap: Otonom (agentic) siber güvenlik yapay zekası, bir hedefi kendi başına keşfeden, planlayan, deneyen ve sonucu doğrulayan yapay zeka ajanıdır; klasik bir tarayıcıdan farkı, tek bir adımı değil, çok adımlı bir görevi kendi kararlarıyla yürütmesidir. Bu, güvenlik testinin hızını ve kapsamını büyük ölçüde artırır çünkü ajan, bir bulgudan diğerine insan beklemeden ilerleyebilir. Ama otonomi tek başına güven demek değildir: bir ajan yanlış yola sapabilir, emin olmadığı yerde emin gibi davranabilir ve yetkisini aşabilir. Bu yüzden güvenli otonom yapay zeka, sınırları belirlenmiş, her kritik eylemi doğrulayan ve nihai kararı insana bırakan bir tasarım gerektirir. Doğru model, tam otonomi değil, insan denetimli otonomidir: ajan koşar, insan yönlendirir ve onaylar.

Yapay zeka güvenlikte artık yalnızca tek bir soruyu yanıtlamıyor; çok adımlı görevleri kendi başına yürüten ajanlara dönüşüyor. Bu otonom ajanlar, güvenlik testini hızlandırıyor ama aynı zamanda yeni bir sorumluluk sorusu doğuruyor: bir yapay zekaya ne kadar özgürlük verilmeli? Bu yazı, otonom siber güvenlik yapay zekasının nasıl çalıştığını ve neden insan denetimine ihtiyaç duyduğunu anlatır.

Otonom ajan, tarayıcıdan farkı nedir

Klasik bir güvenlik tarayıcısı, önceden tanımlı kontrolleri sırayla uygular ve bir liste üretir. Otonom bir ajan ise bir hedefi keşfeder, bir hipotez kurar, onu dener, sonucu değerlendirir ve bir sonraki adıma kendi kararıyla geçer. Yani sabit bir kontrol listesi yerine, bir uzmanın akıl yürütmesini taklit eden bir döngü çalıştırır. Bu, otomatik zafiyet taramanın bir üst aşamasıdır: tarama değil, araştırma.

Otonominin gücü ve riski

Boyut Güç Risk
Hız İnsan beklemeden ilerler Yanlış yola hızla sapar
Kapsam Geniş yüzeyi kendi başına gezer Kontrolsüz alanlara girebilir
Karar Çok adımlı görevi yürütür Emin olmadan emin davranır
Ölçek Aynı anda çok hedef Hata da ölçeklenir

Otonominin en büyük paradoksudur bu: ajanı güçlü yapan bağımsızlık, aynı zamanda onu riskli yapar. Bir insan yanlış bir adımda durup düşünür; sınırsız bir ajan yanlış yolda hızla ilerleyebilir. Bu yüzden otonom yapay zeka ajanlarının kendi güvenliği de ayrı bir konudur.

İnsan denetimli otonomi

Doğru yaklaşım, ajana sınırsız özgürlük vermek değil, sınırları belirlenmiş bir otonomi tasarlamaktır. Bunun temel ilkeleri:

  • Kapsam kilidi. Ajan yalnızca yetkili hedeflerde çalışmalı, sınırların dışına çıkamamalıdır.
  • Doğrulama zorunluluğu. Ajan bir bulguyu ancak kontrollü biçimde kanıtladığında rapor etmeli, yanlış pozitif üretmemelidir.
  • Yıkıcı eyleme fren. Veri değiştiren ya da hizmeti etkileyen eylemler, insan onayı olmadan yapılmamalıdır.
  • İnsan onay noktaları. Kritik kararlarda ajan durup insana danışmalıdır.

Bu tasarım, ajanın hızını korurken, kontrolü insanda tutar.

Halüsinasyon ve dürüstlük

Otonom bir ajanın en tehlikeli davranışı, emin olmadığı bir sonucu emin gibi sunmasıdır. Çok adımlı bir görevde, erken bir yanlış varsayım sonraki tüm adımları bozabilir. Bu yüzden ajan, halüsinasyona karşı her adımını doğrulanabilir kanıta bağlamalı; bilmediğini bilmeli ve emin olmadığında bunu açıkça belirtmelidir. Dürüst bir ajan, abartılı kesinlik iddia eden bir ajandan çok daha değerlidir.

DSET ve KAOS yaklaşımı

DSET, otonom güvenlik yapay zekasını KAOS ile bu ilkeler üzerine kurar. Yerel yapay zekâ motoru KAOS, çok adımlı görevleri kendi kararlarıyla yürütür ama kapsam kilidi, doğrulama zorunluluğu ve yıkıcı eyleme fren ile sınırlanmıştır. Kritik kararlar insan uzmanın denetiminden geçer. KAOS tam otonom değil, insan denetimli otonomdur: hızı makineden, sorumluluğu insandan alır. Ayrıca çevrim dışı çalıştığı için hassas veri dışarı çıkmaz.

Sık sorulan sorular

Otonom yapay zeka ajanı, güvenlik uzmanının yerini alır mı? Hayır. Ajan çok adımlı görevleri hızlandırır ama nihai karar, bağlam yorumu ve sorumluluk insanda kalır. Doğru model tam otonomi değil, insan denetimli otonomidir; ajan koşar, insan yönlendirir ve onaylar.

Otonom bir ajana ne kadar özgürlük verilmeli? Sınırlı ve tanımlı bir özgürlük. Ajan yalnızca yetkili kapsamda çalışmalı, yıkıcı eylemleri insan onayı olmadan yapmamalı ve bulgularını doğrulanmış kanıtla raporlamalıdır. Sınırsız otonomi, hızlandığı kadar riski de büyütür.

Otonom ajan yanlış yaparsa ne olur? Bu yüzden insan denetimli tasarım gerekir. Kapsam kilidi ajanı yetkisiz alanlardan uzak tutar, doğrulama zorunluluğu yanlış pozitifleri eler ve insan onay noktaları kritik kararlarda durmayı sağlar. Otonomi, güvenlik önlemleriyle birlikte anlamlıdır.

Kaynaklar

Otonom yapay zekanın hızını insan denetimiyle birleştiren bir güvenlik testi için DSET ile iletişime geçin. Ankara Hacettepe Teknokent laboratuvarımızdan KAOS ve uzman denetimiyle kanıt temelli güvenlik sağlıyoruz.