Mühendislik / KAOS AI · DSET Mühendislik Ekibi · 13 Ekim 2026 · 15 dakika okuma

Hızlı cevap

Otonom bir güvenlik ajanı güçlüdür çünkü insan hızından bağımsız çalışır. Aynı güç, kötü tasarlanırsa risk olur. Güvenli ajan mühendisliği beş katmana dayanır: kapsam kilidi (yalnız yetkili hedefe dokunma), insan onay kapısı (yıkıcı adımda dur ve sor), kill-switch (anında ve kesin durdurma), denetim izi (her eylemin değişmez kaydı) ve yetki çerçevesi (kimin neye izni var). Bu katmanlar birlikte, otonomluğu kontrolsüzlükten ayırır.

Otonomluk neden tasarım sorunudur

Bir ajanı "kendi başına karar versin" diye bırakmak kolaydır. Zor olan, o kararların sınırlarını güvenle çizmektir. Sahadaki acı dersler nettir. Kapsam kilidi olmayan bir tarayıcı yetkisiz bir sisteme dokunabilir. Onay kapısı olmayan bir ajan geri alınamaz bir işlem yapabilir. Denetim izi olmayan bir sistem, bir şey ters gittiğinde ne olduğunu açıklayamaz. Güvenli mühendislik, bu senaryoları baştan imkansız kılmaktır.

Katman 1: kapsam kilidi

Kapsam kilidi en temel savunmadır. Ajan yalnızca açıkça yetkilendirilmiş hedeflere dokunabilir. Bu bir tercih değil, zorunluluktur. İyi bir kapsam kilidi fail-closed çalışır, yani kapsam belirsizse eylemi reddeder, izin vermez. Bir alt alan adı, bir yönlendirme veya bir bağlantı kapsam dışına taşırsa, ajan durur ve bunu bildirir.

Katman 2: insan onay kapısı

Her eylem aynı risk sınıfında değildir. Okuma ve pasif gözlem düşük risklidir. Yazma, değiştirme, silme veya dışarı veri gönderme yüksek risklidir. Güvenli ajan, yüksek riskli adımda durur ve açık bir insan onayı ister. KAOS'ta bu, yıkıcı veya geri alınamaz işlemler için ayrı bir kapıdır. Operatör onayı bir bağlamda verildi diye başka bir bağlama taşınmaz.

Katman 3: kill-switch

Kill-switch, her şeyi anında durduran acil frendir. İyi bir kill-switch üç özelliğe sahiptir. Hızlıdır, yani saniyeler içinde etki eder. Kesindir, yani ajanın koşan tüm alt süreçlerini de durdurur, yalnız ana döngüyü değil. Ve gürültülüdür, yani sessizce başarısız olmaz, durduğunu açıkça bildirir. Bu üçü olmadan kill-switch bir yanılsamadır.

Katman 4: denetim izi

Otonom bir sistemin en kolay unutulan parçası, ne yaptığının değişmez kaydıdır. Her tarama, her eylem, her karar bir ize yazılmalıdır. Bu iz iki işe yarar. Bir şey ters gittiğinde kök sebebi bulmayı sağlar. Ve bir bulgunun gerçekten yapıldığını kanıtlar, böylece rapor denetlenebilir olur. Denetim izi olmayan otonomluk, hesap verebilir değildir.

Katman 5: yetki çerçevesi ve roller

Olgun bir ajan sistemi, tek bir her şeye gücü yeten bileşen değildir. Rollere ayrılır. Kimi bileşen yalnız gözlemler, kimi analiz eder, kimi yalnız onaylanmış bir eylemi uygular. Bu rol ayrımı, bir bileşenin tek başına büyük zarar vermesini engeller. Güvenlik operasyon merkezi, yönetişim ve uyum, risk denetimi gibi roller birbirini dengeler.

Beş katmanın tablosu

Katman Amaç Başarısızlık kipi
Kapsam kilidi Yalnız yetkili hedef Fail-closed, belirsizse reddet
İnsan kapısı Yıkıcı adımda dur Onay yoksa ilerleme yok
Kill-switch Anında durdurma Hızlı, kesin, gürültülü
Denetim izi Değişmez kayıt Her eylem izlenir
Yetki çerçevesi Rol ayrımı Tek bileşen büyük zarar veremez

Savunma değeri

Bu beş katman yalnız güvenlik için değil, güven için de gereklidir. Bir kurum otonom bir ajanı ancak sınırlarını net gördüğünde benimser. İyi mühendislenmiş bir ajan, "ne yapabilir" kadar "ne yapamaz" sorusuna da net cevap verir. KAOS bu çerçeveyi varsayılan olarak uygular. Yetki sürtünmesi eklemeden, ama kapsam ve onay güvenliğinden ödün vermeden.

Sık sorulan sorular

Otonomluk ve güvenlik çelişmez mi? Çelişmez. Doğru tasarımda ajan düşük riskli işleri hızla ve otonom yapar, yalnız yüksek riskli adımda insana döner. Hız kaybolmaz, kontrol kazanılır.

Kill-switch'i kim tetikler? Operatör her zaman tetikleyebilir. İyi sistemler ayrıca otomatik tetikler de tanımlar, örneğin kapsam ihlali veya anormal davranış görüldüğünde.

Denetim izi gizliliği ihlal eder mi? Tersine, gizliliği korur. İz yerelde tutulur ve kimin neye eriştiğini hesap verebilir kılar. Dışarı veri sızmasını önlemek de bu çerçevenin parçasıdır.

KAOS ile tanışın

Bu yazıdaki yeteneklerin tamamı KAOS güvenlik zekasında canlı çalışır. KAOS, DSET Mühendislik ekibi tarafından Türkiye'de geliştirilen, inference'ı yerel kalan otonom bir güvenlik motorudur. Hacettepe Teknokent tabanlı ekibimizle kurumunuzun saldırı yüzeyini ölçmek için demo talep edebilirsiniz.

KAOS demo talep et · Sızma testi hizmeti