Hızlı cevap: Açıklanabilir yapay zeka (Explainable AI, XAI), bir yapay zeka sisteminin verdiği kararın nedenini insanın anlayabileceği biçimde gösterebilmesidir. Siber güvenlikte bu kritik önemdedir çünkü bir yapay zeka "bu bir saldırıdır" dediğinde, güvenlik ekibinin ve gerektiğinde mahkemenin bunun nedenini görmesi gerekir. Nedenini gösteremeyen bir kara kutu yapay zeka, bir bulguyu doğrulanamaz kılar, yanlış pozitifleri gizler ve bir adli incelemede savunulamaz hale gelir. Kök ilke şudur: bir güvenlik yapay zekası yalnızca bir karar değil, o kararın kanıtını da üretmelidir. Doğru yaklaşım, her bulguyu neden-sonuç zinciriyle ve doğrulanabilir bir kanıtla sunan, kararını açıklayabilen bir sistemdir.

Bir yapay zeka "bu güvenli", "bu tehlikeli" ya da "bu bir saldırı" dediğinde, ilk soru şudur: neden? Eğer sistem bunu gösteremiyorsa, kararına güvenmek bir inanç meselesine dönüşür. Siber güvenlikte inanç yetmez; kanıt gerekir. Bu yazı, açıklanabilir yapay zekanın güvenlikte neden kritik olduğunu anlatır.

Kara kutu sorunu

Birçok yapay zeka sistemi bir karar üretir ama nedenini gösteremez; bunlara kara kutu denir. Bir kara kutu, bir e postayı zararlı, bir dosyayı temiz ya da bir davranışı şüpheli olarak işaretler, ama neden böyle karar verdiğini açıklayamaz. Bu, güvenlikte üç büyük soruna yol açar: bulgu doğrulanamaz, yanlış pozitifler gizlenir ve karar sorgulanamaz. Bir güvenlik ekibi, nedenini göremediği bir bulguyu ne önceliklendirebilir ne de savunabilir.

Açıklanabilirlik neden güvenlikte kritik

Bağlam Açıklanabilirlik neden gerekir
Doğrulama Bir bulgunun gerçek olduğu ancak nedeni görülünce kanıtlanır
Önceliklendirme Ekip, nedenini bildiği bulguyu doğru sıralar
Adli değer Mahkemede bir sonuç, gerekçesiyle kabul görür
Güven Kullanıcı, açıklayabilen bir sisteme güvenir
İyileştirme Kök nedeni bilinen açık doğru düzeltilir

Açıklanabilirlik olmadan, bir yapay zeka sonucu yalnızca bir iddiadır. Onu bir kanıta dönüştüren, kararın arkasındaki gerekçedir. Bu, halüsinasyon ve güvenilirlik sorunuyla doğrudan ilişkilidir: emin olmadığı yerde bile emin gibi konuşan bir sistem, en azından nedenini göstermelidir ki yargısı sınanabilsin.

Adli bilişimde açıklanabilirlik şart

Açıklanabilirliğin en kritik olduğu yer adli bilişimdir. Bir yapay zeka "bu medya deepfake" ya da "bu davranış bir saldırı" dediğinde, bu bir delil olacaksa nedeni gösterilmelidir. Nedenini açıklayamayan bir araç, adli bilişimde mahkemeye sunulabilirlik şartlarını karşılayamaz. Sonuç, tekrar edilebilir ve savunulabilir olmalıdır; bu da kararın gerekçesinin görünür olmasını gerektirir.

Kanıt temelli yaklaşım

Açıklanabilirliğin güvenlikteki pratik karşılığı, kanıt temelli raporlamadır. Bir yapay zeka, bir bulguyu ham bir etiket olarak değil, o bulguyu üreten neden-sonuç zinciriyle ve doğrulanabilir bir kanıtla sunmalıdır. Örneğin bir web açığında, yalnızca "burada SQL injection var" demek değil, enjeksiyonun gerçekten çalıştığını gösteren bir kanıtla raporlamak. Kanıt, açıklamanın en güçlü biçimidir.

Uyum ve yönetişim

Açıklanabilirlik yalnızca teknik değil, aynı zamanda bir uyum gereksinimidir. Yapay zeka risk yönetimi çerçeveleri, yüksek riskli kararlarda açıklanabilirliği ve insan denetimini bekler. Bir kurum, yapay zekanın verdiği bir kararın sorumluluğunu alacaksa, o kararın nedenini de gösterebilmelidir.

KAOS ve DSET yaklaşımı

DSET, açıklanabilirliği KAOS'un temel tasarım ilkesi olarak benimser. Yerel yapay zekâ motoru KAOS, bir bulguyu yalnızca bir etiket olarak değil, o bulgunun neden gerçek olduğunu gösteren doğrulanmış bir kanıtla raporlar. Böylece güvenlik ekibi her bulguyu görebilir, önceliklendirebilir ve gerektiğinde savunabilir. KAOS emin olmadığı yerde bunu açıkça belirtir; çünkü açıklanabilir ve dürüst bir sonuç, açıklanamayan bir iddiadan çok daha değerlidir.

Sık sorulan sorular

Kara kutu bir yapay zekanın kararına güvenebilir miyim? Sınırlı biçimde. Karar doğru bile olsa, nedenini göremiyorsanız onu doğrulayamaz, önceliklendiremez ve savunamazsınız. Güvenlikte bir sonuç, gerekçesiyle birlikte değer taşır. Açıklanabilir bir sistem, kararını sınanabilir kılar.

Açıklanabilirlik doğruluğu garanti eder mi? Tek başına garanti etmez ama doğruluğu sınanabilir kılar. Bir kararın nedenini görebiliyorsanız, o nedenin geçerli olup olmadığını değerlendirebilir ve yanlış pozitifleri ayıklayabilirsiniz. Açıklanabilirlik, güvenin değil, doğrulamanın temelidir.

Adli bir incelemede açıklanabilirlik neden şart? Çünkü bir sonuç delil olacaksa, tekrar edilebilir ve savunulabilir olmalıdır. Nedenini gösteremeyen bir yapay zeka çıktısı, mahkemede sorgulandığında güvenilirliğini yitirir. Kararın gerekçesi görünür olmalı ki başka bir uzman aynı sonuca ulaşabilsin.

Kaynaklar

Kararını açıklayabilen, kanıt temelli bir güvenlik yapay zekasıyla çalışmak için DSET ile iletişime geçin. Ankara Hacettepe Teknokent laboratuvarımızdan KAOS ve uzman denetimiyle güvenlik sağlıyoruz.