Hızlı cevap: MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), yapay zeka ve makine öğrenmesi sistemlerine yönelik gerçek dünya saldırı taktik ve tekniklerini bir araya getiren bir bilgi tabanıdır. Klasik MITRE ATT&CK'in yapay zekaya uyarlanmış halidir. Veri zehirlenmesinden model çalmaya, kaçınma saldırısından prompt injection'a kadar AI'ya özgü tehditleri taktik ve teknik olarak sınıflandırır. Savunmacılar için AI sistemlerinin tehdit modellemesinde ortak bir dil sağlar.

MITRE ATLAS ne işe yarar?

Geleneksel güvenlik çerçeveleri yapay zekaya özgü saldırıları kapsamaz. Bir modelin eğitim verisinin zehirlenmesi, çıkarım anında kandırılması ya da API üzerinden çalınması, klasik ATT&CK matrisinde tam karşılık bulmaz. ATLAS tam da bu boşluğu doldurur.

ATLAS, AI sistemlerine yönelik saldırıları ATT&CK ile aynı mantıkta düzenler: taktikler (saldırganın amacı) ve teknikler (o amaca ulaşma yolu). Böylece bir kurum, AI sistemini tehdit modellerken hangi saldırıların mümkün olduğunu ortak ve standart bir dille konuşabilir.

ATLAS ile ATT&CK farkı

Konu MITRE ATT&CK MITRE ATLAS
Kapsam Geleneksel BT sistemleri Yapay zeka ve ML sistemleri
Örnek taktik İlk erişim, yanal hareket ML model erişimi, ML saldırı hazırlığı
Örnek teknik Oltalama, kimlik bilgisi çalma Veri zehirleme, kaçınma, model çıkarımı
Amaç BT tehdit modelleme AI tehdit modelleme

ATLAS bağımsız değildir, ATT&CK ile uyumlu ve onu tamamlayan bir yapıdadır. Bir AI sistemine saldırı çoğu zaman hem klasik BT tekniklerini (sunucuya erişim) hem de AI'ya özgü teknikleri (modeli kandırma) birlikte kullanır.

ATLAS'taki başlıca teknik grupları

  • Keşif: Modelin türünü, API'sini ve zayıf noktalarını öğrenme.
  • Veri zehirlenmesi: Eğitim verisine kötü örnekler sokarak modeli bozma.
  • Kaçınma (evasion): Çıkarım anında girdiyi değiştirerek modeli yanıltma.
  • Model çıkarımı ve çalma: API sorgularıyla modeli ya da eğitim verisini geri elde etme.
  • Prompt injection: LLM tabanlı sistemlerde talimatları ele geçirme.

KAOS ve DSET yaklaşımı

DSET, yapay zeka sistemlerinin güvenlik denetiminde MITRE ATLAS'ı bir tehdit modelleme çerçevesi olarak kullanır. Bir AI uygulamasını değerlendirirken, ATLAS taktik ve tekniklerini hedefin gerçek saldırı yüzeyine eşleriz. Geliştirdiğimiz KAOS güvenlik motoru, AI uygulamalarında prompt injection ve veri sızıntısı gibi ATLAS tekniklerini kanıta dayalı test eder. Amacımız teorik bir liste değil, hangi saldırının gerçekten mümkün olduğunu göstermektir.

Bağlantılı okumalar: MITRE ATT&CK çerçevesi, prompt injection ve OWASP LLM Top 10, yapay zeka veri zehirlenmesi, yapay zeka model güvenliği ve model çalma, yapay zeka kırmızı takım metodolojisi, adversarial ML ve kaçınma saldırıları.

Sık sorulan sorular

MITRE ATLAS ile ATT&CK arasındaki fark nedir? ATT&CK geleneksel BT sistemlerine yönelik saldırı taktik ve tekniklerini kapsar. ATLAS ise aynı mantığı yapay zeka ve makine öğrenmesi sistemlerine uyarlar: veri zehirlenmesi, kaçınma, model çalma ve prompt injection gibi AI'ya özgü teknikleri sınıflandırır. İkisi uyumludur ve bir AI saldırısı çoğu zaman ikisini birlikte kullanır.

ATLAS'ı kimler kullanır? ATLAS'ı, yapay zeka sistemi geliştiren ve işleten kurumların güvenlik ekipleri, AI kırmızı takımları ve denetçiler kullanır. AI sistemlerinin tehdit modellemesinde ortak bir dil ve referans sağlar, böylece hangi saldırıların mümkün olduğu standart biçimde konuşulur.

ATLAS bir araç mı yoksa çerçeve mi? ATLAS bir yazılım aracı değil, bir bilgi tabanı ve çerçevedir. Yapay zeka sistemlerine yönelik gerçek dünya saldırılarını taktik ve teknik olarak belgeler. Tehdit modelleme, kırmızı takım planlaması ve savunma önceliklendirmesinde referans olarak kullanılır.

Kaynaklar

Yapay zeka sistemlerinizin MITRE ATLAS temelli tehdit modellemesi ve güvenlik denetimi için Ankara Hacettepe Teknokent'teki ekibimizle görüşebilirsiniz. DSET ile iletişime geçin.