Hızlı cevap: Yapay zeka tedarik zinciri güvenliği, bir kurumun kullandığı hazır modellerin, veri kümelerinin ve kütüphanelerin kaynağını doğrulamak ve zehirlenmiş ya da zararlı bileşenlere karşı korumaktır. Çoğu kurum modeli sıfırdan eğitmez; internetteki model paylaşım platformlarından hazır model indirir. Ama indirdiğiniz bir model, içine gizli bir arka kapı yerleştirilmiş, belirli bir girdide kasıtlı yanlış karar veren ya da veri sızdıran zararlı bir model olabilir. Kök çözüm, modelin ve veri kümesinin kaynağını (provenance) doğrulamak, imzalı ve güvenilir kaynaklardan almak, indirilen modeli yayına almadan test etmek ve bileşen envanterini (SBOM benzeri) tutmaktır.

Yapay zeka uygulamaları artık büyük ölçüde hazır modeller ve açık kaynak kütüphaneler üzerine kuruluyor. Bu hız büyük bir avantaj ama aynı zamanda yeni bir tedarik zinciri riski: kullandığınız model gerçekte güvenilir mi, nereden geldi ve içinde ne var? Bu yazı, yapay zeka tedarik zinciri riskini ve doğru savunmayı anlatır.

Yapay zeka tedarik zinciri neden risk

Bir yazılım tedarik zincirinde zararlı bir kütüphane nasıl risk oluşturuyorsa, bir yapay zeka tedarik zincirinde de zararlı bir model ya da veri kümesi aynı riski oluşturur. Fark, bir modelin içinin bir kütüphane kadar kolay denetlenememesidir: bir modelin ağırlıkları anlaşılması zor sayılardır ve içine gizlenmiş bir arka kapı, dışarıdan görünmez. Bu yüzden model, kaynağı doğrulanmadan güvenilmemelidir. Bu, tedarik zinciri ve üçüncü taraf riskinin yapay zekaya özgü halidir.

Yapay zeka tedarik zinciri riskleri

Risk Ne yapıyor Sonuç
Zararlı model Gizli arka kapı ya da tetikleyici Belirli girdide kasıtlı yanlış karar
Zehirli veri kümesi Bozuk eğitim verisi Model baştan yanlış öğrenir
Sahte model Güvenilir modelin taklidi Güvenerek zararlı bileşen alma
Zafiyetli kütüphane Bilinen açıklı bağımlılık Hat içi kod çalıştırma
Kaynak belirsizliği Modelin geçmişi bilinmiyor Denetlenemez risk

Zehirli veri kümesi, veri zehirlenmesi ile aynı sonuca yol açar ama tedarik zinciri üzerinden gelir: siz zehirlemeseniz de, hazır aldığınız veri zaten zehirlenmiş olabilir.

Provenance, kaynağı doğrulamak

Yapay zeka tedarik zinciri güvenliğinin temeli, bir modelin ve veri kümesinin nereden geldiğini, kimin ürettiğini ve nasıl değiştirildiğini bilmektir. Buna provenance denir. Kaynağı belirsiz bir model, denetlenemez bir risktir. Modeller ve veri kümeleri, imzalı ve güvenilir kaynaklardan alınmalı, bütünlükleri doğrulanmalı ve geçmişleri kaydedilmelidir. Bu, CI/CD tedarik zinciri bütünlüğünün yapay zeka bileşenlerine uzanmasıdır.

Doğru savunma

1. Kaynağı doğrula

Modeller ve veri kümeleri yalnızca güvenilir ve imzalı kaynaklardan alınmalı, bütünlükleri sağlama toplamıyla doğrulanmalıdır. Kaynağı bilinmeyen bileşen kullanılmamalıdır.

2. İndirileni test et

Hazır bir model yayına alınmadan önce, beklenmedik davranış ve gizli tetikleyiciler açısından test edilmelidir. Bir model kutu içinde gelen bir yazılım gibi ele alınmalıdır.

3. Bileşen envanteri tut

Kullanılan tüm modeller, veri kümeleri ve kütüphaneler bir envanterde tutulmalı; bir bileşende bir zafiyet çıktığında hangi sistemlerin etkilendiği hızla görülebilmelidir. Bu, yazılım bileşen analiziyle (SCA) aynı mantığa dayanır.

4. En az yetki ve izolasyon

Bir modelin erişebildiği veri ve sistem, en aza indirilmelidir. Zararlı bir model bile, yetkisi kısıtlıysa sınırlı zarar verir.

KAOS ve DSET yaklaşımı

DSET, yapay zeka tedarik zincirinizi kaynak doğrulama, zararlı model ve zafiyetli bağımlılık açısından kanıt temelli değerlendirir. Yerel yapay zekâ motoru KAOS, kullanılan modelleri ve bileşenleri çıkarır, beklenmedik davranış ve gizli tetikleyici açısından test eder ve bir bileşenin gerçekten risk oluşturup oluşturmadığını doğrular. KAOS çevrim dışı çalıştığı için modelleriniz ve verileriniz değerlendirme sırasında dışarı gönderilmez. Sonuç, yapay zeka bileşenlerinizin gerçek güvenlik durumudur.

Sık sorulan sorular

İndirdiğim bir model gerçekten zararlı olabilir mi? Evet. Bir modelin içine, belirli bir girdide kasıtlı yanlış karar veren gizli bir tetikleyici (arka kapı) yerleştirilebilir ve bu dışarıdan görünmez. Bu yüzden model, kaynağı doğrulanmadan ve test edilmeden yayına alınmamalıdır.

Modelin içini nasıl denetlerim? Bir modelin ağırlıklarını doğrudan okumak zordur, ama davranışını test edebilirsiniz: beklenmedik girdilerde nasıl davrandığını, gizli tetikleyicilere tepkisini ve gereğinden fazla veri sızdırıp sızdırmadığını sınayabilirsiniz. Kaynağın imzalı ve güvenilir olması da temel bir güvencedir.

SBOM yapay zeka için de geçerli mi? Evet. Yazılım bileşen envanteri (SBOM) mantığı, yapay zeka bileşenlerine de uzanır: kullandığınız modelleri, veri kümelerini ve kütüphaneleri bir envanterde tutmak, bir zafiyet çıktığında etkilenen sistemleri hızla bulmanızı sağlar.

Kaynaklar

Yapay zeka tedarik zincirinizi kaynak doğrulama ve zararlı model açısından çalışan bir kanıtla değerlendirmek için DSET ile iletişime geçin. Ankara Hacettepe Teknokent laboratuvarımızdan KAOS ve uzman denetimiyle güvenlik sağlıyoruz.