Hızlı cevap: Yapay zeka chatbot güvenliği, müşteriyle konuşan yapay zeka sohbet botlarını manipülasyon, veri sızıntısı ve kötüye kullanıma karşı korumaktır. Bir chatbot herkese açık olduğu için, saldırgan da müşteri gibi onunla konuşabilir; bu yüzden en geniş ve en denetimsiz saldırı yüzeylerinden biridir. En sık riskler şunlardır: prompt injection ile botu kural dışı davranmaya zorlama, botun erişebildiği sistemlerden hassas veri sızdırma, botu marka adına zararlı ya da yanlış beyanlar verdirme ve botu bir kaynak tüketme aracına çevirme. Kök çözüm, botun gizli talimatını ve müşteri girdisini net ayırmak, botun erişebildiği veri ve işlemleri en aza indirmek, çıktıyı denetlemek ve hassas eylemleri insan onayına ya da güvenli bir sürece bağlamaktır.

Şirketler müşteri hizmetini, satışı ve desteği giderek daha çok yapay zeka sohbet botlarına devrediyor. Bu botlar herkese açık olduğu için, hem müşterinin hem saldırganın konuşabildiği bir kapıdır. Bu yazı, müşteri yüzlü yapay zeka chatbotlarının güvenlik risklerini ve doğru savunmayı anlatır.

Chatbot neden geniş bir saldırı yüzeyi

Bir chatbot, tanımı gereği herkese açıktır ve serbest metin girdisi kabul eder. Bu, saldırgan için ideal bir giriş noktasıdır: kayıt olmaya ya da bir açığı sömürmeye gerek yok, yalnızca botla konuşmak yeter. Ayrıca chatbotlar çoğu zaman arka uçtaki sistemlere (müşteri verisi, sipariş, ödeme) bağlıdır; bu bağlantı, botu değerli bir hedef yapar. Botu kandırmayı başaran bir saldırgan, arka uçtaki veriye ya da işleme ulaşabilir.

En sık chatbot riskleri

Risk Ne yapıyor Sonuç
Prompt injection Botu kural dışı davranmaya zorlar Gizli talimat sızması, kötü eylem
Veri sızıntısı Bota bağlı veriden hassas bilgi çıkarma Müşteri verisi ifşası
Marka zararı Botu yanlış ya da zararlı beyan verdirme İtibar ve yasal risk
Aşırı yetki Botun hassas işlemi yapması Yetkisiz sipariş, iade, erişim
Kaynak tüketimi Botu sınırsız sorguyla yorma Hizmet dışı bırakma

Bu risklerin çoğu, prompt injection ile başlar: müşteri girdisine gizlenmiş bir talimat, botu gizli talimatını ezip istenmeyen bir davranışa yönlendirir.

Veri sızıntısı ve marka riski

Bir chatbotun en sinsi riski, arka uca bağlı olduğu için hassas veri sızdırabilmesidir. Dikkatli hazırlanmış sorularla, bir saldırgan botun erişebildiği müşteri verisini ya da iş bilgisini çıkarabilir. Ayrıca bir bot, marka adına konuştuğu için, kandırıldığında yanlış ya da zararlı beyanlar verebilir; bu, itibar ve yasal sorumluluk doğurur. Botun erişebildiği veri, tıpkı OWASP API Security Top 10 kapsamında olduğu gibi, en aza indirilmelidir.

Doğru savunma

1. Talimat ve girdiyi ayır

Botun gizli sistem talimatı, müşteri girdisinden net biçimde ayrılmalı ve müşteri girdisi bir komut değil, veri olarak ele alınmalıdır. Bu, prompt injection savunmasının temelidir.

2. Erişimi en aza indir

Botun erişebildiği veri ve işlem en aza indirilmelidir. Bot yalnızca gereken bilgiye, yalnızca gereken işlem için erişmelidir. Hassas işlemler bota tek başına bırakılmamalıdır.

3. Çıktıyı denetle

Botun çıktısı, hassas veri ve zararlı içerik açısından denetlenmelidir. Gizli sistem talimatının ya da başka müşterinin verisinin çıktıya sızmaması sağlanmalıdır.

4. Hassas eylemi güvenli sürece bağla

Sipariş iptali, iade, erişim değişikliği gibi hassas eylemler, botun tek başına yaptığı bir işlem değil, insan onayı ya da güvenli bir süreçle doğrulanan bir eylem olmalıdır.

KAOS ve DSET yaklaşımı

DSET, müşteri yüzlü yapay zeka chatbotlarınızı kanıt temelli test eder. Yerel yapay zekâ motoru KAOS, prompt injection ve veri sızıntısı vektörlerini dener, botun gizli talimatını sızdırıp sızdırmadığını ve arka uçtaki hassas veriye ulaşıp ulaşamadığını kontrollü biçimde doğrular. Yalnızca gerçekten istismar edilebilir bulguyu, yanlış pozitif gürültüsü olmadan raporlar. KAOS çevrim dışı çalıştığı için değerlendirme sırasında müşteri veriniz dışarı gönderilmez, bu da KVKK uyumu için önemlidir.

Sık sorulan sorular

Chatbotum yalnızca sınırlı bir konuda konuşuyor, güvende mi? Sınırlı bir kapsam iyidir ama tek başına yeterli değildir. Saldırgan, prompt injection ile botu kapsamının dışına çıkmaya zorlayabilir ya da arka uca bağlı veriden hassas bilgi çıkarmaya çalışabilir. Botun erişimi en aza indirilmeli ve çıktısı denetlenmelidir.

Botum müşteri verisine erişiyor, bu risk mi? Evet, arka uca bağlı bir bot değerli bir hedeftir. Saldırgan botu kandırarak bu veriye ulaşmaya çalışabilir. Botun erişebildiği veri en aza indirilmeli, hassas işlemler insan onayına bağlanmalı ve çıktı sızıntıya karşı denetlenmelidir.

Bir chatbot marka için yasal risk oluşturur mu? Evet. Bir bot marka adına konuştuğu için, kandırıldığında yanlış ya da zararlı beyanlar verebilir ve bu itibar ile yasal sorumluluk doğurabilir. Bu yüzden botun çıktısı denetlenmeli ve hassas beyanlar için sınırlar konmalıdır.

Kaynaklar

Müşteri yüzlü yapay zeka chatbotunuzu prompt injection ve veri sızıntısı açısından çalışan bir kanıtla test ettirmek için DSET ile iletişime geçin. Ankara Hacettepe Teknokent laboratuvarımızdan KAOS ve uzman denetimiyle güvenlik sağlıyoruz.