Şirketler Yapay Zekâ Kullanırken Nelere Dikkat Etmeli? 12 Maddede Kurumsal AI Risk ve Güvenlik Rehberi

Hızlı Cevap: Yapay zekâyı işine katan bir şirket, üretkenlik kazanırken aynı anda yeni bir risk sınıfını da içeri alır. En kritik on iki başlık şudur: gölge yapay zekâ ve veri sızıntısı, hassas veriyi modele girme, prompt injection, sistem prompt sızıntısı, yapay zekâ tedarik zinciri, aşırı yetki, halüsinasyon, insan gözetimi eksikliği, telif ve fikri mülkiyet, önyargı, üçüncü taraf riski ve en tepede yönetişim boşluğu. Bu yazı her maddeyi gerçek vaka ve resmî kaynakla açıklar, her biri için somut önlemi verir. Tek cümleyle: yapay zekâyı bir yetenek değil, yönetilmesi gereken bir tedarikçi ve bir saldırı yüzeyi gibi ele alın.

Şubat 2024'te British Columbia mahkemesi tarihî bir karar verdi. Air Canada'nın web sitesindeki chatbot, bir yolcuya yas indirimini sonradan talep edebileceğini söylemişti; bu bilgi yanlıştı. Şirket mahkemede "chatbot ayrı bir tüzel kişidir, kendi sözlerinden kendisi sorumludur" savunmasını yaptı. Mahkeme bunu reddetti ve Air Canada'yı kendi yapay zekâsının verdiği yanlış bilgiden sorumlu tuttu (Moffatt v. Air Canada, 2024 BCCRT 149). Mesaj nettir: şirketinizin yapay zekâsı ne söylerse, onu şirketiniz söylemiş sayılır.

Aynı yıllarda Samsung mühendisleri gizli kaynak kodunu ve bir iç toplantının notlarını ChatGPT'ye yapıştırdı; Samsung üretken yapay zekâ araçlarını kurum cihazlarında yasakladı (Bloomberg, Mayıs 2023). İki avukat ChatGPT'nin uydurduğu altı sahte mahkeme kararını dilekçeye koydu ve para cezası aldı (Mata v. Avianca, 2023). Tablo bir paradoksu gösterir: McKinsey'e göre kuruluşların yüzde 78'i yapay zekâyı en az bir iş fonksiyonunda kullanıyor, ama ISACA araştırması yalnızca yüzde 31'inin kapsamlı bir yapay zekâ politikası olduğunu söylüyor. IBM'in 2025 raporunda ihlal yaşayan kuruluşların yüzde 63'ünün hiçbir yapay zekâ yönetişim politikası yoktu. İşte bu boşluk, en pahalı hataların doğduğu yerdir.

Bu bülten, Yapay Zekâ Kullanan Şirketler İçin Yol Haritası: EU AI Act Madde 4 yazımızın devamıdır. İlki uyumun yasal çerçevesini anlatıyordu; bu ikincisi sahada nelere dikkat edeceğinizi madde madde, kaynaklı biçimde önünüze koyuyor.

Veri ve Gizlilik

1. Gölge yapay zekâ ve veri sızıntısı

Çalışanlar, kurumun haberi olmadan kişisel ChatGPT hesaplarına şirket verisi yapıştırır. Buna gölge yapay zekâ denir ve en yaygın sızıntı kapısıdır. Cyberhaven'ın 1,6 milyon çalışan üzerindeki ölçümünde, çalışanların yüzde 8,6'sı şirket verisini ChatGPT'ye yapıştırmış, yüzde 4,7'si en az bir kez gizli veri girmiştir; araçlara yapıştırılan verinin yüzde 11'i gizli niteliktedir. IBM'in 2025 Veri İhlali Maliyeti Raporu ise gölge yapay zekâya bağlı ihlallerin ortalama 4,63 milyon dolara mal olduğunu, bunun gölge yapay zekâsız ihlallerden yaklaşık 670 bin dolar daha pahalı olduğunu ve ihlallerin beşte birinin gölge yapay zekâ kaynaklı olduğunu gösteriyor.

Ne yapmalı: Onaylı bir kurumsal yapay zekâ aracı sunun ki çalışan gizlice kişisel hesaba kaçmasın. Kurumsal sürümlerde veri saklama ve eğitime kullanmama ayarlarını açın. Veri sızıntısı önleme (DLP) araçlarıyla yapay zekâ alanlarına giden gizli içeriği izleyin. Net bir kullanım politikası yayınlayın.

2. Hangi veriyi modele girebilirsiniz

Her veri yapay zekâya verilemez. Müşteri kişisel verileri, sağlık ve finans bilgileri, kaynak kodu, sözleşmeler ve ticari sırlar kontrolsüz biçimde harici bir modele girilmemelidir. İtalya veri koruma otoritesi Garante, 2023'te ChatGPT'yi geçici olarak yasakladı ve Aralık 2024'te OpenAI'a aynı soruşturmadan 15 milyon avro ceza kesti. Türkiye'de KVKK konuyu yakından takip ediyor: 15 soruda üretken yapay zekâ rehberini (Kasım 2025) ve doğrudan iş yerlerinde üretken yapay zekâ araçlarının kullanımına dair bir rehberi (Mart 2026) yayımladı. KVKK ile GDPR'ın temel ilkeleri, başta veri minimizasyonu ve hukuki dayanak olmak üzere yapay zekâ için de geçerlidir.

Ne yapmalı: Bir girdi kuralları tablosu oluşturun: hangi veri sınıfı hangi araca girilebilir, hangisi asla giremez. Kişisel veri içeren süreçlerde veri minimizasyonu uygulayın, mümkünse anonimleştirin. Yüksek riskli kullanımda veri koruma etki değerlendirmesi (DPIA) yapın. Detaylı girdi kuralları için EU AI Act yol haritası yazımızdaki tabloyu kullanabilirsiniz.

3. Hukuki dayanak ve saklama

Yapay zekâ ile işlenen her kişisel veride bir hukuki dayanağa ihtiyaç vardır. Modelin girdiğiniz veriyi nerede sakladığı, ne kadar süre tuttuğu ve eğitime kullanıp kullanmadığı sözleşmeyle netleşmelidir.

Ne yapmalı: Tedarikçiyle veri işleme sözleşmesi (DPA) imzalayın. Verinin yurt dışına aktarımını ve saklama süresini denetleyin. Eğitime kullanılmama taahhüdünü yazılı alın.

Güvenlik: OWASP LLM İlk 10 Riski

Yapay zekâ uygulamaları klasik yazılımdan farklı saldırılara açıktır. OWASP, 2025 sürümünde büyük dil modeli uygulamaları için ilk 10 riski yayımladı. Aşağıdaki maddeler bu listenin kurumsal karşılığıdır.

4. Prompt injection

OWASP'ın 2025 listesinde birinci sıradaki risktir (LLM01). Saldırgan, modelin davranışını istenmeyen yönde değiştiren komutlar enjekte eder. Doğrudan prompt injection'da kullanıcı modele "önceki tüm talimatları yok say" der. Daha sinsi olan dolaylı prompt injection'da model bir belgeyi, web sayfasını ya da e-postayı okur ve içine gizlenmiş kötü niyetli talimatı çalıştırır. 2025'te Microsoft 365 Copilot üzerinde belgelenen EchoLeak saldırısı, sadece özenle hazırlanmış bir e-postayla, kullanıcının hiçbir tıklaması olmadan kurumsal yapay zekâ asistanından veri sızdırılabileceğini gösterdi. SQL injection'ın aksine prompt injection şema doğrulamasıyla güvenilir biçimde engellenemez, çünkü doğal dil esnektir.

Ne yapmalı: Modelin erişebildiği veriyi ve yapabildiği eylemi sınırlayın. Harici içerikle gelen talimatları güvenilmez kabul edin. Çıktıyı bir sisteme aktarmadan önce doğrulayın. Kapsamlı saldırı yüzeyi için otonom yapay zekâ ajanı güvenliği yazımıza bakın.

5. Hassas bilgi ifşası ve sistem prompt sızıntısı

Modeller, eğitim verisinden ya da bağlamdan sızan gizli bilgiyi yanıtlarına taşıyabilir (LLM02). 2025 listesine yeni eklenen sistem prompt sızıntısı (LLM07), uygulamanın gizli sistem talimatlarının ve içindeki anahtar, parola ya da iş kuralının açığa çıkmasıdır.

Ne yapmalı: Sistem promptuna asla sır, anahtar ya da parola koymayın. Gizli yetkilendirmeyi modelin dışında, gerçek erişim kontrolüyle yönetin. Yanıtları gizli veri sızıntısına karşı filtreleyin.

6. Yapay zekâ tedarik zinciri

Açık kaynak modeller, eklentiler ve veri setleri bir tedarik zinciridir ve zehirlenebilir (LLM03, LLM04). 2026'da bir OpenAI sürümü gibi görünen kötü niyetli bir Hugging Face deposu, kaldırılmadan önce 244 bin indirmeye ulaştı ve bilgi çalan zararlı yazılım dağıttı (CSO Online). Daha önce de Pickle dosyalarındaki güvenlik açığı nedeniyle Hugging Face üzerinde yüzden fazla zararlı model bulunmuştu. Yapay zekâ kodlama asistanlarının uydurduğu paket adlarını saldırganların kötü amaçlı yükle kaydetmesi, slopsquatting olarak bilinir.

Ne yapmalı: Model ve kütüphane kaynağını doğrulayın, imza ve bütünlük kontrolü yapın. Üçüncü taraf modelleri izole ortamda test edin. Bağımlılıkları tarayın. CISA ve İngiltere NCSC'nin 21 kurumla birlikte Kasım 2023'te yayımladığı Güvenli Yapay Zekâ Sistem Geliştirme Kılavuzu iyi bir temeldir.

7. Aşırı yetki ve güvensiz çıktı işleme

Bir yapay zekâ ajanına gereğinden fazla yetki vermek, OWASP'ın aşırı yetki riskidir (LLM06): model e-posta gönderebiliyor, dosya silebiliyor ya da ödeme yapabiliyorsa, bir prompt injection bu yetkileri saldırgana açar. Modelin ürettiği çıktının doğrulanmadan bir koda, sorguya ya da komuta aktarılması ise güvensiz çıktı işlemedir (LLM05).

Ne yapmalı: En az yetki ilkesini uygulayın; ajan yalnızca işini yapacak kadar yetkiye sahip olsun. Yüksek etkili eylemler için insan onayı şart koşun. Model çıktısını her zaman güvenilmez girdi gibi doğrulayın.

Doğruluk ve Sorumluluk

8. Halüsinasyon ve yanlış bilgi

Büyük dil modelleri, var olmayan bir bilgiyi kendinden emin biçimde uydurabilir; OWASP buna yanlış bilgi der (LLM09). Air Canada davası bunun kurumsal bedelini gösterdi. Avukatların ChatGPT'nin uydurduğu sahte kararları dilekçeye koyması da öyle; orada asıl ceza, yapay zekâ kullanmaktan değil, çıktıyı doğrulamadan kullanmaktan ve uyarıldıktan sonra geri çekmemekten geldi.

Ne yapmalı: Müşteriye ya da mahkemeye giden hiçbir yapay zekâ çıktısını insan doğrulaması olmadan yayınlamayın. Modeli kaynak göstermeye zorlayın, kaynağı kontrol edin. Yapay zekâ ajanlarının halüsinasyonunu ölçmenin neden şart olduğunu yapay zekâ adli ajanlar ve halüsinasyon yazımızda anlattık.

9. İnsan gözetimi

EU AI Act'in 14. maddesi, yüksek riskli yapay zekâ sistemlerinin bir gerçek kişi tarafından etkili biçimde gözetilebilecek şekilde tasarlanmasını yasal olarak zorunlu kılar. Bu kişi sistemin sınırlarını anlamalı, otomasyon yanlılığına, yani yapay zekâ çıktısına körü körüne güvenmeye karşı uyanık olmalı ve gerektiğinde çıktıyı dikkate almama ya da sistemi hiç kullanmama kararı verebilmelidir.

Ne yapmalı: Yüksek etkili kararlarda insanı döngüde tutun. Onay, geçersiz kılma ve eskalasyon noktalarını yazılı tanımlayın. Personeli otomasyon yanlılığına karşı eğitin.

Hukuk, Fikri Mülkiyet ve Adalet

10. Telif ve fikri mülkiyet

Yapay zekâ hem girdi hem çıktı tarafında telif riski taşır. The New York Times, modellerinin milyonlarca makalesiyle eğitildiği iddiasıyla OpenAI ve Microsoft'a dava açtı; mahkeme Nisan 2025'te davanın esastan görülmesine karar verdi. Çıktı tarafında ise ABD Telif Ofisi, telif için insan yaratıcılığının zorunlu olduğunu, tamamen yapay zekâ tarafından üretilen metin, görsel ya da kodun telif korumasına girmediğini yineledi (Ocak 2025). Yani tümüyle yapay zekâ ürettiği bir kurumsal içerik sizin mülkiyetinizde olmayabilir.

Ne yapmalı: Yapay zekâ çıktısının eğitim verisi telifini ihlal etmediğini denetleyin. Ticari değeri olan içerik ve kodda anlamlı insan katkısı bırakın. Tedarikçinin telif tazminat taahhüdünü sözleşmeye ekleyin.

11. Önyargı ve ayrımcılık

Yapay zekâ, eğitim verisindeki önyargıyı ölçekte tekrarlar. ABD'de iTutorGroup, işe alım yazılımını 55 yaş üstü kadın ve 60 yaş üstü erkek adayları otomatik reddedecek şekilde programladı; 200'den fazla nitelikli adayı eledi ve EEOC'nin ilk yapay zekâ kaynaklı ayrımcılık davasını 365 bin dolara uzlaşmayla kapattı (2023).

Ne yapmalı: İşe alım, kredi, sigorta gibi insanları etkileyen kararlarda modeli yanlılık açısından test edin. Kararların gerekçesini açıklayabilir tutun. Ayrımcılık denetimini düzenli yapın.

Yönetişim: Tüm Bunları Bir Arada Tutan Çerçeve

12. Yönetişim boşluğunu kapatın

Yukarıdaki on bir maddenin tek panzehiri bir yönetişim çerçevesidir. IBM 2025 raporunda ihlal yaşayanların yüzde 63'ünün yapay zekâ yönetişim politikası yoktu; yapay zekâ modeli ihlali bildirenlerin yüzde 97'sinde düzgün yapay zekâ erişim kontrolü eksikti. Üç olgunlaşmış çerçeve bu boşluğu kapatır: ABD'nin NIST Yapay Zekâ Risk Yönetimi Çerçevesi dört işlevle çalışır, Yönet, Eşle, Ölç ve Yönetimini Yap; ISO/IEC 42001:2023 sertifikalandırılabilir bir yapay zekâ yönetim sistemi standardıdır; EU AI Act ise yasal zemini kurar.

Ne yapmalı: Bir yapay zekâ kullanım envanteri çıkarın, her kullanımı risk seviyesine göre sınıflandırın. Bir yapay zekâ politikası yayınlayın, sahiplik ve sorumluluğu atayın. NIST AI RMF ya da ISO 42001'i referans alın. Personele yapay zekâ okuryazarlığı eğitimi verin; bu EU AI Act Madde 4 ile zaten zorunludur. Uyum ve risk çerçevesinin ayrıntısını NIST AI RMF, ISO 42001 ve EU AI Act risk yönetimi yazımızda bulabilirsiniz.

Hızlı Kontrol Listesi

Yarın sabah başlayabileceğiniz on iki adım:

  1. Onaylı kurumsal yapay zekâ aracı sunun, kişisel hesap kullanımını kapatın.
  2. Girdi kuralları tablosu yayınlayın: hangi veri nereye girer.
  3. Tedarikçiyle veri işleme sözleşmesi imzalayın, eğitime kullanılmama taahhüdü alın.
  4. Modelin erişim ve eylem yetkisini en aza indirin.
  5. Harici içerikten gelen talimatı güvenilmez sayın, prompt injection'a karşı test edin.
  6. Sistem promptundan tüm sır ve anahtarı çıkarın.
  7. Üçüncü taraf model ve paketleri imzayla doğrulayın, izole test edin.
  8. Müşteriye giden yapay zekâ çıktısına insan doğrulaması zorunlu kılın.
  9. Yüksek etkili kararlarda insanı döngüde tutun.
  10. Yapay zekâ çıktısının telif ve mülkiyet durumunu denetleyin.
  11. İnsanları etkileyen kararlarda önyargı testi yapın.
  12. Bir yapay zekâ politikası ve envanteri oluşturun, NIST AI RMF ya da ISO 42001'i referans alın.

DSET Olarak Ne Yapıyoruz

DSET, yapay zekâ güvenliğini hem savunma hem saldırı tarafından ele alır. Yerli otonom motorumuz KAOS, kurumsal sistemleri yapay zekâ destekli biçimde tarar. Yapay zekâ kırmızı takım hizmetimizle model ve ajanlarınızı prompt injection, veri sızdırma ve aşırı yetki açısından test ederiz. Halüsinasyon ve aldatmaya direnci ölçen DSET Forensics Benchmark, yapay zekâ ajanlarının dürüstlüğünü kanıtlanabilir kılar. Bütünsel bir bakış için yapay zekâ güvenliği rehberimize göz atın.

Sıkça Sorulan Sorular

Çalışanların ChatGPT kullanmasını tamamen yasaklamalı mıyım? Hayır, yasak çoğu zaman gölge yapay zekâyı artırır. Onaylı bir kurumsal araç sunmak, net kural koymak ve veri sızıntısını izlemek yasaktan daha etkilidir.

Yapay zekâ çıktısı yüzünden şirketim sorumlu tutulabilir mi? Evet. Air Canada davası, şirketin kendi chatbotunun verdiği yanlış bilgiden sorumlu olduğunu teyit etti.

Tümüyle yapay zekânın ürettiği içeriğin telifi bende mi? Çoğu durumda hayır. ABD Telif Ofisi, telif için insan yaratıcılığını zorunlu görür; salt yapay zekâ üretimi korunmaz.

Küçük bir şirketim, yine de yönetişim gerekli mi? Evet. Politika bir sayfayla başlayabilir, ama envanter, girdi kuralları ve insan doğrulaması her ölçek için gereklidir.

Nereden başlamalıyım? Yapay zekâ kullanım envanteri ve girdi kuralları tablosuyla başlayın, ardından EU AI Act Madde 4 okuryazarlık eğitimini planlayın.

Kaynaklar

Şirketinizin yapay zekâ kullanımını güvenli ve uyumlu hale getirmek için DSET ile iletişime geçin ya da yapay zekâ güvenliği rehberini inceleyin.