BDDK ve KVKK kapsamında yapay zeka sistemleri için sızma testi ve red team

BDDK'nın bilgi sistemleri düzenlemeleri bankalardan periyodik sızma testi ve düzenli güvenlik değerlendirmesi ister; KVKK'nın 12. maddesi de kişisel veri için uygun teknik tedbirleri şart koşar. Her iki metin de büyük dil modelleri bu kadar yaygınlaşmadan önce kaleme alındı, o yüzden yapay zekadan açıkça söz etmezler.

Buradan kolay bir yanılgıya düşülüyor: "yönetmelikte LLM geçmiyor, demek ki kapsam dışı." Oysa yükümlülük teknolojinin adını değil riski takip eder. Müşteri verisiyle çalışan bir yapay zeka asistanınız varsa, o sistem bugün zaten BDDK'nın bilgi sistemleri güvenliği beklentisinin de KVKK'nın veri güvenliği tedbirlerinin de içinde. Asıl soru onu test edip etmemek değil; bugün yaptırdığınız testin o katmana hiç dokunup dokunmadığı.

İyi bir sızma testi ağı, sunucuları ve web uygulamasını didik didik eder: açık portlar, zafiyetli kütüphaneler, bozuk kimlik doğrulama. Bunlara hâlâ ihtiyacınız var. Ne var ki bir LLM uygulamasının zayıf noktası bambaşka bir yerde durur ve o aletlerin hiçbiri oraya bakmaz.

Prompt injection, RAG belgesi üzerinden dolaylı enjeksiyon, jailbreak, sistem talimatının dışarı sızması, agent'a bağlı araçların amaç dışı kullanımı... Klasik bir tarayıcı bunları yakalamaz, çünkü yakalamak için tasarlanmadı. Sahada şuna benziyor: elinizde tertemiz bir BDDK pentest raporu var, ama Türkçe destek botunuz hâlâ bir müşterinin geçmişini bir başkasına gösterebiliyor. İki test apayrı katmana bakıyor; biri ötekinin yerini tutmuyor.

Bir dil modeli aldığı dile göre davranır; İngilizce reddettiği bir saldırıyı Türkçe varyantında kabul edebilir. Üretim ortamınız Türkçe konuşuyorsa, red team simülasyonunun da Türkçe olması gerekir. Biz adversarial promptları Türkçe üretebiliyoruz ve dili anadili olarak konuşan yerel bir ekiple çalışıyoruz. Detaylı gerekçe için niçin yerel bir AI-SPM kullanmalısınız sayfasına bakabilirsiniz.

1. LLM ve agent katmanı mevcut sızma testi kapsamınıza dahil mi?
2. Prompt injection ve dolaylı enjeksiyon (RAG) test ediliyor mu?
3. Jailbreak ve sistem talimatı sızdırma senaryoları çalıştırılıyor mu?
4. Testler üretim diliyle, yani Türkçe promptlarla yapılıyor mu?
5. Çok kiracılı sistemde kiracı izolasyonu (cross-tenant sızıntı) doğrulanıyor mu?
6. Hassas veri ifşası ve PII sızıntısı kontrol ediliyor mu?
7. Agent araçlarının aşırı yetki ve kötüye kullanımı test ediliyor mu?
8. Testler bir kerelik mi, yoksa model güncellemelerinde tekrarlanıyor mu?
9. Bulgular OWASP LLM Top 10, NIST AI 600-1, EU AI Act ve ISO 42001 kontrollerine eşleniyor mu?
10. Çıktı, BDDK/KVKK denetiminde sunulabilecek izlenebilir bir kayıt mı?

Bu maddelerin çoğuna "hayır" diyorsanız, mevcut güvenlik programınız yapay zeka katmanını kapsamıyor demektir. Tam kontrol listesini ve kapsamı belirlenmiş bir değerlendirmeyi konuşmak için demo talep edebilirsiniz.

Denetime girince işin rengi değişir; orada bulgu değil, denetçinin kabul edeceği kanıt aranır. Penaxtra her bulguyu OWASP LLM Top 10, NIST AI 600-1, EU AI Act ve ISO 42001 gibi çerçevelerin kontrol kimliklerine bağlar. Elinizde kalan şey tek seferlik bir rapor değil; model her güncellendiğinde tazelenen, tarihli ve izi sürülebilir bir kayıt olur. BDDK denetiminde de KVKK incelemesinde de sorulan "ne test edildi, ne kanıtlandı" sorusunun pratikteki cevabı işte bu kayıttır.

Mevcut BDDK sızma testimiz yapay zeka sistemlerini kapsıyor mu?

Genellikle hayır. Klasik sızma testi ağ, sunucu ve web uygulaması katmanına bakar. LLM ve agent katmanındaki prompt injection, jailbreak, veri sızıntısı ve araç kötüye kullanımı bu kapsamın dışında kalır.

Yapay zeka için sızma testi yaptırmak KVKK açısından gerekli mi?

KVKK madde 12 kişisel veri için uygun teknik tedbirler ister. Bir LLM uygulaması kişisel veri işliyorsa, o sistemin güvenlik testi bu tedbir kapsamına girer.

Yapay zeka red team testi neden Türkçe yapılmalı?

Model dile göre farklı davranır. İngilizce reddettiği bir saldırıyı Türkçe varyantında kabul edebilir. Üretim ortamı Türkçe ise red team de Türkçe olmalı ki gerçek risk ortaya çıksın.

Test çıktısı denetimde kullanılabilir mi?

Her bulgu uluslararası çerçevelerin kontrol kimliklerine eşlenir. Bu, BDDK ve KVKK denetimlerinde sunulabilecek izlenebilir, kontrol bazlı kanıt sağlar.