KVKK Kapsamında Yapay Zeka Güvenliği: LLM Sistemleri Nasıl Test Edilir?

Kanun metninde bu yönde bir ifade yer almaz; aksini iddia eden değerlendirmelere ihtiyatla yaklaşılmalıdır. KVKK 12. madde, veri sorumlusundan hukuka aykırı işleme ve erişimi önleyecek uygun teknik ve idari tedbirleri almasını ve bu tedbirleri denetlemesini ister. Kişisel veriyi işleyen sistem bir LLM uygulaması olduğunda - müşteri kayıtlarını okuyan bir destek asistanı, İK belgelerini indeksleyen bir RAG uygulaması - yapay zekaya özgü zafiyet sınıfları doğrudan KVKK kapsamına girer: başka bir müşterinin kaydının prompt injection yoluyla elde edilmesi hukuka aykırı erişim, model yanıtında TC Kimlik numarasının açığa çıkması teknik tedbir eksikliği anlamına gelir.

Geleneksel güvenlik testleri bu zafiyet sınıflarını kapsamaz. Bir ağ sızma testi, LLM tabanlı asistana Türkçe prompt injection denemesi içermez; bir kod incelemesi, farklı bir müşteriye ait belgeyi döndüren RAG yapılandırmasını tespit etmez. Yıllık sızma testi ile modelin kişisel veri üzerindeki gerçek davranışının test edilmesi arasındaki fark, KVKK riskinin biriktiği temel alandır.

Yükümlülüğü karşılayan tedbir, yapay zeka yüzeyinin düzenli aralıklarla adversarial yöntemlerle test edilmesi ve sonuçların denetlenebilir kanıt olarak kayıt altına alınmasıdır. Zamanlanmış problar kişisel veri elde etmeyi dener - doğrudan injection, getirilen belgeler üzerinden dolaylı injection, kiracılar arası RAG erişimi - ve testler hem İngilizce hem Türkçe yürütülür. Dil boyutu teknik bir gerekliliktir: Türkçe hizmet veren bir model, İngilizce reddettiği bir saldırının Türkçe kurgulanmış varyantını kabul edebilir. Bulgular bağımsız değerlendiricilerce puanlanır; tarih, prob içeriği ve giderme durumu ile birlikte değiştirilemez (append-only) denetim kütüğüne işlenir.

Çalışma anı katmanı da yükümlülüğün parçasıdır: Türkiye'ye özgü kişisel veri desenlerini (algoritma doğrulamalı TC Kimlik, IBAN, GSM numaraları) trafik üzerinde maskeleyen ve kurum ağı içinde barındırılan bir gateway, gösterilebilir bir teknik tedbir oluşturur. Gateway'in blok kayıtları, tedbirin kesintisiz işlediğine dair tarihli kanıt sağlar; KVKK denetimlerinde ve VERBİS kayıtlı veri sorumlularının iç incelemelerinde aranan kanıt niteliği budur.

Kişisel veri elde etme problarından gelen bulgular, tarih ve giderme geçmişiyle birlikte kayıt altına alınır. Bu kayıtlar veri sorumlusuna, LLM yüzeyine ilişkin teknik tedbirlerin mevcut olduğuna ve düzenli olarak test edildiğine dair somut ve incelenebilir kanıt sağlar; 12. madde uyum pozisyonunun dayanağını oluşturur. Bankalarda aynı test sonuçları BDDK bilgi sistemleri denetim dosyasını da besler; ayrıntı için aşağıdaki BDDK sayfasına başvurabilirsiniz.