AI Güvenliği
AI güvenliği, yapay zeka sistemlerinin güvenilir, sağlam, kötüye kullanıma dirençli ve istem dışı zarara yol açmayan şekilde tasarlanmasını ve işletilmesini inceleyen alandır.
Duz Turkce Aciklama
AI güvenliği iki ayrı ama ilişkili kavramı kapsar: birincisi AI güvenilirliği (sistem doğru, tutarlı çalışıyor mu?), ikincisi ise AI'ın kasıtlı kötüye kullanımına karşı koruma (kötü aktörler sistemi zararlı amaçlarla kullanabilir mi?). Pratik örnekler: modelin talimatı güvenli sınırlar içinde yerine getirmesi, kişisel verileri sızdırmaması, jailbreak girişimlerine direnmesi ve yanlış bilgileri otomatik üretmemesi.
Nerede Kullanilir?
Kurumsal AI benimseme, model değerlendirme, düzenleyici uyum (AB Yapay Zeka Yasa'sı gibi) ve AI araştırmaları tartışmalarında merkezi bir konu olarak yer alır.
Ornek
Bir banka, müşteri destek chatbot'unu canlıya almadan önce AI güvenlik denetimi yaptırarak prompt injection saldırılarına karşı dayanıklılığını test etti.