Önyargı (Bias)
Yapay zekada önyargı, eğitim verisindeki dengesizlikler veya model tasarımı nedeniyle sistemin belirli grup ya da bağlamlara karşı sistematik hatalı veya adaletsiz sonuçlar üretmesidir.
Duz Turkce Aciklama
AI sistemleri, eğitildikleri verideki önyargıları öğrenip güçlendirir. Örneğin yalnızca erkek yöneticilerin fotoğraflarıyla eğitilmiş bir yüz tanıma sistemi kadın yöneticileri tanımakta zorlanabilir; ya da işe alım modeli tarihsel cinsiyet önyargısını veri üzerinden devraldığı için erkek adayları sistematik olarak üst sıralara yerleştirebilir. Önyargıyı tamamen ortadan kaldırmak güçtür; amaç ölçmek ve minimize etmektir.
Nerede Kullanilir?
Model değerlendirme, veri kalitesi denetimi ve AI etik değerlendirmelerinde temel bir konu olarak incelenir. İşe alım, finans ve sağlık gibi yüksek etkili alanlarda yasal risk de oluşturabilir.
Ornek
Bir araştırma ekibi, bir kredi puanlama modelinin benzer mali profil taşıyan farklı etnik gruplar arasında anlamlı ölçüde farklı onaylama oranları ürettiğini tespit ederek önyargı düzeltme sürecini başlattı.