Akademik Veri Yönetim Sistemi
9 th International Conference on Computer Science and Engineering (UBMK 2024), Antalya, Türkiye, 26 - 28 Ekim 2024, ss.310-315
Yapay zekâ (YZ), hayatımızın birçok alanında
devrim niteliğinde değişimlere sebep olmuştur. Son yıllarda ortaya atılan
özellikle derin öğrenme temelli modelleri, tahmin performansına odaklanarak
karar verme süreçlerinin ve çalışma mekanizmalarının anlaşılması zor karmaşık
kara kutu algoritmalarına dönüşmüştür. Kara kutu problemi, YZ sistemlerinin
toplumsal kabulü, adil ve etik kullanımı açısından birtakım sorunlara yol
açmaktadır. Bu sorunları ele almak ve YZ modellerine olan güveni artırmak için
Açıklanabilir Yapay Zekâ (AYZ) fikri ortaya atılmıştır. AYZ, YZ'nin
şeffaflığını, güvenilirliğini ve adilliğini artırarak teknik olmayan
kullanıcıların bile YZ modellerinin işleyişini ve kararlarını kolaylıkla
anlayacakları bir altyapı oluşturmayı hedeflemektedir. AYZ, son yıllarda YZ alanında
popüler bir araştırma konusu haline gelmiştir. Bu çalışmada gelişen AYZ alanı
genel olarak incelenmiş, farklı açılardan değerlendirilmiş ve ayrıntılı bir
tanım, teknik ve terminoloji açıklaması bir araya getirilmiştir. Bu çalışma ile
AYZ alanının farklı açılardan değerlendirmesini sunarak daha güvenli, adil ve
şeffaf AYZ tekniklerinin geliştirilmesinde araştırmacılara yol gösterici
olmasını umuyoruz.