Yapay Zeka Sistemlerinde Karar Verilebilirlik ve Şeffaflık

Modern yapay zekâ sistemleri, özellikle derin öğrenme tabanlı modeller, birçok alanda yüksek doğruluk düzeylerine ulaşmaktadır. Ancak bu başarı, karar alma süreçlerinin büyük ölçüde opak kalması gibi ciddi mühendislik ve etik sorunları da beraberinde getirmektedir. Bir sistemin hangi çıktıyı ürettiğini bilmek artık yeterli değildir; bu çıktıya nasıl ve neden ulaşıldığının anlaşılması giderek daha kritik hâle gelmektedir.

Bu durum, yapay zekâ sistemlerinin yalnızca teknik performans açısından değil, toplumsal etkileri bakımından da yeniden değerlendirilmesini gerekli kılmaktadır.

Çalışmanın Amacı ve Yaklaşımı

Bu çalışma, yapay zekâ sistemlerinde karar üretim süreçlerinin anlaşılabilirliğini merkeze alarak, yorumlanabilirlik problemini hem teknik hem de normatif boyutlarıyla ele almayı amaçlamaktadır. Amaç yalnızca model performansını artırmak değil; aynı zamanda bu sistemlerin insanlar tarafından anlaşılabilir, denetlenebilir ve hesap verebilir biçimde tasarlanmasının olanaklarını tartışmaya açmaktır.

Çalışmanın ilk aşamasında, “kara kutu” olarak tanımlanan makine öğrenmesi ve derin öğrenme modelleri incelenecektir. Bu modellerin içsel temsilleri, karar sınırları ve öznitelik katkıları ele alınarak, neden doğrudan yorumlanmalarının zor olduğu teknik düzeyde analiz edilecektir. Böylece yorumlanabilirlik probleminin yalnızca bir sunum eksikliği değil, model mimarilerinin doğrudan bir sonucu olduğu ortaya konacaktır.

Açıklanabilir Yapay Zekâ (XAI) Yaklaşımları

Ardından, Açıklanabilir Yapay Zekâ (Explainable AI – XAI) alanında geliştirilen güncel yaklaşımlar karşılaştırmalı olarak ele alınacaktır. Modelden bağımsız (model-agnostic) ve modele özgü (model-specific) yöntemler; LIME, SHAP, attention mekanizmaları ve görselleştirme temelli açıklama teknikleri üzerinden değerlendirilecektir.