Algoritmik Adalet (Fairness): AI'da Ayrımcılık Tartışması

"Tarafsız" model bir mit

Bir AI sistemi tarafsız olabilir mi? Cevap: hayır.

Sebep: model veriden öğrenir. Veri tarihsel ayrımcılığı taşır.

Örnekler:

• COMPAS (suçluluk tahmini): siyahlara karşı bias'lı (ProPublica 2016 araştırması).
• Amazon işe alım AI: kadınlara karşı bias'lı, terkedildi (2018).
• Yüz tanıma: koyu tenlilerde yanlış oran yüksek.
• Sağlık AI: siyah hastalara daha az tedavi öneriyor.

Bias kaynakları

1. Historical bias

Geçmiş toplumsal eşitsizlik verisinde.

2. Representation bias

Bir grup verisi az.

3. Measurement bias

Etiketler dengesiz tanımlanmış.

4. Aggregation bias

Bir model tüm gruplara aynı uygun değil.

5. Evaluation bias

Test seti bir grubu temsil etmiyor.

6. Deployment bias

Model kullanıldığı bağlamda adaletsiz çalışıyor.

Adaleti matematiksel tanımlama

Demographic parity

$P(\hat{Y} = 1 \mid A = 0) = P(\hat{Y} = 1 \mid A = 1)$

İki grupta eşit pozitif sınıf tahmin oranı.

Equal opportunity

$P(\hat{Y} = 1 \mid Y = 1, A = 0) = P(\hat{Y} = 1 \mid Y = 1, A = 1)$

Gerçekten pozitif olanlar arasında eşit kabul oranı (yani recall eşit).

Equalized odds

Hem TPR hem FPR iki grupta eşit.

Predictive parity

Pozitif tahmin yapılanların aynı oranda gerçek pozitif olması (precision eşit).

Impossibility theorem

Kleinberg 2016: bu metrikler eş zamanlı sağlanamaz (sınıf dağılımı farklıysa).

Yani: matematiksel olarak tek bir adalet tanımı seçmen gerekir. Bilim değil, politik karar.

COMPAS davası

Northpointe COMPAS (suçluluk tahmini):

• Northpointe: "model predictive parity sağlıyor" (eşit precision).
• ProPublica: "siyahlara yanlış pozitif oranı çok yüksek" (FPR eşit değil).

İki taraf da matematiksel olarak haklı — farklı adalet tanımları seçiyorlar.

Çözüm yaklaşımları

Pre-processing

Veriyi düzelt:

• Reweighting.
• Resampling.
• Data augmentation.

In-processing

Eğitim sırasında adalet kısıtı ekle.

Post-processing

Tahminleri grup başına kalibre et.

Modern araçlar

• AIF360 (IBM): kapsamlı.
• Fairlearn (Microsoft).
• What-If Tool (Google).
• Fairsearch.

Tüm büyük şirketlerin adalet aracı var.

Çok değişkenli adalet

Cinsiyet veya ırk veya yaş veya ... — Bir grup için adil model diğeri için adaletsiz olabilir.

Intersectionality: hem siyahi hem kadın olanlar için özel adaletsizlik.

Buckwalter ve Ruha Benjamin: Race After Technology kitabı.

Yasal düzenlemeler

AB AI Act (2024)

• Yüksek riskli AI sistemleri fairness denetimi.
• Para cezası: yıllık cironun %6'sı.

ABD

• NIST AI Risk Management Framework.
• Algorithmic Accountability Act (öneri).

Türkiye

• KVKK (kişisel veriler).
• Yapay Zeka Stratejisi 2021: etik AI vurgu.

Saydamlık

Adaletli AI şeffaf AI ile birlikte:

• Explainability: model neden bu kararı verdi?
• Auditability: kararlar denetlenebilir mi?
• Right to explanation (GDPR).

Felsefi tartışma

Statistical parity vs individual fairness

Statistical: gruplar arası eşit.
Individual: benzer bireyler eşit muamele.

İkisi bazen çelişir.

Equality vs equity

Eşitlik: herkes aynı.
Adalet: herkes ihtiyacına göre.

AI sistemi hangisini hedeflesin?

Türkiye uygulamaları

• Yıldız Teknik: Türk siyaset bilimcileri AI bias çalışması.
• Sabancı: kredi modelinde fairness denetimi.
• TÜBİTAK: yapay zeka etiği proje.
• STEM kadın katılımı: AI gelişmeden eşit fırsat.

Kapanış

Algoritmik adalet, matematik + felsefe + siyaset birleşimi. Tek bir doğru cevap yok ama soruyu sormamak kabul edilemez.

Bir AI mühendisinin olgunluk işareti: modelin kim için adaletli olduğunu bilmek ve kim için olmadığını kabul etmek.

AI gelişmeden insan eşitliği zarar görüyor — bunu önlemek teknik problem değil, toplumsal görev.