Timnit Gebru: AI Etiğinin En Cesur Sesi ve "Stochastic Parrots"

"AI etiği bir bilim adamın görevidir"

Timnit Gebru (d. 1982, Addis Ababa, Etiyopya) — modern AI etik hareketinin en görünür figürlerinden. Yüz tanıma bias'ını matematiksel olarak gösterdi, Google'dan kovuldu, kendi enstitüsünü kurdu.

Tek cümle: cesaret + bilim + aktivizm üçlüsünün modern örneği.

Yol

• Etiyopya doğumlu, 15 yaşında ABD'ye mülteci olarak.
• Stanford lisans + master + doktora (2017) — Fei-Fei Li mentörlüğünde.
• Apple mühendis.
• Microsoft Research.
• Google Ethical AI takım eş başkanı (2018-2020).
• DAIR Institute kurucu (2021-).

Gender Shades (2018)

Joy Buolamwini ile birlikte:

• Yüz tanıma sistemlerinin siyahi kadınlarda hata oranı çok yüksek.
• IBM, Microsoft, Face++ test edildi.
• IBM: 34.7% hata siyahi kadınlarda, 0.3% beyaz erkekde.

Sonuç: IBM, Microsoft, Amazon yüz tanıma satışını durdurdu (kısıtladı).

Stochastic Parrots (2020)

Margaret Mitchell ve diğerleriyle:

• LLM'lerin çevresel maliyeti.
• Bias ve toxic dil.
• "Anlamadan kelime istatistikleri üretmek".
• Sosyal etki kaygıları.

Bu makale Google'ı kızdırdı:

• "Makaleyi geri çek" istendi.
• Gebru reddetti.
• Kasım 2020: kovuldu (ya da istifa ettirildi — tartışmalı).

Google ayrılışı

Olay AI etik dünyasını sarstı:

• 5000+ Google çalışanı destek mektubu imzaladı.
• Margaret Mitchell de sonrada kovuldu.
• "Google ethical AI'a inanmıyor" suçlamaları.
• Akademik dünyada Google'a güvensizlik.

DAIR Institute (2021-)

Distributed AI Research Institute:

• Bağımsız araştırma.
• Toplumdan başlayan araştırma metodolojisi.
• Çeşitlilik vurgu.
• Düşük gelirli ülke katılımı.

MacArthur Foundation, Open Society fonu.

Etik AI çerçevesi

Timnit'in temel mesajları:

• "Datasheets for datasets": veri seti belgelenmeli.
• "Model cards": model şeffaf olmalı.
• "Stochastic Parrots": LLM'leri eleştir.
• "Data colonialism": veri sömürüsü endişesi.

Akademik etki

• 70.000+ Google Scholar atıfı.
• TIME 100 (2022).
• MacArthur Fellow (2022).
• Carnegie Medal.
• Stanford, NeurIPS, AAAI ödülleri.

Tarz

• Cesur: yetkilileri eleştirir.
• Yapıcı: alternatif önerir.
• Topluluk odaklı: alttan başlayan.
• Çok dilli: Etiyopya/Eritre + İngilizce.
• Açık: Twitter aktif (X'te @timnitGebru).

Etiyopya bağlantısı

Gebru, Etiyopya iç savaşına (Tigray) dikkat çekiyor:

• Sosyal medya bias'ı.
• AI'ın Afrika perspektifi.
• Black in AI organizasyonu.

Türkiye için bağlam

• Türk AI etik araştırmacıları DAIR modelini takip ediyor.
• "Datasheets for datasets" Türk üniversitelerinde standart olmaya başladı.
• Black in AI modelinde Türk AI topluluğu organizasyon.

Tartışmalar

Eleştirenler

• "Çok politik".
• "Bilim mi aktivizm mi?"
• "Yapıcı eleştiri değil".

Destekçileri

• "Cesur".
• "Modern AI etik hareketinin anneanesi".
• "Çoğunluğu görmediği şeyleri görüyor".

Felsefe

Timnit'in tekrarladığı:

• "AI etik teknik sorun değil, sosyal sorun".
• "Marginalized people most affected by AI bias".
• "Science without ethics is dangerous".

Genç bilim insanı için ders

Timnit profili:

• Bilim + aktivizm mümkün.
• Cezalandırılabilirsin (kovulma) ama etkili olursun.
• Kendi enstitü kurma alternatif.
• Etiyopya / mülteci kökeni engel değil, güç.

Kapanış

Timnit Gebru, AI etik dünyasının savaşçısı. Google ile çatışma ona kariyer riski verdi ama dünya çapında etki sağladı. DAIR ile alternatif model kurdu.

Türk genç araştırmacılar için: dürüst eleştiri kariyer için riskli ama uzun vadede değerli.

AI gelişmesi için eleştirel sesler şarttır.