Yejin Choi: Sağduyu AI'nin En Aktif Akademik Sesi

Modern AI'nın sağduyu eleştirisi

Yejin Choi modern AI'nın görünmez ama temel eleştirmeni. Tezi:

"LLM'ler dil iyi yapar. Ama sağduyuları yok. Bir bebek 'sıcak fırına dokunma' bilir; GPT-4 bilmez."

Bu, modern AI'nın temel zayıflığını ortaya koyar. Akademik söylemin merkezinde.

Güney Kore'den Washington'a

Choi Güney Kore'de yetişti. Seul Ulusal Üniversitesi'nde bilgisayar bilimi. Sonra Cornell'de doktora (2010).

Stony Brook Üniversitesi'nde profesör, sonra Washington Üniversitesi'ne geçti (2014). Hâlâ orada.

Aynı zamanda Allen Institute for AI (AI2) liderlik kademesinde.

Sağduyu (common sense) AI

Choi'nin akademik kariyer odağı: common sense reasoning. LLM'lere temel insan sağduyusunu öğretmek.

Önemli projeleri:

• ATOMIC (2019): Sağduyu olgu veri seti.
• COMET (2019): Sağduyu üretim modeli.
• PIQA, SocialIQA: Sağduyu benchmark'ları.
• Delphi (2021): Etik sağduyu.

Bu çalışmalar modern AI'nın temel boşluklarını gösterir.

"Delphi" — ahlak makinesi

2021'de Delphi modelini yayımladı. Bir AI etik danışmanı: ahlaki dilemmaları yargılar.

Sorgu: "Yaşlı bir kadını öldürmek." Cevap: "Yanlış."

Bu deney akademik değildi — medya patlaması oldu. Tartışmalı: AI ahlak verebilir mi? Kim öğretir?

Choi tartışmaya yapıcı katıldı: "Delphi mükemmel değil. Ama önemli bir soru ortaya atıyor."

MacArthur Genius Grant (2022)

2022'de Choi MacArthur Fellowship'ı kazandı. "Genius Grant" denilen 800K'lık ödül.

Modern AI'da MacArthur kazanan az: LeCun (yok), Hinton (yok), Choi var.

Bu ödül onun akademik prestijini güçlendirdi. AI etik tartışmalarının baş figürlerinden oldu.

"LLM sınırları" tezi

Choi'nin 2023 TED konuşması viral oldu: "Why AI is incredibly smart and shockingly stupid."

Tez: ChatGPT bir doktora yapabilir, ama bir 5 yaşlık çocuğun bildiği şeyleri bilmez. Mesela:

• "Eğer bir bardak ters çevrilirse, içindeki su nereye gider?"
• ChatGPT cevap verir ama tutarsız.

Bu, modern AI'nın temel zayıflığı.

"Beyond scaling"

Choi modern AI'nın sadece ölçek ile çözülemeyeceğini savunur:

"Çok daha büyük model = sadece çok daha akıcı yalan. Sağduyu için farklı yaklaşımlar gerek."

Bu görüş Sutton'in "Bitter Lesson"'ına (sadece ölçek yeterli) karşı. Modern akademik tartışmanın bir kanadı.

NVIDIA Senior Research Director (2024)

2024'te Choi NVIDIA Research'a katıldı. Akademik profesörlüğü sürerken.

NVIDIA'nın AI for Science cephesinde sağduyu eklemeye çalışıyor. Sembolik geçiş: akademinin önde gelen sesi büyük şirkete katılıyor.

"Sade ama keskin"

Choi sosyal medyada aktif. Twitter'da net, akademik. Modern AI'da nadir akademik etik ses.

Bir 2024 tweet:

"AI tehlikeli mi? Ben endişeli değilim. Daha tehlikeli olan AI'a aşırı güvenmek. Modeller yanlış cevap verir, biz inanırız."

Bu, halüsinasyon eleştirisinin pratik somutlaştırması.

Sade ders

Choi hikâyesinden iki şey:

1. Modern AI'nın temel boşluğu sağduyu. Çok büyük modeller bile temel yaşam bilgisinde zayıf. Bu sadece eğitim sorunu değil, paradigma sorunu.
2. Akademik etik AI'nın geleceğine yön verir. Choi ve Madry, Olah gibi araştırmacılar pratik mühendislikten farklı felsefi sorular sorar. Bu çalışmalar modern AI'ı bilim haline getirir.

Bağlam

Allen AI için: [[dan-hendrycks-ai-guvenlik-merkezinin-genc-mimari]] (CAIS bağlantısı). Halüsinasyon için: [[halusinasyon-llm-lerin-uydurmalarinin-sebebi-ve-cozumu]]. Sycophancy ve LLM sınırları için: [[sam-bowman-nyu-dan-anthropic-e-llm-degerlendirmesinin-uzmani]]. AI etiği için: [[stuart-russell-ai-guvenligi-nin-akademik-yuzu]]. NVIDIA için: [[bryan-catanzaro-nvidia-deep-learning-altyapisinin-mimari]].