Dan Hendrycks: AI Güvenlik Merkezinin Genç Mimarı

Genç bir akademisyenin etkili sesi

Dan Hendrycks 1994 doğumlu. 30'lu yaşların başında. Modern AI güvenlik söyleminin görünür akademik yüzü.

Chicago Üniversitesi'nde lisans (2018). UC Berkeley'de doktora (2022). Hızla akademinin kıdemli sesi kategorisine yerleşti.

MMLU (2020) — doktora dönemi

Doktora döneminde MMLU'yu yazdı (2020). Önemli bir doktora projesi — modern LLM'in standart benchmark'ı.

Aynı yıl GPQA ve ETHICS benchmark'larında da rol aldı. ML değerlendirmesinin baş yazarlarından oldu.

Center for AI Safety (2022)

Doktoradan hemen sonra Center for AI Safety (CAIS)'i kurdu. San Francisco merkezli, kâr amacı gütmeyen.

CAIS'in odakları:

• AI varoluşsal risk araştırması.
• Politika danışmanlığı.
• Eğitim programları.

CAIS, MIRI (Eliezer Yudkowsky) ve FHI (Oxford) ile birlikte AI risk akademik çevresinin üç ana laboratuvarından biri.

2023 mektubu — büyük etki

Mayıs 2023. Hendrycks ve CAIS, tek cümle açık mektup yayımladı:

"Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."

İmzalayanlar: Geoffrey Hinton, Yoshua Bengio, Sam Altman, Dario Amodei, Bill Gates. 500+ önemli isim.

Bu kısa cümle AI varoluşsal risk söyleminin kamuoyu ana akımına geçtiği an oldu. NY Times manşet yaptı. Senatolarda tartışıldı.

Konuya akademik temel

Hendrycks felsefi mektup yazmaktan ötesi: akademik çalışmalar yapar.

• "X-Risk Analysis for AI Research" (2022): Sistematik risk taksonomisi.
• "Natural Selection Favors AIs over Humans" (2023): Evrimsel argüman.
• "An Overview of Catastrophic AI Risks" (2023): Kapsamlı tehdit modellemesi.

Bu makaleler akademik temellendirme sağlar. "AI tehlikeli" demek sloganla yetinmez; argümanlı.

xAI — Musk'la bağlantı

2023 sonrası Hendrycks, xAI (Elon Musk'ın AI girişimi) danışmanı oldu. İlginç bir kombinasyon: akademik risk yüzü + Musk'ın hızlı geliştirme şirketi.

xAI'da rolü tam belli değil. Ama Musk'ın "AI tehlikeli ama biz yapmalıyız" yaklaşımının akademik kılıfı sayılabilir.

Bu çift kanal Hendrycks'i bazı eleştirmenler için tartışmalı kıldı: "AI tehlikeli derken Musk'ın projesinde mi çalışıyor?"

Yudkowsky'den farkı

Hendrycks ve Yudkowsky aynı kampta görünür ama farklar var:

• Yudkowsky: Felsefi, blog yazıları, "AI durdurmalı."
• Hendrycks: Akademik, ölçek odaklı, "iyi yönetilmeli."

Hendrycks daha kurumsal ses. Akademik dergiler, politika belgeler, koruyucu çerçeveler.

Bu fark modern AI risk hareketinin iki kanadını temsil eder: felsefi alarm + mühendis-akademik düzenleme.

"Akademik organizatör"

Hendrycks akademik makale yazmaktan çok akademik altyapı kurmaya odaklı:

• MMLU = standart değerlendirme.
• CAIS = araştırma kurumu.
• 2023 mektubu = kolektif ses.
• Politika danışmanlığı = düzenleme yaratma.

Bu, akademik dünyada yönetici tipi rol. Bir kuşağın önde gelen örneği.

Sade ders

Hendrycks hikâyesinden iki şey:

1. Genç akademisyenler kurumsal güç yaratabilir. Hendrycks 30'unda CAIS'i kurdu. Akademik etki tek tek makaleden değil, altyapı kurmaktan gelir.
2. AI risk söyleminin akademik tabanı genişledi. Bir zamanlar Yudkowsky'nin felsefi blog'u olan tartışma, şimdi mektup imzaları, devlet politika belgeleri, akademik dergiler düzeyinde. Hendrycks bu kurumsallaşmanın baş figürü.

Bağlam

MMLU için: [[mmlu-modern-llm-degerlendirmesinin-altin-standardi]]. Yudkowsky için: [[eliezer-yudkowsky-ai-risk-savunucusu-ve-rationalist-akimin-baba-figuru]] (varsa). xAI için: [[elon-musk-ai-tarihinde-cesitli-rolleri]] (varsa). AI güvenliği için: [[stuart-russell-ai-guvenligi-nin-akademik-yuzu]], [[aleksander-madry-mit-de-ai-guvenligi-ve-robustness-uzmani]]. 2023 mektubu için: [[geoffrey-hinton-derin-ogrenmenin-babasi-ve-2024-nobel-fizik]].