Eliezer Yudkowsky: AI Güvenlik Hareketinin Tartışmalı Filozofu

"AGI gelirse hepimiz öleceğiz"

Eliezer Yudkowsky (1979-) — modern AI güvenlik hareketinin tartışmalı filozofu.

Erken yaşam

• Doğum: 11 Eylül 1979, Chicago.
• Aile: Yahudi-Amerikalı.
• Eğitim: Üniversite okumadı. Otodidakt.

Modern düşünür tarihinde nadir bir biyografi.

MIRI (Machine Intelligence Research Institute)

2000 yakınlarında kuruldu. 2013'te bugünkü adını aldı.

Misyon: "Güvenli AGI matematik temelleri".

Yudkowsky uzun yıllar araştırma başkanı.

LessWrong

2009'da rationalist topluluk sitesi kurdu. Modern rationalist hareketi nin merkezi.

Yazıları:

• Sequences: rasyonel düşünme rehberleri.
• HPMOR (Harry Potter and the Methods of Rationality): 660K kelime fanfiction.

Modern rationalist topluluğun kutsal kitapları.

AGI risk vizyonu

Yudkowsky temel argümanı:

1. AGI mümkün.
2. AGI insandan çok daha akıllı olacak.
3. Hizalama çok zor — neredeyse imkansız.
4. Hizalanmamış AGI insanlığı yok eder.

Sonuç: AGI yapımı acilen durdurulmalı.

P(doom) ~95%

Yudkowsky tahmin: insanlığın yok olma olasılığı %95+. AI güvenlik camiasının en uç ucu.

Modern AI felsefesinde "Yudkowsky pozisyonu" kavramı bilinir.

Time Magazine (Mart 2023)

ChatGPT patlamasından sonra Yudkowsky Time'da yazı yazdı: "Büyük AI eğitimlerini durdurun. Eğer GPU'larla devam ederlerse, bombalayın."

Bu makale dünyada büyük tartışma yarattı.

Kişilik

Yudkowsky:

• Açık sözlü: sınırsız.
• Eksantrik: alışılmadık görünüm.
• Provokatif: tartışmadan kaçınmaz.
• Etkili: modern AI güvenlik hareketinin kurucusu.

Eleştiriler

• Üniversite okumadı: akademik camiada kabul zor.
• Aşırı görüş: çoğu bilim insanı %95+ olası bulmuyor.
• Provokatif dil: zaman zaman aşırı.

Etkileri

Buna rağmen:

• Anthropic kurucuları ondan etkilendi.
• OpenAI safety araştırma ondan.
• AI Safety Summit (Bletchley 2023) onun fikirleriyle.
• Modern AI güvenlik söyleminin önde gelen sesi.

Akademik tanınma (kısmen)

Ödüller az ama:

• TIME 100 most influential people (2023).
• AI güvenlik topluluğunda kıdemli.

Mirası

• MIRI: erken AI güvenlik enstitüsü.
• LessWrong: modern rationalist topluluk.
• HPMOR: rasyonel düşünme romanı.
• AGI risk farkındalığı: 2000'lerden beri uyarı.
• AI güvenlik hareketinin felsefi babası.

45 yaşında — modern AI tarihinin tartışmalı ama önde gelen düşünürü. Belki gelecek 50 yıl AI tarihinin kritik figürlerinden biri olarak hatırlanacak.

Yudkowsky'nin belki haklı olduğu olasılık çoğu bilim insanı için >0 — bu kadar bile endişeye sebeptir.

"AGI yapımı hatadır." Yudkowsky'nin paradigma cümlesi.