Eliezer Yudkowsky: AI Güvenlik Hareketinin Tartışmalı Filozofu
2000'lerden beri AGI risk uyarısı yapıyor. MIRI kurucusu. "Eğer biri AGI yapsa hepimiz öleceğiz" diyen, sertçe tartışmalı figür. Modern AI çağında her tartışmada adı geçen filozof.
"AGI gelirse hepimiz öleceğiz"
Eliezer Yudkowsky (1979-) — modern AI güvenlik hareketinin tartışmalı filozofu.
Erken yaşam
- Doğum: 11 Eylül 1979, Chicago.
- Aile: Yahudi-Amerikalı.
- Eğitim: Üniversite okumadı. Otodidakt.
Modern düşünür tarihinde nadir bir biyografi.
MIRI (Machine Intelligence Research Institute)
2000 yakınlarında kuruldu. 2013'te bugünkü adını aldı.
Misyon: "Güvenli AGI matematik temelleri".
Yudkowsky uzun yıllar araştırma başkanı.
LessWrong
2009'da rationalist topluluk sitesi kurdu. Modern rationalist hareketi nin merkezi.
Yazıları:
- Sequences: rasyonel düşünme rehberleri.
- HPMOR (Harry Potter and the Methods of Rationality): 660K kelime fanfiction.
Modern rationalist topluluğun kutsal kitapları.
AGI risk vizyonu
Yudkowsky temel argümanı:
- AGI mümkün.
- AGI insandan çok daha akıllı olacak.
- Hizalama çok zor — neredeyse imkansız.
- Hizalanmamış AGI insanlığı yok eder.
Sonuç: AGI yapımı acilen durdurulmalı.
P(doom) ~95%
Yudkowsky tahmin: insanlığın yok olma olasılığı %95+. AI güvenlik camiasının en uç ucu.
Modern AI felsefesinde "Yudkowsky pozisyonu" kavramı bilinir.
Time Magazine (Mart 2023)
ChatGPT patlamasından sonra Yudkowsky Time'da yazı yazdı: "Büyük AI eğitimlerini durdurun. Eğer GPU'larla devam ederlerse, bombalayın."
Bu makale dünyada büyük tartışma yarattı.
Kişilik
Yudkowsky:
- Açık sözlü: sınırsız.
- Eksantrik: alışılmadık görünüm.
- Provokatif: tartışmadan kaçınmaz.
- Etkili: modern AI güvenlik hareketinin kurucusu.
Eleştiriler
- Üniversite okumadı: akademik camiada kabul zor.
- Aşırı görüş: çoğu bilim insanı %95+ olası bulmuyor.
- Provokatif dil: zaman zaman aşırı.
Etkileri
Buna rağmen:
- Anthropic kurucuları ondan etkilendi.
- OpenAI safety araştırma ondan.
- AI Safety Summit (Bletchley 2023) onun fikirleriyle.
- Modern AI güvenlik söyleminin önde gelen sesi.
Akademik tanınma (kısmen)
Ödüller az ama:
- TIME 100 most influential people (2023).
- AI güvenlik topluluğunda kıdemli.
Mirası
- MIRI: erken AI güvenlik enstitüsü.
- LessWrong: modern rationalist topluluk.
- HPMOR: rasyonel düşünme romanı.
- AGI risk farkındalığı: 2000'lerden beri uyarı.
- AI güvenlik hareketinin felsefi babası.
45 yaşında — modern AI tarihinin tartışmalı ama önde gelen düşünürü. Belki gelecek 50 yıl AI tarihinin kritik figürlerinden biri olarak hatırlanacak.
Yudkowsky'nin belki haklı olduğu olasılık çoğu bilim insanı için >0 — bu kadar bile endişeye sebeptir.
"AGI yapımı hatadır." Yudkowsky'nin paradigma cümlesi.
Etiketler
Kendinizi Test Edin
Cevaplarınız profilinizde istatistik olarak saklanır.
1. Eliezer Yudkowsky'nin akademik geçmişi?
2. Yudkowsky'nin P(doom) tahmini?
3. LessWrong nedir?
4. Yudkowsky'nin 2023 Time makalesi neyi önerdi?
5. Yudkowsky'nin modern AI üzerine etkisi?
İlgili Yazılar
Brahmagupta: Sıfıra Kurallar Koyan ve Negatif Sayıları Borç Olarak Tanımlayan 7. Yüzyıl Hintlisi
628 yılında Brahmagupta, sıfırın aritmetiğini ve negatif sayıların kurallarını ilk kez sistematik biçimde yazdı. Borç-mülk metaforuyla negatif sayıları meşrulaştırdı, ikinci dereceden denklem formülünü genelleştirdi.
Bilim TarihiHypatia: İskenderiye'nin Son Büyük Kadın Matematikçisi ve Bir Çağın Sonu
M.S. 4. yüzyıl İskenderiye'sinde, dünyanın en büyük kütüphanesinin gölgesinde bir kadın geometri ve astronomi dersleri veriyordu. Hikâyesi, bir bilim insanının ötesinde, bir çağın bittiğini anlatır.
Bilim TarihiÉtienne Bézout: Fransız Donanmasının Matematik Hocası ve Adı Yanlış Yere Yapışmış Cebirci
Adı bugün her kriptografi dersinde geçen Bézout, hayatta sınava hazırlanan denizci adaylarına ders kitabı yazdı. Ünü, kendi bulmadığı bir teoremden geldi; kendi büyük teoremi ise nesiller boyunca anlaşılamadı.