Peter Norvig: AIMA'nın Diğer Yarısı

Çift yazar ortağı

"Artificial Intelligence: A Modern Approach" — kapakta iki isim: Stuart Russell ve Peter Norvig. Russell akademik teorisyen, Norvig pratik mühendis. İkisi birbirini dengeler.

Russell Berkeley'de profesör. Norvig Google'da Research Direktörü. Bu fark kitaba yansır: matematiksel sağlamlık + endüstri tarzı pragmatizm.

Norfolk → Brown → Berkeley

1956 ABD doğumlu. Brown Üniversitesi'nde uygulamalı matematik (1978), Berkeley'de bilgisayar bilimi doktorası (1986). Doktora tezi: dil işleme ve plan tanıma.

Akademik kariyer: USC ve Berkeley'de kısa süre. Sonra Sun Microsystems Labs (1990'lar). 2001'de Google'a katıldı, Search Quality Direktörü oldu. 2005'te Research Direktörü.

Google'da 20 yıl

Norvig 2001-2024 arasında Google'ın araştırma cephesinin baş kişiliklerinden. Anti-spam, çeviri, derecelendirme, ürün kalitesi — birçok temel sistemde parmağı var.

Notable çalışmalar:

• Google Translate'in erken mimarisi: İstatistiksel makine çevirisi.
• Google Health (2018): İlk tıbbi AI projelerinden.
• Google Brain'in ilk kuşak yöneticilerinden: Andrew Ng ve Jeff Dean ile yakın.

2024'te resmi olarak Google'dan ayrıldı; Stanford HAI'de yarı zamanlı.

21 satırlık spell checker

Norvig'i akademik dünya kadar mühendis dünyası da tanır. 2007 blog yazısı: "How to Write a Spelling Corrector". Python'da 21 satırlık tam çalışan istatistiksel imla düzeltici. Bayes kuralı, dil modeli ve düzenleme mesafesi minimum kodla.

def correction(word):
    return max(candidates(word), key=P)

Bu blog yazısı 1 milyondan fazla görüntülendi, başlangıç düzeyi makine öğrenmesi eğitimlerinin klasiklerinden oldu. Norvig'in tarzı: pratik, açık, sade.

Google Norvig Translate

Google Translate'in ilk Norvig önerdiği yaklaşım istatistiksel makine çevirisi idi. Brown Corpus, paralel dökümanlar, n-gram modelleri. Bu yaklaşım 2014'e kadar standartdı.

2014'te Google Brain sinir ağı tabanlı çeviriye geçti. Norvig şöyle yazmıştı:

"20 yıldır istatistiksel çeviri yapmaya çalışıyordum. Sinir ağları gece sabah problemi çözdü. Bu insanı küçük düşürür ama eğitici."

Bu samimiyetli kabul, akademik bir polemik adamından çok bir öğrencinin sözüdür.

CS221 — Norvig dersi

Stanford'da CS221 (Artificial Intelligence: Principles and Techniques) dersini verir. Russell + Norvig'in AIMA kitabı bu dersin temelidir. YouTube'da bulunabilir.

Norvig'in ders tarzı klasik AI ile modern ML'i birleştirir. Bir derste hem A* algoritmasını hem GPT-4'ün karar mekanizmasını anlatır. Bu bütünleyici bakış AIMA'nın 4. baskısında somut: 35 yıl önce yazılmış kitap, 2020'de modern AI'ı kapsayacak şekilde güncellendi.

"Norvig stili" Python

Norvig'in GitHub'ı bir hazinedir. Pytudes adlı proje, küçük matematiksel/algoritmik bulmacaları Python ile çözer. Her bir notebook'ta:

• Problemi tanımla.
• Naif çözümü yaz.
• Optimum hale getir.
• Görselleştir.

Bu tarz "literate programming" geleneğinin modern temsilcisi. Donald Knuth'tan beri gelen bir akış.

"What is the actual job of an AI researcher?"

Norvig 2016'da bir konferansta şunu söyledi:

"AI araştırmacısı %20 algoritma, %30 veri, %50 mühendislik yapar. Üniversitede sadece algoritma öğretiyoruz. Eksik."

Bu söz MLOps ve data-centric AI hareketlerinin manifesto cümlelerinden biri haline geldi. Andrew Ng ve Norvig bu tema etrafında yakın çalışır.

Norvig vs Chomsky tartışması

2011'de Norvig, Noam Chomsky'nin "istatistiksel modeller dilin doğasını anlamada faydasız" eleştirisine sert cevap verdi. "On Chomsky and the Two Cultures of Statistical Learning" adlı uzun yazı dilbilim camiasında yankı uyandırdı.

Norvig'in özeti: "Chomsky doğa bilimsel kavrayışı ister; biz işe yarayan model isteriz. İkisi farklı amaçlar. Ama istatistik model dilin sadece yüzeysel kalıplarını yakalamaz, gerçek yapısal özelliklerini de yakalar."

Bu yazı Chomsky-Norvig polemiği başlığında dil işleme felsefesinin ana referansı oldu.

Sade ders

Norvig hikâyesinden iki şey:

1. Pratik mühendis akademik teorinin tamamlayıcısıdır. Russell soyutu yazar, Norvig somutu kodlar. AIMA'nın 30 yıllık başarısı bu denge sayesinde.
2. Açık yazılan kod öğretir. 21 satırlık spell checker, bin sayfa ders kitabından daha çok kişiye Bayes'i öğretti.

Bağlam

AIMA için: [[stuart-russell-ai-guvenligi-nin-akademik-yuzu]]. Google'daki ortak: [[jeff-dean-google-un-altyapi-dahisi]]. Modern AI eğitimi için: [[andrew-ng-ai-yi-herkese-acan-adam]]. Chomsky tartışması için: [[chris-manning-stanford-nlp-nin-sessiz-mimari]] (sembolik vs istatistiksel NLP).