Jeremy Howard: fast.ai ile Derin Öğrenmeyi Demokratikleştiren Adam

Kaggle'da bir numara

2014'te Kaggle (makine öğrenmesi yarışmaları platformu) en üst sıralarında bir isim sürekli görünüyordu: Jeremy Howard. Avustralyalı, bağımsız ML mühendisi.

13 Kaggle yarışmasında ilk 3. Bir dönem dünyanın en yüksek puanlı Kaggle'ı. Akademik kimliği yok, sadece pratik mühendislik.

Bu pratik kimlik onun fast.ai projesinin temeli oldu.

Avustralya'dan Singapore'a — kariyer

1973 Birleşik Krallık doğumlu, Avustralya'da büyüdü. Melbourne Üniversitesi'nde felsefe lisansı (1994). Bilgisayar bilimi değil — modern AI'da nadir profil.

McKinsey'de danışman olarak başladı (1998), AT Kearney'e geçti. Sonra kendi şirketlerini kurdu:

• FastMail (1999): E-posta servisi.
• Optimal Decisions Group (2000): Sigorta riski analizi.
• Kaggle (2010): Anthony Goldbloom ile ortak; başkan oldu.

Kaggle 2017'de Google'a satıldı. Howard büyük kazandı.

fast.ai (2016)

2016'da San Francisco'da Rachel Thomas ile birlikte fast.ai'ı kurdu. Hedef:

"Derin öğrenme, doktora seviyesi matematik gerektirmemeli. Pratik mühendisler için kullanılabilir olmalı."

Bu, akademik AI dünyasının karşı tezi. Hinton, LeCun, Bengio matematik vurgular. Howard "kodlu, deneyseli, pratik" eğitim önerir.

"Top-down" pedagoji

Klasik AI dersi: önce matematik, sonra teori, sonra uygulama. fast.ai tersine:

1. Önce çalışan kod. İlk derste resim sınıflandırıcı eğit.
2. Sonuçları gör. %90+ accuracy.
3. Sonra niye çalıştığını anla. Matematik kademeli geliyor.

Bu "top-down" yaklaşımı binlerce kişiyi ML'e dahil etti. Klasik akademisyen yaklaşımı 90% kişiyi caydırıyor; fast.ai yaklaşımı 90% kişiyi içeri alıyor.

Sayısal etki

fast.ai'in MOOC kursları (ücretsiz):

• "Practical Deep Learning for Coders": 2017'den beri 400.000+ öğrenci.
• "Code-First Introduction to NLP": Modern dil işleme için pratik.
• "Practical Data Ethics": AI etiği için.

YouTube'da 50M+ izlenme. Modern ML mühendislerinin önemli bir kısmı fast.ai'den geçer.

ULMFiT (2018) — NLP'ye katkı

Howard ve Sebastian Ruder, ULMFiT'i yayımladı: dil modeli pre-training + fine-tuning paradigmasının somut örneği. BERT'ten 6 ay önce.

Bu çalışma BERT'in temeli oluşturma fikirlerinden biri. Akademi bu zamanlamayı çoğunlukla unutur, ama tarihçe Howard'in da bu fikre katkı verdiğini gösterir.

fastai library

Howard ve Sylvain Gugger ile birlikte yazdığı fastai Python kütüphanesi. PyTorch üzerine inşa edilmiş, yüksek seviye API.

Klasik PyTorch kodu 50 satır, fastai kodu 5 satır. Eğitim, validation, monitoring otomatik. Pratik mühendisler için.

Rachel Thomas ortaklığı

fast.ai eş kurucusu Rachel Thomas, matematik doktoralı (Duke). Howard pratik mühendis + Thomas akademik teorisyen — birleşim güçlü.

Thomas özellikle AI etik cephesinde aktif. fast.ai'in "AI ethics" kursu onun önderliğinde. Modern AI etiği için önemli kaynaklardan.

"Akademiye karşı"

Howard akademik kurumlara eleştirel:

"AI Ph.D.'leri çoğunlukla zaman israfıdır. Aynı 5 yılı pratik problemlere harcasanız 10 katı etki yaparsınız. Akademi sadece doçentlik için değer."

Bu görüş tartışmalı. Akademik dünya genelde karşı çıkar. Ama Howard'ın kendi başarısı bu görüşü destekler — felsefe lisansı, akademik makale yok, ama dünyaca etkili.

Sade ders

Howard hikâyesinden iki şey:

1. Akademik diploma şart değil. Howard felsefe lisanslı, ML'de doktora yok. Yine de modern derin öğrenme eğitiminin baş figürlerinden. Yetenek ve sağduyu akademik kıdemden bağımsız.
2. Pedagoji teknolojidir. "Top-down" yaklaşımı binlerce mühendisi ML'e dahil etti. Eğitim metodu bilgiyi kaç kişiye ulaştırabildiğini belirler. fast.ai bu açıdan akademik kursların 100 katı etkili.

Bağlam

Eğitim teknolojisi için: [[andrew-ng-ai-yi-herkese-acan-adam]] (Coursera), [[daphne-koller-olasiliksal-aklin-stanford-mimari]] (Coursera ortağı), [[sebastian-thrun-otonom-arabalardan-udacity-ye]] (Udacity). Pratik ML için: [[norvig-aima-nin-diger-yarisi]] (Norvig 21 satırlık spell checker). Kaggle ve ML yarışmaları için: [[kaggle-makine-ogrenmesi-yarismalari]] (varsa).