Frank Hutter: AutoML Araştırmasının Alman Yüzü

"Hyperparameter ayarlama otomatikleşmeli"

Frank Hutter (d. 1980, Almanya) — modern AutoML araştırmasının ana figürlerinden. Freiburg Üniversitesi'nde profesör, Bosch Center for AI'da liderlik, Auto-Sklearn yazarı.

Tek cümle: ML'in ayarlamasını ML'e öğreten Alman bilim insanı.

Yol

• Darmstadt (Almanya) lisans (2004).
• University of British Columbia doktora (2009) — Holger Hoos mentörlüğünde.
• University of Freiburg asistan profesörü (2013-).
• Bosch Center for Artificial Intelligence baş bilim (2017-).
• ML Research Centre Freiburg kurucu.

SMAC (2011)

Sequential Model-Based Algorithm Configuration: hiperparametre ayarlama için Bayesian optimization aracı.

• Surrogate model: rastgele orman (Gaussian process değil).
• Akıllı arama.
• Açık kaynak Python paketi.

Sonuç: dünyada en çok kullanılan HP optimizasyon kütüphanelerinden.

Auto-Sklearn (2015)

Tam otomatik ML: scikit-learn üzerine.

Verilen veri için:

1. Veri ön işleme.
2. Model seçimi.
3. Hyperparameter ayarlama.
4. Ensemble.

Sonuç: bir komutla endüstri seviyesi ML modeli.

import autosklearn.classification
automl = autosklearn.classification.AutoSklearnClassifier()
automl.fit(X_train, y_train)

KDD Cup AutoML challenge'larını birden çok kazandı.

BOHB

Bayesian Optimization + Hyperband. SMAC takipçisi:

• Hyperband ile erken sonlandırma.
• Bayesian ile akıllı seçim.

Modern AutoML araçlarının çoğunluğunda var.

Neural Architecture Search (NAS)

Otomatik mimari tasarımı:

• Hangi katman?
• Kaç tane?
• Hangi sırada?

Hutter ekibi NAS'ın akademik gelişimine temel katkı:

• DARTS'in eleştirisi.
• NAS-Bench veri setleri.
• Yeni mimari araştırması için standart benchmark.

"AutoML Book" (2019)

Editör: AutoML'in standart referans kitabı. Tüm alanın yazılı özeti.

Ücretsiz springer.com üzerinden açık.

Akademik etki

• 20.000+ Google Scholar atıf.
• ICML Test of Time Award.
• Avrupa'nın en görünür AutoML ismi.

Bosch Center for AI

Robert Bosch GmbH (Stuttgart) sponsorlu AI araştırma merkezi:

• Endüstriyel AI: kalite, üretim.
• Otonom sürüş.
• Robotik.

Hutter araştırma direktörü olarak akademi + endüstri köprüsü.

Tarz

• Çok üretken: yılda 10-20 makale.
• Açık kaynak öncelik: tüm araçlar GitHub'da.
• Avrupa akademik: dikkatli, sağlam.
• Genç ekip: doktora öğrencileri çok.

ML Reproducibility

Hutter'in ana mesajı: "Reprodüksiyon krizine karşı AutoML çözüm".

Eğer ML pipeline otomatik ve deterministik ise, araştırmalar tekrarlanabilir olur. NeurIPS Reproducibility Chair olarak etkin.

Felsefe

Hutter'in tekrarladığı:

• "İnsanın sezgisi tutarsız; otomatik sistemler tutarlı".
• "Veri her şeydir, model ikincil".
• "Açık kaynak akademik standartı koruma yolu".

Türkiye etkisi

• Boğaziçi, ODTÜ, Bilkent ML araştırmacıları AutoML Book'u takip eder.
• Auto-Sklearn Türk endüstri (TCMB, Garanti) baseline aracı.
• Hutter'in NAS makaleleri Türk doktora tezlerinde sık atıfla.

Avrupa AI politikası

Hutter, CLAIRE (Confederation of Laboratories for AI Research in Europe) öncülerinden:

• Avrupa AI strateji.
• Açık kaynak savunuculuğu.
• ABD-Çin AI hakimiyetine alternatif.

Kapanış

Frank Hutter, mütevazı ama derin etki yapan Alman akademisyenidir. AutoML alanını adlandırdı, standartlaştırdı, açık kaynaklaştırdı. Modern ML pipeline'larının arka planında onun araçları çalışır.

Türk öğrenci için ders: bir niş alanda dünya lideri olmak mümkün, sadece sürekli derinleşmek lazım.