John Hopfield: Fiziğin Sinir Ağlarına Katkısı

Bir Nobel'in 42 yıllık yolculuğu

8 Ekim 2024. İsveç Akademisi: Nobel Fizik Ödülü John Hopfield ve Geoffrey Hinton'a. Bu, fizik Nobel'inin yapay zekâya verildiği ilk büyük an.

Hopfield'ın katkısı 1982'de yayımlandığı tek bir makaledir: "Neural networks and physical systems with emergent collective computational abilities." 5 sayfa. Bellek ile fizik arasında köprü kurdu.

42 yıl sonra Nobel'le tanındı. Hopfield 90 yaşında.

Chicago'dan Cornell'e

1933 Chicago doğumlu. Babası Polonyalı fizikçi göçmen. Swarthmore College'da fizik (1954), Cornell'de doktora (1958). Doktora konusu: katı hal fiziği, eksiton dinamiği.

Bell Labs (1958-1964), sonra Princeton, sonra Caltech, sonra Princeton tekrar. Akademik kariyer fizikten biyofiziğe kayıyor.

"Biyofizikçi" kimliği

1970-1980 arası Hopfield kademeli olarak fizikten biyolojiye kaydı. Konuları:

• Hemoglobin protein dinamiği.
• Hata düzeltme genetiği.
• Sinir hücresi modelleri.

Bu geçiş zamanla onu Caltech'te Biyofizik Profesörü yaptı. Klasik fizik bölümünden ayrıldı.

1982 makalesi

Hopfield, sinirbilim konferanslarında konuşmaya başladı. Bir gözlemi vardı: manyetik spinlerin matematiği sinir ağlarına uygulanabilir.

Spin sistemleri (fizikte iyi anlaşılır): atomlar yukarı/aşağı manyetik moment. Aralarında etkileşim. Düşük enerjili duruma yakınsama.

Bunun nöronlar için birebir analojisi:

• Atomlar = nöronlar.
• Spin yönü = nöron aktivasyonu.
• Etkileşim = sinaptik ağırlık.
• Düşük enerji = bellek attractor.

Bu paralel, sinir ağı dinamiğine fizik matematiği uygulamayı mümkün kıldı.

Etki: 1982-2010

Hopfield Network 1980'lerin sinir ağı patlamasını başlattı. Hinton'un Boltzmann machine'i Hopfield'tan ilham. Backpropagation çalışmaları (Rumelhart, Hinton, Williams) bu yıllarda.

Ama 1990'lar AI kışı. Sinir ağları akademik kınama altında. Hopfield'ın çalışması niş kaldı: birkaç biyofizikçi, bazı sinirbilimciler.

Kapasite problemi büyük: $0.14N$ desen. Pratik kullanım imkansız. Akademik kavram olarak kaldı.

"Hata düzeltme genetiği"

Hopfield'ın az bilinen ama önemli çalışmalarından biri: kinetic proofreading (1974). Hücrelerin protein sentezinde nasıl hatasız çalıştığı sorusu.

Hopfield modeli gösterdi: hücreler enerji harcayarak hataları düzelten bir matematik kullanır. Bu fikir moleküler biyolojide standart hâle geldi — bir başka klasik katkı.

2017-2020 yeniden doğuş

Hopfield Network için akademik renesans Modern Hopfield (2017) ile başladı. 2020'de attention-Hopfield bağlantısı keşfedildi. Hopfield'in 1982 fikri modern AI'ın temellerinden biri olarak yeniden konumlandı.

Hopfield bu renesansı yaşamak için ısrarlı olarak yaşadı. 90'larında akademik konferanslara katılmaya devam etti.

Nobel — neden tartışmalı

2024 Nobel Fizik Ödülü tartışmaları:

Pro:

• Hopfield çalışması istatistiksel fizik kullanır.
• AI'ın temel teorik fikirlerini ortaya koymuştur.
• Modern transformer'la matematiksel bağlantı 2020'lerde kanıtlandı.

Kontra:

• "Bu fizik mi yoksa bilgisayar bilimi mi?"
• Modern AI temelde mühendislik, fizik değil.
• Geleneksel fizikçiler "fizik Nobel'i hijack edildi" dedi.

Tartışma akademik çevrelerde bölücü. Hopfield'ın katkısı reddedilemez ama Nobel kategorisi sorgulanabilir.

Hopfield konuşması

Nobel basın toplantısında Hopfield (90 yaşında, sağlığı kısıtlı):

"1982'de yaptığım iş bana basit bir matematiksel egzersiz gibi görünüyordu. Bunun yapay zekânın temel taşı olacağını hayal etmemiştim. Bilimin ironisi bu — fikrin ne işe yarayacağını bilmiyorsunuz."

Bu söz akademik bilimin doğasına dair: fikrin değeri yıllar sonra anlaşılır.

Sade ders

Hopfield hikâyesinden iki şey:

1. Disiplinler arası geçişler büyük fikirler üretir. Hopfield fizikçi olarak biyolojiye geçti. O sınırı geçmeseydi, Hopfield Network olmayacaktı. Modern AI da olmayacaktı.
2. Bilimsel etkinin zamanlaması belirsiz. 1982'de yayımlanan bir makale 2024'te Nobel. 40 yıllık ödül gecikmesi. Akademik tanınma sabırlı insanlara aittir.

Bağlam

Hopfield Network için: [[hopfield-network-fizigin-belek-modeli-ve-modern-transformer-bagi]]. Hinton ile birlikte Nobel için: [[geoffrey-hinton-derin-ogrenmenin-baba-figuru]]. Modern attention bağlantısı için: [[transformer-attention-is-all-you-need]]. Hochreiter ve Modern Hopfield için: [[sepp-hochreiter-lstm-in-mucidi-ve-avrupa-ai-nin-sessiz-baba-figuru]]. Boltzmann machines için: [[boltzmann-makinesi-fiziginin-makine-ogrenmesine-yansimasi]] (varsa).