Newton-Raphson Yöntemi: Köklere Hızla Yaklaşma Sanatı

"$x^2 = 5$, $x$ ne olur?"

İlk öğrendiğinizde basit görünür: $x = \sqrt{5}$. Ama bu sayının gerçek değeri nedir? 2.2360679... — ondalık basamakları sonsuz uzar.

Hesap makinesi olmadan bu sayıyı nasıl bulurduk? Bu basit sorunun ardında pek çok yüzyıl boyunca uğraşılan bir alan vardı: sayısal analiz.

En zarif çözümlerden biri: Newton-Raphson yöntemi.

Yöntem: teğet çizgisini takip et

Bir fonksiyonun kökünü ($f(x) = 0$ olan $x$'i) arıyorsunuz. Sezgi:

1. Bir başlangıç tahmini yap, $x_0$.
2. $f$'in $x_0$ noktasındaki teğet çizgisini çek.
3. Bu teğet çizgisi x-eksenini kestiği noktayı yeni tahmin yap, $x_1$.
4. Tekrarla.

Matematiksel formül:

$x_{n+1} = x_n - \frac{f(x_n)}{f'(x_n)}$

Sade ve etkili. Türev ($f'$) gerektirir; ama çoğu problemde bu mevcuttur.

$\sqrt{5}$ örneği

$f(x) = x^2 - 5$ alalım. Kökü $\sqrt{5}$. Türev $f'(x) = 2x$. İterasyon formülü:

$x_{n+1} = x_n - \frac{x_n^2 - 5}{2 x_n} = \frac{x_n + 5/x_n}{2}$

Başlangıç $x_0 = 2$ (sezgisel tahmin):

• $x_1 = (2 + 5/2)/2 = 2.25$
• $x_2 = (2.25 + 5/2.25)/2 = 2.2361111...$
• $x_3 = 2.2360679779...$
• $x_4 = 2.23606797749979...$

Sadece 4 adımda 14 basamak doğru $\sqrt{5}$ değeri.

Kuadratik yakınsama

Newton-Raphson'un sihri: her adımda doğru basamak sayısı yaklaşık ikiye katlanır.

• $x_0$: 0 doğru basamak
• $x_1$: 1 doğru basamak
• $x_2$: 2 doğru basamak
• $x_3$: 4 doğru basamak
• $x_4$: 8 doğru basamak
• $x_5$: 16 doğru basamak
• $x_6$: 32 doğru basamak

20 iterasyonda milyon basamak doğruluk. Bu kuadratik yakınsama'dır — sayısal analizdeki en hızlı yakınsama hızlarından biri.

Tarihçe

Newton (1669)

Isaac Newton "De analysi per aequationes numero terminorum infinitas" eserinde 1669'da yöntemi tanıttı (yayım 1711). Newton kübik denklemlerin köklerini bulmak için kullandı.

Raphson (1690)

Joseph Raphson 1690'da yayımladığı "Analysis aequationum universalis" eserinde Newton'un yöntemini daha sistematik biçimde sundu. Raphson'un sunumu Newton'un orijinalinden daha modern; bu yüzden yöntem Newton-Raphson olarak anılır.

Simpson (1740)

Thomas Simpson yöntemi türevli forma genişletti; modern formuna kavuşturdu.

Niye işe yarıyor? Sezgi

Bir fonksiyonun grafiğini düşünün; kökün etrafında. Kökten uzaktayken bile teğet çizgisi köke yakın bir nokta verir, çünkü fonksiyon yerel olarak doğrusala yakındır.

Matematiksel olarak: Taylor serisi $f(x_n + h) = f(x_n) + h f'(x_n) + O(h^2)$. Eğer $h = -f(x_n)/f'(x_n)$ seçersek, $f(x_n + h) = O(h^2)$ — yeni hata eskisinin karesi kadar küçük.

Sınırlamalar

Newton-Raphson her zaman çalışmaz:

1) Yakınsamayabilir

Başlangıç noktası kökten çok uzak veya fonksiyon tepe noktası yakını olursa iterasyon diverge edebilir veya döngüye girebilir.

2) Türev tanımsızsa çalışmaz

$f'(x) = 0$ olan bir noktada formül bölünme sorunu verir.

3) Yanlış köke gidebilir

Aynı fonksiyonun birden çok kökü varsa, Newton-Raphson yanlış olanı bulabilir.

4) Yavaşlayabilir

Bir kök çoklu (multi-katlı) ise, yakınsama doğrusal hıza düşer.

Modern uygulamalar

Newton-Raphson hâlâ sayısal hesaplamanın temel taşı:

1) Optimizasyon (makine öğrenmesi)

Sinir ağlarının eğitimindeki gradient descent yöntemi Newton-Raphson'un yumuşatılmış halidir. İkinci türevi kullanan Newton method (proper) optimizasyonda da kullanılır (örneğin L-BFGS algoritması).

2) Bilgisayar grafikleri

Bir ışık ışınının bir yüzeyle kesişimini bulmak için Newton-Raphson kullanılır (ray tracing).

3) Mühendislik simülasyonları

Doğrusal olmayan denklem sistemlerini çözmek (sonlu elemanlar yöntemi, akışkanlar mekaniği).

4) Modern hesap makinesi/bilgisayar fonksiyonları

sin, cos, log, exp — hesap makinesinde sıkıştırılmış bu fonksiyonların çoğu Newton-Raphson varyantları ile hesaplanır. Hatta modern CPU'larda donanım seviyesinde uygulanmıştır.

5) Cebirsel hesaplama

Mathematica, Maple, Sage gibi sembolik hesaplama sistemleri sayısal çözümleri Newton-Raphson ile bulur.

"Quake III" trivia: hızlı ters karekök

Newton-Raphson'un en sıradışı uygulamalarından biri 1999 yılı oyun motoru kodunda gizlidir. Quake III Arena'nın kaynak kodu açıldığında, programcılar şu satıra şaşırdı:

float Q_rsqrt(float number) {
    long i;
    float x2, y;
    const float threehalfs = 1.5F;
    x2 = number * 0.5F;
    y  = number;
    i  = *(long*)&y;
    i  = 0x5f3759df - (i >> 1);  // tuhaf sihir!
    y  = *(float*)&i;
    y  = y * (threehalfs - (x2 * y * y));  // 1. Newton-Raphson iterasyonu
    return y;
}

Bu, çok hızlı bir ters karekök ($1/\sqrt{x}$) hesabıdır. Tek bir bit manipülasyon "0x5f3759df" sihirli sayısıyla iyi bir başlangıç tahmini üretir; sonra tek bir Newton-Raphson iterasyonu bunu hassaslaştırır.

3D grafiklerin normalize edilmesi için kullanılan bu "fast inverse square root" Newton-Raphson'un modern teknolojide ne kadar derin oturduğunun simgesi haline geldi.

"Hız ile zerafetin buluşması"

Newton-Raphson yöntemi 350 yıl önce keşfedildi, ama modern sayısal hesaplamanın hâlâ en sık kullanılan algoritmalarından biri. Sade fikir, kuadratik yakınsama, geniş uygulanabilirlik — matematiksel başyapıt.

Hesap makinesindeki "√" tuşuna her bastığınızda, sinir ağı eğitilirken her güncellemede, 3D oyununuzda her vektör normalize edildiğinde, Newton'un kalem-kâğıt çağında düşündüğü o basit teğet çizgisi adımı arka planda işliyor.