Adadelta, gradyan inişi (gradient descent) tabanlı optimizasyon algoritmalarından biridir ve daha verimli bir öğrenme süreci sunmayı amaçlar. Adadelta, özellikle derin öğrenme ve makine öğrenmesi alanlarında kullanılan, öğrenme oranı (learning rate) gibi hiperparametrelerin manuel olarak ayarlanmasının zor olduğu durumlarda, adaptif öğrenme oranlarıyla önemli avantajlar sağlar.

Temel Kavramlar

Adadelta, temel olarak gradyan inişi yöntemini geliştirir ve öğrenme oranını her parametre için otomatik olarak ayarlayan bir mekanizma sunar. Bu algoritma, daha önceki adımlardan gelen gradyan bilgilerini kullanarak, güncelleme adımlarında daha etkili ve hızlı bir şekilde öğrenmeyi amaçlar.

Adadelta'nın en önemli özelliği, parametre güncellemelerinde yalnızca kısa dönemli geçmiş bilgilerini kullanmasıdır. Bu, algoritmanın daha hafif ve verimli çalışmasını sağlar.

Adadelta Algoritmasının Matematiksel Formülü

Adadelta algoritmasında, güncelleme adımı aşağıdaki formüllerle yapılır:

Geçmiş Gradyanların Hesaplanması: Her iterasyon için, her parametre için geçmiş gradyanlar karelerinin birikimli ortalaması (exponentially decaying average) hesaplanır. Bu işlem, geçmiş gradyanların etkisini hafifletir:

$E[g^2]_t=ρE[g^2]_{t−1}+(1−ρ)g_t^2$

• $g_t$, mevcut adımda elde edilen gradyan.
• $E[g^2]_t$, Gradyanların karesinin geçmiş ortalamasını temsil eder.
• $ρ$(rho) , bu birikimli ortalama için kullanılan yumuşatma faktörüdür yani eski gradyanların ne kadar ağırlıklı kalacağını belirler. Genellikle 0.9 olarak seçilir.

Parametre Güncellemesi: Her bir parametre, Adadelta algoritmasında şu şekilde güncellenir:

$\Delta \theta_t = - \frac{\eta}{\sqrt{E[g^2]_t + \epsilon}} \cdot g_t$

Burada:

• $\theta_t$: O anda güncellenen parametre.
• $g_t$: O andaki gradyan (hata türevi).
• $η$ : Öğrenme oranı .
• $ϵ$: Küçük bir sabit terim (genellikle $10^{-8}$ sıfır bölme hatalarını engellemek için.
• $E[g^2]_t$ : Gradyanların karelerinin geçmiş birikimli ortalaması.

Adapatif Öğrenme Oranı: Adadelta algoritmasında, parametrelerin her biri için öğrenme oranı otomatik olarak ayarlanır. Bu, her parametrenin geçmiş gradyanlarının karesine dayalı olarak yapılır ve manuel öğrenme oranı ayarına gerek kalmaz.

Parametre güncellemelerindeki bu adaptif yaklaşım, her parametre için daha uygun öğrenme oranlarını bulur.

Güncellenmiş Gradyanların Kullanılması: Gradyanların karelerinin birikimli ortalamasını kullandıktan sonra, her parametre güncellenir. Ayrıca, geçmiş gradyanların etkisiyle güncellenmiş olan gradyanlar da gelecekteki adımlarda daha etkili kullanılmak üzere saklanır.

Avantajları

Öğrenme Oranının Otomatik Ayarlanması: Adadelta, her parametre için öğrenme oranlarını otomatik olarak ayarlar, bu da hiperparametre ayarlarının manuel olarak yapılmasını gereksiz hale getirir. Bu, daha hızlı ve verimli bir eğitim süreci sağlar.

Hafızada Az Yer Kaplama: Adadelta, yalnızca gradyanların karelerinin birikimli ortalamasını saklar, bu da daha düşük hafıza gereksinimi anlamına gelir. Bu, özellikle büyük modellerde daha avantajlıdır.

Hızlı Konverjans: Genellikle Adadelta, diğer optimizasyon algoritmalarına göre daha hızlı bir konverjans süresi sunar çünkü parametre güncellemeleri her zaman gradyanların geçtiği geçmişe dayalı olarak optimize edilir.

Gradyanların Kararlı Dağılımı: Adadelta, gradyanların karelerinin ortalamasını dikkate alarak, büyük gradyanların etkisini zayıflatır ve küçük gradyanların etkisini artırır. Bu, daha stabil bir öğrenme süreci sağlar.

Dezavantajları

Karmaşık Hesaplamalar: Adadelta, parametre güncellemeleri için bazı ilave hesaplamalar gerektirir. Bu hesaplamalar, bazı durumlarda, algoritmanın hızını düşürebilir.

Hiperparametre Ayarları: Adadelta algoritması, hiperparametre ayarlarına duyarlıdır. Özellikle, $ρ$ ve $ϵ$ gibi hiperparametrelerin doğru ayarlanması önemlidir.

Genelleme Performansı: Adadelta, genelleme performansı açısından bazı algoritmalar kadar güçlü olmayabilir. Bu, modelin daha büyük veri kümeleri veya daha karmaşık görevler için optimizasyon gereksinimlerine bağlıdır.

Adadelta'nın Uygulama Alanları

Adadelta, özellikle büyük veri kümelerinde ve karmaşık modellerde eğitim sürelerini kısaltmak ve daha verimli öğrenme sağlamak için kullanılmaktadır. Başlıca kullanım alanları şunlardır:

Derin Öğrenme ve Sinir Ağları: Görüntü tanıma, nesne tespiti ve dil işleme gibi derin öğrenme uygulamalarında tercih edilir.

Zaman Serisi Modelleri: Özellikle zaman serisi tahminlerinde, parametrelerin güncellenmesi sırasında verimli bir öğrenme süreci sağlar.

Reinforcement Learning: Pekiştirmeli öğrenme görevlerinde, ortamdan gelen geri bildirimlere hızlı uyum sağlamak için kullanılabilir.

^{Adadeltanın (4,4) noktası için adım adım optimizasyon süreci görselleştirildi. (Github)}

Adadelta, gradyanların geçmiş bilgilerini kullanarak öğrenme oranlarını adaptif bir şekilde ayarlayarak, daha verimli ve stabil bir öğrenme süreci sağlar.