DenseNet

DenseNet, yani Yoğun Bağlantılı Evrişimli Sinir Ağları, 2017 yılında Gao Huang ve çalışma arkadaşları tarafından geliştirilmiş bir derin öğrenme mimarisidir. Bu yapı, her katmanın yalnızca bir sonraki katmana değil, tüm sonraki katmanlara bağlantılar kurmasını sağlayarak sinir ağı içinde bilgi akışını maksimum düzeye çıkarır. DenseNet mimarisi, özellikle parametre verimliliği ve gradyan akışı açısından derin sinir ağlarının eğitiminde önemli avantajlar sağlamaktadır.

Yoğun Bağlantı Mimarisi

DenseNet mimarisinde her katman, kendisinden önceki tüm katmanların çıktısını giriş olarak alır. Bu yaklaşım, klasik sinir ağlarının aksine, bilgi kaybını azaltır ve özelliklerin yeniden kullanımını sağlar.

Katmanlar Arası Bağlantılar

DenseNet mimarisinde her katmanın girdisi aşağıdaki gibi tanımlanır:

• 'xl': l. katmanın çıktısıdır.
• H(l) : Batch normalization, ReLU aktivasyonu ve 3×3 evrişim gibi işlemlerden oluşan dönüşüm fonksiyonudur.
• Köşeli parantez içindeki x'li ifadeler, önceki tüm katmanların çıktılarının birleştirilmesini ifade eder. Bu yapı sayesinde, daha az parametre ile daha derin ağlar kurulabilir.

Dense Bloklar ve Geçiş Katmanları

DenseNet yapısı, tekrarlanan dense bloklar ve bunları birbirine bağlayan geçiş katmanları (transition layers) içerir. Dense bloklar içerisinde katmanlar yoğun şekilde birbirine bağlıdır; geçiş katmanları ise kanal boyutunu ve boyutsal çözünürlüğü azaltarak modelin kompakt kalmasını sağlar.

Dense Blok Yapısı

• Tüm katmanlar birbirine bağlanır.
• Her katmanın çıktısı doğrudan sonraki tüm katmanlara iletilir.
• Ağ içinde bilgi yayılımı en üst düzeye çıkarılır.

Geçiş Katmanları

• 1×1 evrişim katmanı ile kanal boyutunu düşürür.
• 2×2 ortalama havuzlama (average pooling) ile boyut küçültülür.
• Ağırlık paylaşımını artırarak overfitting riskini azaltır.

5 katmanlı dense block (

DenseNet mimarisinde her katman, kendinden önceki tüm katmanlardan bilgi alır, bu sayede gradyan yayılımı ve özellik kullanımı optimize edilir.

Avantajlar ve Uygulama Alanları

DenseNet mimarisinin öne çıkan avantajları şunlardır:

• Gradyan akışı kolaylığı: Yoğun bağlantılar sayesinde, gradyanların geriye doğru akışı kolaylaşır.
• Parametre verimliliği: Yeniden kullanılan özellikler sayesinde daha az parametre ile yüksek performans sağlanır.
• Daha az aşırı öğrenme (overfitting) eğilimi: Az parametreli yapısı nedeniyle aşırı öğrenme riski daha düşüktür.

DenseNet, görüntü sınıflandırma, nesne tespiti, tıbbi görüntü analizi gibi birçok alanda kullanılmaktadır. ImageNet gibi büyük veri setlerinde başarılı sonuçlar elde etmiştir.