L. Breiman tarafından 2001 yılında önerilen Random Forest (RF) algoritması, genel amaçlı bir sınıflandırma ve regresyon yöntemi olarak son derece başarılı olmuştur. Birkaç rastgele karar ağacını birleştiren ve tahminlerini ortalamak suretiyle birleştiren bu yaklaşım, değişken sayısının gözlem sayısından çok daha büyük olduğu durumlarda mükemmel bir performans sergilemiştir. Ayrıca, büyük ölçekli problemlere uygulanabilme esnekliğine sahiptir, çeşitli özel öğrenme görevlerine kolayca uyarlanabilir ve değişken önemine dair ölçümler sunar.
Bu denetimli öğrenme metodu, Amit ve Geman'ın (1997), Ho'nun (1998) ve Dietterich'in (2000) erken çalışmalarından etkilenerek hareket eder ve basit ancak etkili bir "böl ve fethet" prensibine göre işler. Verinin kesirlerini örnek alır, her küçük parçada rastgele bir ağaç tahmincisini büyütür, ardından bu tahmincileri bir araya getirir, toplulaştırır. Ormanların popülerliğine büyük katkıda bulunan şey, çeşitli tahmin problemlerine uygulanabilme ve az sayıda ayar parametresine sahip olmalarıdır.
Şekil 1.1’de de görüldüğü gibi RF, birçok karar ağacını bir araya getirerek oluşturulan bir modeldir. Her bir karar ağacı, veri kümesinin rastgele alt kümeleri üzerinde eğitilir ve farklı özellikleri değerlendirir. Bu ağaçlar genellikle orman gibi bir araya gelir.
Random Forest Algoritması (MDPI)
Ormandaki ağaç sayısı arttıkça ormanın genelleme hatası bir sınıra çoğu zaman yakınsar. Ağaç sınıflandırıcılarından oluşan bir ormanın genelleme hatası, ormandaki bireysel ağaçların gücüne ve aralarındaki ilişkiye bağlıdır. Rastgele özelliklere sahip en basit RF, her düğümde rastgele seçilen bir grup giriş değişkenini kullanarak oluşturulur.
Tahminler yaparken, RF algoritması her bir karar ağacının tahminlerini çoğunluk oyu yöntemiyle birleştirir veya ortalamalarını alır. Bu, RF’in birden fazla modelin tahminlerini birleştirerek daha güvenilir ve genelleştirilmiş sonuçlar elde etmesini sağlar.
RF algoritması, yüksek boyutlu verilerle başa çıkabilir ve hatta yüksek korelasyona sahip tahmincilerle yapılan zorlu ayarlamalarda bile uygulanabilir. Tahminciler ve yanıt arasındaki doğrusal olmayan ilişki desenlerini yakalayabilir. Kullanıcıdan verilerin temelinde yatan bir modeli belirtmesini gerektirmez. RF, büyük bir karar ağacı koleksiyonunun birleştirilmesine dayanan bir sınıflandırma ve regresyon yöntemidir. Özellikle bu yöntem, bir eğitim veri kümesinden oluşturulan ve içsel olarak doğrulanan ağaçların birleşimini içerir; böylece, gelecekteki gözlemler için tahminde bulunurken yanıtlar verilerden tahmin edilir. RF birçok uygulama alanında, özellikle biyoenformatikte popüler bir analiz aracı haline gelmiştir. Yüksek esnekliği ve anlaşılır prensibi nedeniyle gelecekte de önemli olmaya devam edecektir. Ancak, RF yaklaşımları hala bir dizi zorlukla karşılaşmaktadır. RF için gerekli veriler deneysel sonuçlardan elde edilir. Bununla birlikte bazı sorular oluşmaktadır.
Başka bir uygulamada tam olarak aynı ormanı çoğaltmak mümkün müdür? Farklı çalışmalarda elde edilen sonuçlar ne kadar kararlıdır? RF, parametre değerlerinin küçük değişikliklere karşı ne kadar duyarlıdır? Parametre değerlerini nasıl seçmeliyiz veya aday parametre değerlerini nasıl tanımlamalıyız?
Bu soruların cevapları hala netlik kazanmamıştır. Değişken sayısının gözlem sayısından çok daha büyük olduğu durumlarda mükemmel performans sergilemiş, karmaşık etkileşim yapılarıyla ve yüksek korelasyona sahip değişkenlerle başa çıkabilmiş ve değişken önemine dair ölçümler sağlamıştır. Kullanımı kolay olmanın yanı sıra, yöntem genellikle doğruluğu ve küçük örneklem boyutları ile yüksek boyutlu özellik uzaylarıyla başa çıkma yeteneği için tanınır. Aynı zamanda kolayca paralelleştirilebilir ve bu nedenle büyük gerçek hayat sistemleriyle başa çıkma potansiyeline sahiptir. RF metodolojisi, hava kalitesi tahmini üzerine bir veri bilimi hackathon'u, kemoinformatik, ekoloji, 3D nesne tanıma ve biyoinformatik gibi çeşitli pratik problemlerde başarıyla kullanılmıştır. Kaggle'dan Howard ve Biomatica'dan Bowles (Howard ve Bowles 2012) "Random Forest” olarak sıkça bilinen karar ağacı ansamblleri modern zamanların en başarılı genel amaçlı algoritması olduğunu iddia ederken, Google'ın Baş Ekonomisti Varian da (Varian 2014) ekonometride RF’ın kullanımını savunmaktadır.
