Hiperparametre Optimizasyonu: Bayesian Optimizasyon ve Population Based Training Altyapısı

Bayesian optimizasyon ve PBT, hiperparametre arayışını istatistiksel çıkarım ve evrimsel dinamiklerle sistematik hale getiren güçlü modern yaklaşımlardır.

Makine öğrenmesi modellerinin performansı yalnızca mimari seçimlerine ya da veri kalitesine bağlı değildir; modelin davranışını doğrudan şekillendiren hiperparametrelerin doğru belirlenmesi, başarılı bir sistem kurmanın temel koşullarından birini oluşturur. Öğrenme hızı, düzenlileştirme katsayıları, katman boyutları, dropout oranları ve batch büyüklüğü gibi değerler, eğitim sürecini hem matematiksel hem de hesapsal açıdan derinden etkiler. Geleneksel yöntemler bu arayışı kaba kuvvetle ele alırken, modern optimizasyon yaklaşımları süreci istatistiksel akıl yürütme ve evrimsel dinamiklerle yeniden tanımlamaktadır.

Hiperparametre Optimizasyonunun Temelleri

Hiperparametre optimizasyonu, bir kayıp fonksiyonunu minimize eden model parametrelerinin öğrenilmesinden yapısal olarak farklıdır. Model parametreleri gradyan inişiyle güncellenir; hiperparametreler ise eğitim döngüsünün dışında kalır ve her yeni konfigürasyon için bağımsız bir eğitim oturumu açılmasını gerektirir. Bu durum, optimizasyon problemini kara kutu (black-box) bir arama problemine dönüştürür: Amaç fonksiyonunun gradyanı hesaplanamaz, değerlendirme maliyeti yüksektir ve gürültülü gözlemler kaçınılmazdır.

Izgara araması (grid search), olası değerlerin kartezyen çarpımını sistematik biçimde tarar; boyut arttıkça maliyet üstel olarak büyür ve bu yaklaşımı derin öğrenme bağlamında neredeyse kullanılamaz hale getirir. Rastgele arama (random search), yüksek boyutlu uzaylarda ızgara aramasına kıyasla istatistiksel olarak daha verimlidir; ancak geçmiş değerlendirmelerden öğrenme mekanizmasından yoksundur. Bayesian optimizasyon ve Population Based Training bu kısıtlamaları farklı açılardan aşmak üzere geliştirilmiştir.

Bayesian Optimizasyon: Akıllı Arama Stratejisi

Bayesian optimizasyon, geçmiş gözlemlerden bir vekil model (surrogate model) inşa ederek arama uzayı üzerinde olasılıksal çıkarım yapar. Temel fikir şudur: Her değerlendirme pahalıysa, bir sonraki noktayı rastgele seçmek yerine mevcut bilgiyi en verimli biçimde kullanan noktayı seçmek rasyoneldir.

Gauss Süreci (Gaussian Process – GP), en yaygın kullanılan vekil modeldir. GP, hiperparametre uzayının her noktası için hem bir tahmin değeri hem de bu tahmine ilişkin belirsizlik (varyans) üretir. Matematiksel olarak bir GP, herhangi bir sonlu nokta kümesi üzerinde çok değişkenli normal dağılım tanımlar; bu dağılımın özellikleri bir çekirdek (kernel) fonksiyonuyla belirlenir. Matérn çekirdeği, makine öğrenmesi hiperparametreleri için tipik olan pürüzlü (non-smooth) amaç fonksiyonlarını modellemede RBF çekirdeğine kıyasla daha güvenilir sonuçlar vermektedir.

Vekil model elde edildikten sonra bir kazanım fonksiyonu (acquisition function) hangi noktanın sonraki adımda değerlendirileceğini belirler. En yaygın seçenekler şunlardır:

Expected Improvement (EI): Mevcut en iyi değerin üzerinde beklenen kazancı hesaplar. Hem tahmin değerini hem de belirsizliği göz önünde bulundurarak keşif-sömürü dengesini içsel olarak yönetir.

Upper Confidence Bound (UCB): Tahmin değerine belirsizliğin bir katını ekler; β parametresiyle keşif-sömürü dengesi manuel olarak ayarlanabilir.

Thompson Sampling: Posterior dağılımdan bir fonksiyon örneği çekerek bu fonksiyonun maksimumunu seçer; paralel değerlendirmelere doğal biçimde uyum sağlar.

Gaussian Process tabanlı Bayesian optimizasyonunun pratik kısıtlaması, GP’nin öğrenme ve tahmin maliyetinin gözlem sayısının küpüyle ölçeklenmesidir — O(n³). Bu nedenle birkaç yüz değerlendirmenin ötesinde Tree-structured Parzen Estimator (TPE) gibi daha ölçeklenebilir alternatifler tercih edilmektedir. TPE, kazanım fonksiyonunu doğrudan modellemek yerine iyi ve kötü gözlemlerin ayrı yoğunluk tahminleri üzerinden yaklaşık hesaplar; Optuna ve Hyperopt kütüphanelerinde varsayılan algoritma olarak yer almaktadır.

Bayesian Optimizasyon Altyapısı Kurma

Üretim ortamında bir Bayesian optimizasyon sistemi kurulurken birkaç kritik bileşen bir arada düşünülmelidir. Arama uzayının tanımlanması birinci adımdır: Sürekli parametreler (öğrenme hızı, dropout), kategorik parametreler (optimizer türü, aktivasyon fonksiyonu) ve koşullu parametreler (yalnızca belirli bir optimizer seçildiğinde geçerli olan momentum değeri) ayrı ayrı tanımlanmalıdır. Öğrenme hızı gibi parametreler için log-uniform dağılım tercih edilmelidir; çünkü bu parametreler ondalık düzeyinde değişim gösterir.

import optuna

def objective(trial):
    lr = trial.suggest_float("lr", 1e-5, 1e-1, log=True)
    dropout = trial.suggest_float("dropout", 0.1, 0.5)
    optimizer = trial.suggest_categorical("optimizer", ["adam", "sgd", "adamw"])
    batch_size = trial.suggest_categorical("batch_size", [32, 64, 128, 256])

    model = build_model(dropout=dropout)
    val_loss = train_and_evaluate(model, lr=lr, optimizer=optimizer,
                                   batch_size=batch_size)
    return val_loss

study = optuna.create_study(direction="minimize",
                             sampler=optuna.samplers.TPESampler())
study.optimize(objective, n_trials=100, n_jobs=4)

Pruning (erken durdurma) mekanizması, ümit vermeyen denemelerin hesaplama maliyetini düşürür. Optuna’nın MedianPruner’ı, belirli bir adımda doğrulama kaybı tüm aktif denemelerin medyanının üzerindeyse o denemeyi sonlandırır; bu yöntem toplam hesaplama süresini önemli ölçüde azaltabilmektedir.

Population Based Training: Evrimsel Bir Yaklaşım

DeepMind tarafından 2017 yılında önerilen Population Based Training (PBT), hiperparametre optimizasyonunu model eğitimiyle eş zamanlı gerçekleştirir. Geleneksel yaklaşımlar eğitimi tamamladıktan sonra hiperparametreleri değerlendirirken, PBT eğitim sırasında hiperparametreleri dinamik olarak günceller.

PBT algoritması üç temel adımdan oluşur: Adım (Step) aşamasında tüm popülasyon üyeleri belirli bir süre paralel olarak eğitilir. Değerlendirme (Eval) aşamasında her üyenin performansı ölçülür. Exploit & Explore aşamasında ise düşük performanslı üyeler yüksek performanslı üyelerin ağırlıklarını miras alır (exploit) ve hiperparametreler küçük pertürbasyonlarla değiştirilir (explore).

Bu yaklaşımın en güçlü yanı, hiperparametrelerin antrenman boyunca değişmesine izin vermesidir. Örneğin öğrenme hızı başlangıçta yüksek tutulup ilerleyen aşamalarda azaltılabilir; bu dinamik zamanlama, statik hiperparametre seçimine kıyasla anlamlı avantajlar sağlayabilir.

PBT Altyapısı Kurma

PBT’nin üretim ortamında hayata geçirilmesi, dağıtık hesaplama altyapısı gerektiren daha karmaşık bir süreçtir. Ray Tune, bu alanda en olgun ekosistemi sunan Python kütüphanesidir.

from ray import tune
from ray.tune.schedulers import PopulationBasedTraining

pbt_scheduler = PopulationBasedTraining(
    time_attr="training_iteration",
    perturbation_interval=20,
    hyperparam_mutations={
        "lr": tune.loguniform(1e-5, 1e-1),
        "momentum": tune.uniform(0.8, 0.99),
        "weight_decay": tune.loguniform(1e-6, 1e-2),
    },
    quantile_fraction=0.25,   # Alt %25 exploit tetikler
    resample_probability=0.25  # Yeni değer örnekleme olasılığı
)

tuner = tune.Tuner(
    train_function,
    tune_config=tune.TuneConfig(
        num_samples=16,
        scheduler=pbt_scheduler,
    ),
    param_space={
        "lr": tune.loguniform(1e-4, 1e-1),
        "momentum": tune.uniform(0.8, 0.99),
        "weight_decay": tune.loguniform(1e-5, 1e-2),
    }
)
results = tuner.fit()

Popülasyon büyüklüğünün seçimi kritik bir tasarım kararıdır. Çok küçük popülasyonlar (n < 8) yeterli çeşitlilik sağlamazken, çok büyük popülasyonlar hesaplama maliyetini gereksiz yere artırır. 16–32 üyeli popülasyonlar çoğu pratik senaryoda makul bir denge noktası oluşturmaktadır. Checkpoint yönetimi de göz ardı edilmemelidir: Her üyenin ağırlıkları exploit adımında kopyalanabilmesi için güvenilir bir depolama mekanizması zorunludur.

Yöntemlerin Karşılaştırılması ve Hibrit Stratejiler

Bayesian optimizasyon ve PBT farklı kullanım senaryolarına hitap eder. Bayesian optimizasyon, eğitim süresinin uzun ve paralel kaynak miktarının sınırlı olduğu durumlarda tercih edilir; az sayıda değerlendirmeyle yüksek kaliteli sonuçlar üretir. PBT ise bol hesaplama kaynağının mevcut olduğu ve dinamik hiperparametrelerin fayda sağlayabileceği senaryolarda üstünlük gösterir.

PBT + Bayesian hibrit yaklaşımında, exploit adımında yeni hiperparametrelerin seçimi rastgele pertürbasyonla değil Bayesian bir modelle yönlendirilir. Bu fikri uygulayan BOHB (Bayesian Optimization with Hyperband) algoritması, TPE’nin örnekleme verimliliğini Hyperband’ın erken durdurma mekanizmasıyla birleştirir ve geniş kaynak bütçelerinde güçlü bir seçenek oluşturur.

Meta-Öğrenme ve Warm-Starting

İleri bir optimizasyon stratejisi olarak meta-öğrenme, geçmiş deneylerdeki hiperparametre-performans ilişkilerini yeni görevlere transfer eder. Benzer veri kümelerinde iyi sonuç veren hiperparametre bölgelerinden başlanması, hem Bayesian hem de PBT tabanlı arayışlarda başlangıç verimliliğini artırır. RGPE (Ranking-Weighted Gaussian Process Ensemble) gibi yöntemler, meta-veri tabanından elde edilen önsel bilgiyi yeni bir görevin vekil modeline entegre eder.

Hiperparametre optimizasyonu, modern derin öğrenme sistemlerinin performansını ve verimini doğrudan belirleyen disiplinler arası bir mühendislik alanıdır. Bayesian yöntemler az değerlendirmeyle yüksek bilgi edinimi sağlarken, PBT eğitim dinamiklerini evrimsel mekanizmalarla zenginleştirir; ikisinin hibrit kullanımı ise üretim sistemlerinde en güçlü sonuçları ortaya koyar.

Osman Bayrak

Osman Bayrak

Girişimci, yapay zeka uzmanı, quant trader, analist, broker, fotoğrafçı...

Makaleler: 416