OpenAI ve NVIDIA’dan Yerel Yapay Zeka Devrimi: GPT-OSS Model Ailesi Tanıtıldı

OpenAI ve NVIDIA, RTX destekli cihazlar üzerinde çalışmak üzere optimize edilen yeni açık kaynak yapay zeka model ailesi GPT-OSS’yi duyurdu. Bu yenilik, güçlü yerel (on-device) yapay zeka deneyimlerinin önünü açıyor.

GPT-OSS: RTX GPU’lara Özel Açık Yapay Zeka

OpenAI ve NVIDIA’nın ortaklaşa geliştirdiği GPT-OSS, yerel cihazlarda çalışan yüksek performanslı modellerle yapay zekanın erişimini daha yaygın ve bağımsız hale getiriyor. RTX GPU’lar üzerinde çalışacak şekilde geliştirilen bu açık model ailesi, iki varyanttan oluşuyor:

İki Varyant: Kullanıcıdan Profesyonele

1- GPT-OSS-20B

  • Hedef Donanım: En az 16 GB VRAM’e sahip NVIDIA RTX AI PC’ler
  • Performans: RTX 5090 GPU ile saniyede 250 token üretimi

2- GPT-OSS-120B

  • Hedef Donanım: RTX PRO GPU destekli iş istasyonları
  • Kullanım Alanı: Profesyonel ve kurumsal AI uygulamaları

Her iki model de NVIDIA’nın H100 GPU’ları üzerinde eğitildi ve yeni nesil MXFP4 hassasiyet formatı ile desteklendi. Bu format, performans kaybı olmadan doğruluk oranlarını artırmayı hedefliyor.

Teknik Özellikler: Güçlü ve Verimli

  • 131.072 token bağlam uzunluğu: Uzun metin analizlerinde yüksek kapasite
  • Mixture-of-Experts (MoE) mimarisi: Daha akıllı yönlendirme, daha az kaynak kullanımı
  • Gelişmiş görev desteği: Chain-of-thought (düşünce zinciri), talimat takibi, araç kullanımı gibi ileri düzey yetenekler

Geliştiriciler için Kullanım Platformları

GPT-OSS modelleri, geliştiricilerin kolayca erişebilmesi için popüler platformlara entegre edildi:

1- Ollama Uygulaması

  • Ek yapılandırma gerektirmeden doğrudan kullanım

2- Llama.cpp

  • RTX GPU’lar için optimize edilmiş
  • CUDA Graphs desteği ile performans artışı

3- Microsoft AI Foundry Local

  • Windows ortamında terminal üzerinden çalışma imkanı
  • AI modellerini önizleme ve test etme fırsatı

Neden Önemli?

Bu gelişme, yapay zeka modellerinin bulut bağımlılığını azaltması açısından kritik. Özellikle veri gizliliği, düşük gecikme süresi ve çevrimdışı çalışma gibi avantajlar sayesinde, yapay zeka teknolojilerinin bireyler ve kurumlar tarafından daha esnek ve güvenli şekilde kullanılabilmesi mümkün hale geliyor.

Haber Merkezi

Haber Merkezi

Makaleler: 1587