Çin merkezli yapay zeka çalışmaları hız kesmeden devam ediyor. Alibaba’nın desteklediği Moonshot AI, “Kimi K2” adını verdiği yeni büyük dil modelini tanıttı. Açık kaynak olarak yayımlanan bu dev model, mimarisi, maliyet avantajı ve uzun metin işleme yeteneğiyle dikkat çekiyor.
1 Trilyon Parametreli MoE Mimarisi
Kimi K2, toplamda 1 trilyon parametreye sahip bir Mixture-of-Experts (MoE) mimarisiyle geliştirildi. Ancak sistem, her işlemde bu parametrelerin yalnızca yaklaşık 32 milyonunu aktif kullanıyor. Böylece devasa bir kapasiteyi düşük işlem maliyetiyle birleştiren hibrit bir yapı ortaya çıkıyor.
Model içinde yer alan 384 uzman modülden sekizi ve bir ortak uzman, her token işlenirken devreye giriyor. Bu sayede hem daha hızlı hem de enerji verimliliği yüksek bir performans sağlanıyor. Ayrıca model, 61 katmandan oluşuyor ve tam 15.5 trilyon token’lık dev bir veri seti üzerinde eğitildi.
MuonClip ile Kararlı Dikkat Mekanizması
Kimi K2’nin eğitim sürecinde, dikkat mekanizmalarında görülen dengesizlikleri önlemek için MuonClip adlı özel bir optimizasyon yöntemi kullanıldı. Bu teknik, dikkat ağırlıklarının dengeli dağılmasını sağlayarak modelin çıktılarındaki tutarlılığı artırdı.
Uzun Metinlerde Üstün: 128K Token Bağlam Penceresi
Modelin öne çıkan bir diğer özelliği, 128 bin token’lık bağlam penceresi. Bu, yaklaşık 192 sayfalık bir metni tek seferde işleyebileceği anlamına geliyor. Böylelikle Kimi K2, uzun belgeler üzerinde çalışan araştırmacılar ve geliştiriciler için güçlü bir alternatif haline geliyor.
Düşük Kullanım Maliyetleri ve Açık Kaynak Gücü
Kimi K2, ücretsiz olarak sunulan Kimi uygulaması üzerinden doğrudan kullanıcılarla buluşuyor. Açık kaynak yapısı sayesinde geliştiriciler, modeli kolayca kendi projelerine entegre edebiliyor.
Üstelik kullanım maliyetleri mevcut büyük dil modellerine göre oldukça düşük. Örneğin:
- 1 milyon giriş token’ı için yalnızca 15 cent,
- 1 milyon çıkış token’ı için ise 2.5 dolar talep ediliyor.
Karşılaştırmak gerekirse Claude modelinde bu rakam 75 dolara kadar çıkabiliyor.
İlk Geri Bildirimler Olumlu
Modelin tanıtılmasının ardından geçen kısa sürede gelen kullanıcı yorumları büyük ölçüde olumlu. Özellikle sosyal medya üzerinde yapılan paylaşımlarda, kodlama görevlerinde yüksek doğruluk oranları sağladığına dair övgüler dikkat çekti. MagicPath kurucusu Pietro Schirano da “Kimi K2’nin, Claude 3.5 Sonnet’ten sonra üretimde kullanmaya gerçekten yaklaştığım ilk model olduğunu” ifade etti.
Küresel Yapay Zeka Rekabetinde Yeni Bir Hamle
Bu gelişme, Çin’in yapay zeka yarışında ABD ve Avrupa karşısında hızla konum kazandığını bir kez daha gösteriyor. Özellikle maliyet verimliliği ve açık kaynak yaklaşımı, Kimi K2’nin küresel pazarda geniş bir kullanıcı kitlesine ulaşmasını sağlayabilir.
Ayrıca bu tarz açık kaynaklı dev modellerin yaygınlaşması, hem inovasyonu hızlandıracak hem de yapay zeka alanındaki tekelleşme endişelerini bir nebze hafifletecek gibi görünüyor.








