Kumru 7B
Sıfırdan Türkçe veriyle eğitilen ilk yerli büyük dil modeli; 16 GB VRAM'de çalışır.
Teknik künye
- Bağlam penceresi
- 8.192
- Azami çıktı
- —
- Girdi fiyatı
- —
- Çıktı fiyatı
- —
- Parametre
- 7,4 milyar
- Girdi kipleri
- Metin
- Çıktı kipleri
- Metin
8.192 token
Belirtilmemiş
Kendi barındırmanız
Kendi barındırmanız
açıklanan
Bu model açık ağırlıklıdır: token başına ücret ödemezsiniz, buna karşılık donanım ve işletme maliyetini siz üstlenirsiniz.
Model hakkında
Kumru, VNGRS tarafından geliştirilen ve tamamen Türkçe veriyle sıfırdan eğitilen ilk büyük dil modelidir. 7,4 milyar parametreye sahiptir ve 500 GB temizlenmiş Türkçe veriyle 45 gün boyunca, 300 milyar token üzerinden ön eğitim almıştır. Mimarisi Mistral-v0.3 tabanlıdır. Türkçeye özel token'layıcısı sayesinde çok dilli modellere göre aynı Türkçe metni çok daha az token'la işler — bu, hem hız hem maliyet avantajı demektir. RTX 3090 veya RTX A4000 gibi 16 GB VRAM'li tek bir ekran kartında çalışabilir. Bilgi kesim tarihi Mart 2024'tür.
Güçlü yönleri
- Türkçeye özel token'layıcı ile çok dilli modellerden belirgin daha verimli
- 16 GB VRAM'li tek GPU'da çalışır — düşük donanım maliyeti
- Veri tamamen kurum içinde kalır, KVKK uyumu en kolay seçenek
Dikkat edilmesi gerekenler
- 8.192 token bağlam — yaklaşık 20 A4 sayfası, listedeki en dar pencere
- Bilgi kesim tarihi Mart 2024, güncel olaylardan habersiz
- Genel yetenek olarak uluslararası amiral gemilerin çok gerisinde
Tipik kullanım senaryoları
- Türkçe kurumsal belge işleme ve özetleme
- Kurum içi SSS ve arama sistemleri
- Verinin yurt dışına çıkamayacağı kamu projeleri
Yetenekler
- İnce ayar
- Kendi verinizle özelleştirilebilir (fine-tuning).
- Yerel çalışma
- Kendi donanımınızda çevrimdışı çalıştırılabilir.
Benzer alternatifler
Bağlam penceresi ve fiyat açısından en yakın diğer sağlayıcı modelleri.