Nemotron 3.5 Lightning 30B-A3B
Yalnızca 3 milyar etkin parametreyle uzun çalışan ajanlara odaklanan açık NVIDIA modeli.
Teknik künye
- Bağlam penceresi
- 1M
- Azami çıktı
- —
- Girdi fiyatı
- —
- Çıktı fiyatı
- —
- Parametre
- 30 milyar
- Girdi kipleri
- Metin
- Çıktı kipleri
- Metin
1.000.000 token
Belirtilmemiş
Kendi barındırmanız
Kendi barındırmanız
açıklanan
Bu model açık ağırlıklıdır: token başına ücret ödemezsiniz, buna karşılık donanım ve işletme maliyetini siz üstlenirsiniz.
Model hakkında
Nemotron 3.5 Lightning 30B-A3B, 30 milyar toplam ve 3 milyar etkin parametreli Mamba-2, MoE ve dikkat hibritidir. 1 milyon token'a kadar bağlamı düşük etkin hesaplama yüküyle işler; uzun süre çalışan ajanlar, yardımcı ajanlar, RAG ve kod iş akışları için tasarlanmıştır. Model kartındaki NVFP4 sürümü NVIDIA GPU'ları için optimize edilmiştir ve Türkçe resmî desteklenen diller arasında değildir.
Güçlü yönleri
- Yalnızca 3B etkin parametreyle verimli çıkarım
- 1 milyon token'a kadar bağlam
- Açık ağırlık ve uzun çalışan ajanlara özel tasarım
Dikkat edilmesi gerekenler
- Türkçe resmî desteklenen diller arasında değil
- NVFP4 sürümü NVIDIA donanımına güçlü biçimde bağlı
- Barındırma maliyeti donanıma göre değiştiği için token fiyatı yok
Tipik kullanım senaryoları
- Yüksek çağrı hacimli yardımcı ajan kümeleri
- Uzun bağlamlı RAG ve kod asistanları
- NVIDIA GPU üzerinde kurum içi model dağıtımı
Yetenekler
- Akıl yürütme
- Yanıt vermeden önce adım adım düşünerek karmaşık problemleri çözebilir.
- Araç kullanımı
- Harici fonksiyon ve API'leri kendisi çağırabilir (function calling).
- Kod yazımı
- Kod üretme, hata ayıklama ve inceleme için özel olarak eğitilmiştir.
- Uzun bağlam
- 500 bin token ve üzeri bağlam penceresi sunar.
- Yerel çalışma
- Kendi donanımınızda çevrimdışı çalıştırılabilir.
Benzer alternatifler
Bağlam penceresi ve fiyat açısından en yakın diğer sağlayıcı modelleri.