V
Yapay Zekâ ve Makine Öğrenimi
vLLM indir
Büyük dil modellerini GPU üzerinde yüksek verimle sunmaya yönelik çıkarım motoru.
Ücretsiz / Açık kaynakLinux
Resmî indirme seçenekleri
İşletim sisteminize ve cihaz mimarinize uygun seçeneği belirleyin.
İndirme seçeneklerini görüntüle ↓vLLM hakkında
vLLM, özellikle Linux ve hızlandırıcı donanımlarda büyük dil modellerinin servis edilmesi, yüksek eşzamanlı istek ve verimli bellek kullanımı için geliştirilmiştir.
Program bilgileri
YayıncıvLLM Project
LisansÜcretsiz / Açık kaynak
İşletim sistemleriLinux
Güncel sürümBelirtilmemiş
Son kayıt güncellemesi
İndirme seçenekleri
Resmî proje / indirme sayfasıAll · ANY · landing
Resmî indirme ↗İndirme bağlantıları yönetim panelinde resmî olarak tanımlanan seçeneklerden oluşturulur. Doğrudan indirme bağlantıları yalnızca doğrulama durumu uygun olduğunda gösterilir.
Benzer programlar
İndirme işleminden önce yayıncının resmî sayfasındaki güncel sürüm ve sistem gereksinimlerini kontrol edin. Yazılımın lisans ve kullanım koşulları ilgili yayıncı tarafından belirlenir.