Bu, en son sürümü v1.77.0-nightlysourcecode.tar.gz olarak indirilebilen LiteLLM adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
LiteLLM adlı bu uygulamayı OnWorks ile ücretsiz olarak indirin ve çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN
Ad
LiteLLM
AÇIKLAMA
OpenAI biçimini [Antropik, Huggingface, Cohere, Azure OpenAI vb.] kullanarak tüm LLM API'lerini çağırın. liteLLM, yanıt olarak bir akış yineleyicisi almak için model yanıtının geri akışını, pass flow=True'u destekler. Akış, OpenAI, Azure, Anthropic ve Huggingface modelleri için desteklenir.
Özellikler
- Girdileri sağlayıcının tamamlamasına çevirme ve uç noktaları yerleştirme
- Tutarlı çıktıyı garanti eder, metin yanıtları her zaman mevcut olacaktır
- İstisna eşleme
- Sağlayıcılar arasındaki yaygın istisnalar, OpenAI istisna türleriyle eşleştirilir
- LiteLLM İstemcisi - hata ayıklama ve tek tıklamayla yeni LLM'ler ekleme
- liteLLM, model yanıtının geri akışını destekler
Programlama dili
Python
Kategoriler
Bu, https://sourceforge.net/projects/litellm.mirror/ adresinden de alınabilecek bir uygulamadır. Ücretsiz İşletim Sistemlerimizden birinden en kolay şekilde çevrimiçi çalıştırılabilmesi için OnWorks'te barındırılmıştır.
