Bu, en son sürümü v3.3.2sourcecode.zip olarak indirilebilen Text Generation Inference adlı Windows uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
Text Generation Inference with OnWorks isimli bu uygulamayı ücretsiz olarak indirin ve çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden herhangi bir OS OnWorks çevrimiçi öykünücüsünü başlatın, ancak daha iyi Windows çevrimiçi öykünücüsü.
- 5. Yeni başlattığınız OnWorks Windows işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin ve kurun.
- 7. Wine'ı Linux dağıtımları yazılım havuzlarınızdan indirin. Kurulduktan sonra, Wine ile çalıştırmak için uygulamaya çift tıklayabilirsiniz. Ayrıca, popüler Windows programlarını ve oyunlarını yüklemenize yardımcı olacak Wine üzerinden gösterişli bir arayüz olan PlayOnLinux'u da deneyebilirsiniz.
Wine, Windows yazılımını Linux üzerinde çalıştırmanın bir yoludur, ancak Windows gerektirmez. Wine, Windows programlarını doğrudan herhangi bir Linux masaüstünde çalıştırabilen açık kaynaklı bir Windows uyumluluk katmanıdır. Esasen Wine, Windows'a ihtiyaç duymadan tüm bu Windows uygulamalarını çalıştırabilmesi için yeterince Windows'u sıfırdan yeniden uygulamaya çalışıyor.
EKRAN GÖRÜNTÜLERİ:
Metin Oluşturma Çıkarımı
AÇIKLAMA:
Text Generation Inference, Hugging Face'in Transformers'ı için optimize edilmiş, metin üretim modelleri için yüksek performanslı bir çıkarım sunucusudur. Performans ve ölçeklenebilirlik için optimizasyonlarla büyük dil modellerine verimli bir şekilde hizmet vermek üzere tasarlanmıştır.
Özellikler
- Büyük dil modelleri (LLM) sunmak için optimize edilmiştir
- Yüksek verim için toplu işleme ve paralellik desteği
- Geliştirilmiş performans için niceleme desteği
- Kolay entegrasyon için API tabanlı dağıtım
- GPU hızlandırma ve çoklu düğüm ölçekleme
- Gerçek zamanlı yanıtlar için yerleşik token akışı
Programlama dili
Python
Kategoriler
Bu, https://sourceforge.net/projects/text-generation-infer.mirror/ adresinden de alınabilen bir uygulamadır. Ücretsiz İşletim Sistemlerimizden birinden en kolay şekilde çevrimiçi olarak çalıştırılabilmesi için OnWorks'te barındırılmıştır.