Bu, en son sürümü Releasev0.2.30.zip olarak indirilebilen FastChat adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
FastChat adlı bu uygulamayı OnWorks ile ücretsiz olarak indirin ve çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN
Ad
Hızlı Sohbet
TANIM
FastChat, büyük dil modeli tabanlı sohbet botlarını eğitmek, sunmak ve değerlendirmek için açık bir platformdur. Yeterli belleğiniz yoksa yukarıdaki komutlara --load-8bit ekleyerek 8 bit sıkıştırmayı etkinleştirebilirsiniz. Bu, model kalitesini biraz düşürerek bellek kullanımını yaklaşık yarı yarıya azaltabilir. CPU, GPU ve Metal arka uç ile uyumludur. 13 bit sıkıştırmalı Vicuna-8B, tek bir NVIDIA 3090/4080/T4/V100(16GB) GPU üzerinde çalışabilir. Buna ek olarak, GPU'nuza sığmayan ağırlıkları CPU belleğine boşaltmak için yukarıdaki komutlara --cpu-offloading ekleyebilirsiniz. Bu, 8 bit sıkıştırmanın etkinleştirilmesini ve yalnızca linux işletim sistemlerinde bulunan bitsandbytes paketinin yüklenmesini gerektirir.
Özellikler
- Son teknoloji modeller için ağırlıklar, eğitim kodu ve değerlendirme kodu
- Web kullanıcı arabirimi ve OpenAI uyumlu RESTful API'ler içeren dağıtılmış çok modelli bir hizmet sistemi
- Büyük dil modellerini eğitmek, sunmak ve değerlendirmek için
- Ağırlık dönüştürme için CPU RAM gereksinimini azaltın
- Komut Satırı Arayüzü ile Çıkarım
- Desteklenen birkaç model
Programlama dili
Python
Kategoriler
Bu, https://sourceforge.net/projects/fastchat.mirror/ adresinden de alınabilen bir uygulamadır. Ücretsiz Operatif Sistemlerimizden birinden en kolay şekilde online olarak çalıştırılabilmesi için OnWorks üzerinde barındırılmıştır.
