Ini adalah aplikasi Linux bernama FastChat yang rilis terbarunya dapat diunduh sebagai Releasev0.2.30.zip. Ini dapat dijalankan secara online di penyedia hosting gratis OnWorks untuk workstation.
Unduh dan jalankan secara online aplikasi bernama FastChat dengan OnWorks ini secara gratis.
Ikuti petunjuk ini untuk menjalankan aplikasi ini:
- 1. Download aplikasi ini di PC Anda.
- 2. Masuk ke file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan username yang anda inginkan.
- 3. Upload aplikasi ini di filemanager tersebut.
- 4. Jalankan emulator online OnWorks Linux atau Windows online atau emulator online MACOS dari situs web ini.
- 5. Dari OS Linux OnWorks yang baru saja Anda mulai, buka file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang Anda inginkan.
- 6. Download aplikasinya, install dan jalankan.
Tangkapan layar
Ad
Obrolan Cepat
DESKRIPSI
FastChat adalah platform terbuka untuk melatih, melayani, dan mengevaluasi chatbot berbasis model bahasa besar. Jika Anda tidak memiliki cukup memori, Anda dapat mengaktifkan kompresi 8-bit dengan menambahkan --load-8bit ke perintah di atas. Ini dapat mengurangi penggunaan memori sekitar setengahnya dengan kualitas model yang sedikit menurun. Ini kompatibel dengan CPU, GPU, dan backend Metal. Vicuna-13B dengan kompresi 8-bit dapat berjalan pada satu GPU NVIDIA 3090/4080/T4/V100(16GB). Selain itu, Anda dapat menambahkan --cpu-offloading ke perintah di atas untuk memindahkan beban yang tidak sesuai dengan GPU Anda ke memori CPU. Ini membutuhkan kompresi 8-bit untuk diaktifkan dan paket bitsandbytes harus diinstal, yang hanya tersedia di sistem operasi linux.
Fitur
- Bobot, kode pelatihan, dan kode evaluasi untuk model canggih
- Sistem penyajian multi-model terdistribusi dengan Web UI dan RESTful API yang kompatibel dengan OpenAI
- Untuk melatih, menyajikan, dan mengevaluasi model bahasa besar
- Kurangi persyaratan RAM CPU untuk konversi berat
- Inferensi dengan Antarmuka Baris Perintah
- Beberapa model yang didukung
Bahasa Pemrograman
Ular sanca
Kategori
Ini adalah aplikasi yang juga dapat diambil dari https://sourceforge.net/projects/fastchat.mirror/. Itu telah dihosting di OnWorks untuk dijalankan secara online dengan cara termudah dari salah satu Sistem Operasi gratis kami.
