ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ FastChat ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ໃນນາມ Releasev0.2.30.zip. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນ OnWorks ຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີສໍາລັບບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ FastChat ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
FastChat
ລາຍລະອຽດ
FastChat ເປັນເວທີເປີດສໍາລັບການຝຶກອົບຮົມ, ການບໍລິການ, ແລະການປະເມີນຜົນຮູບແບບພາສາຂະຫນາດໃຫຍ່ chatbots. ຖ້າທ່ານບໍ່ມີຫນ່ວຍຄວາມຈໍາພຽງພໍ, ທ່ານສາມາດເປີດໃຊ້ການບີບອັດ 8-bit ໂດຍການເພີ່ມ --load-8bit ກັບຄໍາສັ່ງຂ້າງເທິງ. ນີ້ສາມາດຫຼຸດຜ່ອນການໃຊ້ຫນ່ວຍຄວາມຈໍາປະມານເຄິ່ງຫນຶ່ງດ້ວຍຄຸນນະພາບຕົວແບບທີ່ຊຸດໂຊມເລັກນ້ອຍ. ມັນເຂົ້າກັນໄດ້ກັບ CPU, GPU, ແລະໂລຫະ backend. Vicuna-13B ດ້ວຍການບີບອັດ 8 ບິດສາມາດແລ່ນຢູ່ໃນ GPU NVIDIA 3090/4080/T4/V100(16GB) ດຽວ. ນອກຈາກນັ້ນ, ທ່ານສາມາດເພີ່ມ --cpu-offloading ກັບຄໍາສັ່ງຂ້າງເທິງເພື່ອ offload ນ້ໍາຫນັກທີ່ບໍ່ເຫມາະສົມກັບ GPU ຂອງທ່ານໃສ່ຫນ່ວຍຄວາມຈໍາ CPU. ອັນນີ້ຕ້ອງການການບີບອັດ 8-bit ເພື່ອເປີດໃຊ້ງານ ແລະຊຸດ bitsandbytes ຈະຖືກຕິດຕັ້ງ, ເຊິ່ງມີຢູ່ໃນລະບົບປະຕິບັດການ linux ເທົ່ານັ້ນ.
ຄຸນລັກສະນະ
- ນ້ຳໜັກ, ລະຫັດການຝຶກອົບຮົມ, ແລະລະຫັດການປະເມີນສຳລັບຕົວແບບທີ່ທັນສະໄໝ
- ລະບົບການໃຫ້ບໍລິການຫຼາຍແບບທີ່ແຈກຢາຍດ້ວຍ Web UI ແລະ OpenAI-compatible RESTful APIs
- ສໍາລັບການຝຶກອົບຮົມ, ຮັບໃຊ້, ແລະການປະເມີນແບບຈໍາລອງພາສາຂະຫນາດໃຫຍ່
- ຫຼຸດຜ່ອນຄວາມຕ້ອງການຂອງ CPU RAM ຂອງການແປງນ້ໍາຫນັກ
- Inference ກັບການໂຕ້ຕອບເສັ້ນຄໍາສັ່ງ
- ຮູບແບບທີ່ສະຫນັບສະຫນູນຫຼາຍ
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/fastchat.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.