ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ Distributed Llama ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ເປັນ 0.16.0sourcecode.tar.gz. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີ OnWorks ສໍາລັບສະຖານີບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ Distributed Llama ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
Llama ແຈກຢາຍ
ລາຍລະອຽດ
Distributed Llama ແມ່ນໂຄງການ open-source ທີ່ຊ່ວຍໃຫ້ຜູ້ໃຊ້ສາມາດເຊື່ອມຕໍ່ອຸປະກອນໃນເຮືອນຫຼາຍອັນເຂົ້າໄປໃນກຸ່ມທີ່ມີອໍານາດເພື່ອເລັ່ງການ inference ຮູບແບບພາສາຂະຫນາດໃຫຍ່ (LLM). ໂດຍການໃຊ້ຄວາມຂະໜານຂອງ tensor ແລະ synchronization ຄວາມໄວສູງຜ່ານອີເທີເນັດ, ມັນຊ່ວຍໃຫ້ມີປະສິດຕິພາບໄວຂຶ້ນຍ້ອນວ່າອຸປະກອນເພີ່ມເຕີມຖືກເພີ່ມເຂົ້າໃນກຸ່ມ. ລະບົບສະຫນັບສະຫນູນລະບົບປະຕິບັດການຕ່າງໆ, ລວມທັງ Linux, macOS, ແລະ Windows, ແລະຖືກປັບປຸງໃຫ້ເຫມາະສົມສໍາລັບທັງ ARM ແລະ x86_64 AVX2 CPUs.
ຄຸນລັກສະນະ
- ການສ້າງກຸ່ມກັບອຸປະກອນເຮືອນຫຼາຍອັນ
- ການເລັ່ງຂອງ LLM inference
- ການປະຕິບັດຂະຫນານ tensor
- synchronization Ethernet ຄວາມໄວສູງ
- ຮອງຮັບ Linux, macOS, ແລະ Windows
- ການເພີ່ມປະສິດທິພາບສໍາລັບ ARM ແລະ x86_64 AVX2 CPUs
- ການຂະຫຍາຍຕົວກັບອຸປະກອນເພີ່ມເຕີມ
- ການມີຢູ່ໃນແຫຼ່ງເປີດ
- ສະຫນັບສະຫນູນຊຸມຊົນຢ່າງຫ້າວຫັນ
ພາສາການຂຽນໂປຣແກຣມ
C ++
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/distributed-llama.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
