ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ Pruna AI ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ໃນນາມ Releasev0.2.9sourcecode.tar.gz. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີ OnWorks ສໍາລັບສະຖານີບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ Pruna AI ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
Pruna AI
ລາຍລະອຽດ
Pruna ເປັນແຫຼ່ງເປີດ, ສາມາດເປັນເຈົ້າພາບ AI inference engine ທີ່ອອກແບບມາເພື່ອຊ່ວຍໃຫ້ທີມງານນໍາໃຊ້ແລະຈັດການຮູບແບບພາສາຂະຫນາດໃຫຍ່ (LLMs) ປະສິດທິພາບໃນທົ່ວໂຄງສ້າງພື້ນຖານເອກະຊົນຫຼືປະສົມ. ສ້າງຂຶ້ນດ້ວຍການປະຕິບັດ ແລະ ergonomics ຂອງຜູ້ພັດທະນາຢູ່ໃນໃຈ, Pruna ເຮັດໃຫ້ຂັ້ນຕອນການເຮັດວຽກແບບ inference ງ່າຍຂຶ້ນໂດຍການເປີດໃຊ້ງານແບບຫຼາຍແບບ, ການປັບຂະໜາດອັດຕະໂນມັດ, ການຈັດສັນຊັບພະຍາກອນ GPU ແລະຄວາມເຂົ້າກັນໄດ້ກັບແບບ open-source ທີ່ນິຍົມ. ມັນເຫມາະສົມສໍາລັບບໍລິສັດຫຼືທີມງານທີ່ຊອກຫາເພື່ອຫຼຸດຜ່ອນການເອື່ອຍອີງຈາກ APIs ພາຍນອກໃນຂະນະທີ່ຮັກສາຄວາມໄວ, ປະສິດທິພາບຄ່າໃຊ້ຈ່າຍ, ແລະການຄວບຄຸມຢ່າງເຕັມທີ່ກ່ຽວກັບຂໍ້ມູນຂອງເຂົາເຈົ້າແລະ AI stack. ດ້ວຍການສຸມໃສ່ການຂະຫຍາຍແລະການສັງເກດການ, Pruna ອະນຸຍາດໃຫ້ວິສະວະກອນສາມາດຂະຫນາດຄໍາຮ້ອງສະຫມັກ LLM ຈາກຕົ້ນແບບໄປສູ່ການຜະລິດຢ່າງປອດໄພແລະເຊື່ອຖືໄດ້.
ຄຸນລັກສະນະ
- ເຄື່ອງຈັກທີ່ເປັນເຈົ້າພາບຂອງຕົນເອງສໍາລັບການຄຸ້ມຄອງ LLM inference
- ສະຫນັບສະຫນູນ orchestration ຫຼາຍຮູບແບບແລະການຈັດເສັ້ນທາງ
- ປັບຂະໜາດອັດຕະໂນມັດແບບໄດນາມິກສຳລັບການປັບແຕ່ງຊັບພະຍາກອນ
- ການກຳນົດເວລາທີ່ຮູ້ຈັກ GPU ແລະການດຸ່ນດ່ຽງການໂຫຼດ
- ເຂົ້າກັນໄດ້ກັບແບບ open-source ເຊັ່ນ LLaMA ແລະ Mistral
- HTTP ແລະ gRPC APIs ສໍາລັບການເຊື່ອມໂຍງງ່າຍ
- ຄວາມສາມາດໃນການສັງເກດການ ແລະການຕິດຕາມປະສິດທິພາບໃນຕົວ
- ການນຳໃຊ້ພ້ອມດ້ວຍການຮອງຮັບ Docker ແລະ Kubernetes
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/pruna-ai.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
