ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ DeepSpeed MII ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ໃນນາມ DeepSpeedMIIv0.0.8.zip. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີ OnWorks ສໍາລັບສະຖານີບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ຊື່ DeepSpeed MII ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
DeepSpeed MII
ລາຍລະອຽດ
MII ເຮັດໃຫ້ການອະທິຖານທີ່ຕ່ໍາແລະການນໍາໃຊ້ຜ່ານສູງເປັນໄປໄດ້, ຂັບເຄື່ອນໂດຍ DeepSpeed. ຊຸມຊົນແຫຼ່ງເປີດການຮຽນຮູ້ເລິກ (DL) ໄດ້ເຫັນການຂະຫຍາຍຕົວຢ່າງຫຼວງຫຼາຍໃນສອງສາມເດືອນຜ່ານມາ. ຮູບແບບການສ້າງຂໍ້ຄວາມທີ່ມີປະສິດທິພາບຢ່າງບໍ່ຫນ້າເຊື່ອເຊັ່ນ Bloom 176B, ຫຼືຮູບແບບການສ້າງຮູບພາບເຊັ່ນ: Stable Diffusion ແມ່ນມີໃຫ້ກັບທຸກຄົນທີ່ມີການເຂົ້າເຖິງສອງສາມມືຫຼືແມ້ກະທັ້ງ GPU ດຽວຜ່ານເວທີເຊັ່ນ: Hugging Face. ໃນຂະນະທີ່ແຫຼ່ງເປີດມີປະຊາທິປະໄຕໃນການເຂົ້າເຖິງຄວາມສາມາດຂອງ AI, ຄໍາຮ້ອງສະຫມັກຂອງພວກເຂົາຍັງຖືກຈໍາກັດໂດຍສອງປັດໃຈທີ່ສໍາຄັນ: ຄວາມລ່າຊ້າ inference ແລະຄ່າໃຊ້ຈ່າຍ. DeepSpeed-MII ເປັນຫ້ອງສະຫມຸດ python ແຫຼ່ງເປີດໃຫມ່ຈາກ DeepSpeed, ມີຈຸດປະສົງເພື່ອເຮັດໃຫ້ການຊີ້ຂາດ, latency ຕ່ໍາ, ຄ່າໃຊ້ຈ່າຍຕ່ໍາຂອງຕົວແບບທີ່ມີປະສິດທິພາບບໍ່ພຽງແຕ່ເປັນໄປໄດ້, ແຕ່ຍັງເຂົ້າເຖິງໄດ້ງ່າຍ. MII ສະຫນອງການເຂົ້າເຖິງການປະຕິບັດການເພີ່ມປະສິດທິພາບສູງຂອງຫລາຍພັນແບບ DL ທີ່ໃຊ້ກັນຢ່າງກວ້າງຂວາງ. ຮູບແບບທີ່ຮອງຮັບ MII ບັນລຸຄວາມໜຽວ ແລະຕົ້ນທຶນຕໍ່າກວ່າຫຼາຍເມື່ອທຽບໃສ່ກັບການປະຕິບັດເດີມ.
ຄຸນລັກສະນະ
- MII ສະຫນອງການເຂົ້າເຖິງການປະຕິບັດການເພີ່ມປະສິດທິພາບສູງຂອງຫລາຍພັນແບບ DL ທີ່ໃຊ້ກັນຢ່າງກວ້າງຂວາງ
- ຮູບແບບທີ່ຮອງຮັບ MII ບັນລຸຄວາມໜຽວ ແລະຕົ້ນທຶນຕໍ່າກວ່າຫຼາຍເມື່ອທຽບໃສ່ກັບການປະຕິບັດເດີມ
- MII ນໍາໃຊ້ຊຸດການເພີ່ມປະສິດທິພາບຢ່າງກວ້າງຂວາງຈາກ DeepSpeed-Inference ເຊັ່ນ: ການຕື່ມຂໍ້ມູນໃສ່ກັບຫມໍ້ແປງ.
- ການສະແດງທີ່ທັນສະໄໝ
- MII ສະຫນັບສະຫນູນການໃຊ້ລາຄາຕໍ່າຂອງຕົວແບບເຫຼົ່ານີ້ທັງຢູ່ໃນສະຖານທີ່ແລະໃນ Azure ຜ່ານ AML ດ້ວຍລະຫັດສອງສາມເສັ້ນ.
- ການຕັດ tensor ອັດຕະໂນມັດສໍາລັບການ inference multi-GPU, quantization on-the-fly ດ້ວຍ ZeroQuant
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/deepspeed-mii.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
