ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ DeepSpeed ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ເປັນ v0.17.6PatchReleasesourcecode.tar.gz. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີ OnWorks ສໍາລັບສະຖານີບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ DeepSpeed ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
ໂຄງການ DeepSpeed
ລາຍລະອຽດ
DeepSpeed ແມ່ນຊຸດຊອບແວການເພີ່ມປະສິດທິພາບການຮຽນຮູ້ເລິກທີ່ງ່າຍຕໍ່ການໃຊ້ທີ່ຊ່ວຍໃຫ້ຂະຫນາດແລະຄວາມໄວທີ່ບໍ່ເຄີຍມີມາກ່ອນສໍາລັບການຝຶກອົບຮົມການຮຽນຮູ້ເລິກແລະການສະຫຼຸບ. ດ້ວຍ DeepSpeed ທ່ານສາມາດ:
1. ຮູບແບບລົດໄຟ/ການອ້າງອີງທີ່ໜາແໜ້ນ ຫຼື ໜາແໜ້ນ ທີ່ມີຕົວກໍານົດການຫຼາຍຕື້ ຫຼື ພັນຕື້.
2. ບັນລຸການສົ່ງຜ່ານລະບົບທີ່ດີເລີດ ແລະຂະຫຍາຍປະສິດທິພາບເປັນພັນໆ GPUs
3. ການຝຶກອົບຮົມ/ການອ້າງອິງກ່ຽວກັບລະບົບ GPU ທີ່ຈຳກັດຊັບພະຍາກອນ
4. ບັນລຸການ latency ຕ່ໍາທີ່ບໍ່ເຄີຍມີມາກ່ອນແລະ throughput ສູງສໍາລັບການ inference
5. ບັນລຸການບີບອັດທີ່ຮຸນແຮງສໍາລັບການ latency inference unparalleled ແລະການຫຼຸດຜ່ອນຂະຫນາດຕົວແບບທີ່ມີຄ່າໃຊ້ຈ່າຍຕ່ໍາ.
DeepSpeed ສະຫນອງການລວມກັນຂອງການປະດິດສ້າງຂອງລະບົບ, ເຊິ່ງເຮັດໃຫ້ການຝຶກອົບຮົມ DL ຂະຫນາດໃຫຍ່ມີປະສິດທິພາບ, ແລະມີປະສິດທິພາບ, ປັບປຸງຄວາມສະດວກໃນການນໍາໃຊ້ຢ່າງຫຼວງຫຼາຍ, ແລະກໍານົດຂອບເຂດການຝຶກອົບຮົມ DL ຄືນໃໝ່ໃນແງ່ຂອງຂະຫນາດທີ່ເປັນໄປໄດ້. ນະວັດຕະກໍາເຫຼົ່ານີ້ເຊັ່ນ ZeRO, 3D-Parallelism, DeepSpeed-MoE, ZeRO-Infinity, ແລະອື່ນໆແມ່ນຕົກຢູ່ພາຍໃຕ້ເສົາຄ້ໍາການຝຶກອົບຮົມ.
ຄຸນລັກສະນະ
- DeepSpeed ນໍາເອົາການປະດິດສ້າງໃນເຕັກໂນໂລຊີຂະຫນານເຊັ່ນ tensor, pipeline, ຜູ້ຊ່ຽວຊານແລະ ZeRO-parallelism, ແລະປະສົມປະສານໃຫ້ເຂົາເຈົ້າກັບ kernels inference custom ປະສິດທິພາບສູງ, ການເພີ່ມປະສິດທິພາບການສື່ສານແລະເຕັກໂນໂລຊີຄວາມຊົງຈໍາ heterogeneous ເພື່ອເຮັດໃຫ້ inference ໃນລະດັບທີ່ບໍ່ເຄີຍມີມາກ່ອນ, ໃນຂະນະທີ່ບັນລຸ latency ທີ່ບໍ່ເຄີຍມີມາກ່ອນ, ໂດຍຜ່ານການແລະ. ການຫຼຸດຜ່ອນຄ່າໃຊ້ຈ່າຍ. ອົງປະກອບທີ່ເປັນລະບົບຂອງເຕັກໂນໂລຊີລະບົບສໍາລັບການ inference ຕົກຢູ່ພາຍໃຕ້ເສົາຫຼັກ inference
- ເພື່ອເພີ່ມປະສິດຕິພາບການສົມມຸດຕິຖານຕື່ມອີກ, DeepSpeed ສະເຫນີເຕັກນິກການບີບອັດທີ່ງ່າຍຕໍ່ການໃຊ້ແລະມີຄວາມຍືດຫຍຸ່ນໃນການປະກອບສໍາລັບນັກຄົ້ນຄວ້າແລະນັກປະຕິບັດການບີບອັດແບບຈໍາລອງຂອງພວກເຂົາໃນຂະນະທີ່ສົ່ງຄວາມໄວໄວ, ຂະຫນາດຕົວແບບນ້ອຍກວ່າ, ແລະຄ່າໃຊ້ຈ່າຍໃນການບີບອັດຫຼຸດລົງຢ່າງຫຼວງຫຼາຍ. ຍິ່ງໄປກວ່ານັ້ນ, ການປະດິດສ້າງ SoTA ກ່ຽວກັບການບີບອັດເຊັ່ນ ZeroQuant ແລະ XTC ແມ່ນລວມຢູ່ພາຍໃຕ້ການບີບອັດ.
- ຫ້ອງສະໝຸດ DeepSpeed (ຫໍສະໝຸດນີ້) ປະຕິບັດ ແລະຫຸ້ມຫໍ່ນະວັດຕະກໍາ ແລະເທັກໂນໂລຍີໃນ DeepSpeed Training, Inference and Compression Pillars ເຂົ້າໄປໃນບ່ອນເກັບມ້ຽນແບບເປີດທີ່ໃຊ້ງ່າຍອັນດຽວ. ມັນອະນຸຍາດໃຫ້ປະກອບງ່າຍຂອງຫຼາຍລັກສະນະພາຍໃນການຝຶກອົບຮົມດຽວ, inference ຫຼືທໍ່ compression. ຫໍສະໝຸດ DeepSpeed ຖືກຮັບຮອງເອົາຢ່າງໜັກໂດຍຊຸມຊົນ DL, ແລະໄດ້ຖືກນໍາໃຊ້ເພື່ອເປີດໃຊ້ບາງຕົວແບບທີ່ມີປະສິດທິພາບທີ່ສຸດ.
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/deepspeed.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
