Ito ang Linux app na pinangalanang DeepSpeed na ang pinakabagong release ay maaaring ma-download bilang v0.17.6PatchReleasesourcecode.tar.gz. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang DeepSpeed with OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Simulan ang OnWorks Linux online o Windows online emulator o MACOS online emulator mula sa website na ito.
- 5. Mula sa OnWorks Linux OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application, i-install ito at patakbuhin ito.
MGA LALAKI
Ad
DeepSpeed
DESCRIPTION
Ang DeepSpeed ay isang madaling-gamitin na deep learning optimization software suite na nagbibigay-daan sa hindi pa nagagawang sukat at bilis para sa Deep Learning Training at Inference. Sa DeepSpeed maaari kang:
1. Sanayin/Paghinuha ang mga siksik o kalat-kalat na modelo na may bilyun-bilyon o trilyong parameter
2. Makamit ang mahusay na throughput ng system at mahusay na sukat sa libu-libong GPU
3. Train/Inference sa resource constrained GPU system
4. Makamit ang hindi pa nagagawang mababang latency at mataas na throughput para sa hinuha
5. Makamit ang matinding compression para sa isang walang kapantay na latency ng inference at pagbabawas ng laki ng modelo na may mababang gastos
Nag-aalok ang DeepSpeed ng isang kumbinasyon ng mga inobasyon ng system, na ginawang epektibo ang malawakang pagsasanay sa DL, at mahusay, lubos na pinahusay na kadalian ng paggamit, at muling tinukoy ang landscape ng pagsasanay sa DL sa mga tuntunin ng sukat na posible. Ang mga inobasyong ito tulad ng ZeRO, 3D-Parallelism, DeepSpeed-MoE, ZeRO-Infinity, atbp. ay nasa ilalim ng training pillar.
Mga tampok
- Pinagsasama-sama ng DeepSpeed ang mga inobasyon sa parallelism na teknolohiya tulad ng tensor, pipeline, expert at ZeRO-parallelism, at pinagsasama ang mga ito sa mataas na performance na custom inference kernels, communication optimizations at heterogenous memory technologies para paganahin ang inference sa hindi pa naganap na sukat, habang nakakamit ang walang kapantay na latency, throughput at pagbabawas ng gastos. Ang sistematikong komposisyon na ito ng mga teknolohiya ng system para sa hinuha ay nasa ilalim ng haligi ng hinuha
- Upang higit pang pataasin ang kahusayan sa paghuhula, nag-aalok ang DeepSpeed ng madaling gamitin at flexible-to-compose na mga diskarte sa compression para sa mga mananaliksik at practitioner na i-compress ang kanilang mga modelo habang naghahatid ng mas mabilis na bilis, mas maliit na laki ng modelo, at makabuluhang pinababa ang gastos sa compression. Bukod dito, ang mga inobasyon ng SoTA sa compression tulad ng ZeroQuant at XTC ay kasama sa ilalim ng compression pillar.
- Ang DeepSpeed library (itong repositoryo) ay nagpapatupad at nag-package ng mga inobasyon at teknolohiya sa DeepSpeed Training, Inference at Compression Pillars sa iisang madaling gamitin, open-sourced na repository. Ito ay nagbibigay-daan para sa madaling komposisyon ng maraming mga tampok sa loob ng isang solong pagsasanay, hinuha o compression pipeline. Ang DeepSpeed Library ay lubos na pinagtibay ng komunidad ng DL, at ginamit upang paganahin ang ilan sa pinakamakapangyarihang mga modelo
Wika ng Programming
Sawa
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/deepspeed.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
