Ito ang Linux app na pinangalanang Petals na ang pinakabagong release ay maaaring ma-download bilang v2.2.0_Falcon,macOSsupport,at higit pa.zip. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang Petals na may OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Simulan ang OnWorks Linux online o Windows online emulator o MACOS online emulator mula sa website na ito.
- 5. Mula sa OnWorks Linux OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application, i-install ito at patakbuhin ito.
MGA LALAKI
Ad
Mga Petals
DESCRIPTION
Magpatakbo ng 100B+ na mga modelo ng wika sa bahay, BitTorrent-style. Magkatuwang na magpatakbo ng mga modelo ng malalaking wika tulad ng BLOOM-176B — ni-load mo ang isang maliit na bahagi ng modelo, pagkatapos ay nakipagtulungan sa mga taong naglilingkod sa iba pang mga bahagi upang magpatakbo ng inference o fine-tuning. Ang single-batch inference ay tumatakbo sa ≈ 1 sec bawat hakbang (token) — hanggang 10x na mas mabilis kaysa sa pag-offload, sapat na para sa mga chatbot at iba pang interactive na app. Ang parallel inference ay umaabot sa daan-daang token/seg. Higit pa sa mga classic language model API — maaari kang gumamit ng anumang fine-tuning at sampling na pamamaraan, magsagawa ng mga custom na path sa pamamagitan ng modelo, o makita ang mga nakatagong estado nito. Makukuha mo ang ginhawa ng isang API na may kakayahang umangkop ng PyTorch. Maaari mo ring i-host ang BLOOMZ, isang bersyon ng BLOOM na pinong-tune upang sundin ang mga tagubilin ng tao sa zero-shot regime — palitan lang ang bloom-petals ng bloomz-petals. Ang mga petals ay nagpapatakbo ng malalaking modelo ng wika tulad ng BLOOM-176B nang sama-sama — nilo-load mo ang isang maliit na bahagi ng modelo, pagkatapos ay nakipagtulungan sa mga taong naglilingkod sa iba pang mga bahagi upang magpatakbo ng inference o fine-tuning.
Mga tampok
- Ang mga petals ay nagpapatakbo ng malalaking modelo ng wika tulad ng BLOOM-176B nang magkakasama
- Ang single-batch inference ay tumatakbo sa ≈ 1 sec bawat hakbang (token)
- Higit pa sa mga klasikong wika ng modelong API
- Maaari kang gumamit ng anumang paraan ng fine-tuning at sampling
- Makukuha mo ang ginhawa ng isang API na may kakayahang umangkop ng PyTorch
- Ang parallel inference ay umaabot sa daan-daang token/seg
Wika ng Programming
Sawa
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/petals.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
