Ito ang Linux app na pinangalanang Web LLM na ang pinakabagong release ay maaaring ma-download bilang v0.2.0.zip. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang Web LLM na may OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Simulan ang OnWorks Linux online o Windows online emulator o MACOS online emulator mula sa website na ito.
- 5. Mula sa OnWorks Linux OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application, i-install ito at patakbuhin ito.
MGA LALAKI
Ad
Web LLM
DESCRIPTION
Ang WebLLM ay isang modular, nako-customize na javascript package na direktang nagdadala ng mga chat ng modelo ng wika sa mga web browser na may hardware acceleration. Lahat ay tumatakbo sa loob ng browser na walang suporta sa server at pinabilis sa WebGPU. Maaari kaming magdala ng maraming masasayang pagkakataon para bumuo ng mga AI assistant para sa lahat at paganahin ang privacy habang tinatangkilik ang GPU acceleration. Nag-aalok ang WebLLM ng isang minimalist at modular na interface upang ma-access ang chatbot sa browser. Ang WebLLM package mismo ay hindi kasama ng UI, at idinisenyo sa isang modular na paraan upang i-hook sa alinman sa mga bahagi ng UI. Ang sumusunod na snippet ng code ay nagpapakita ng isang simpleng halimbawa na bumubuo ng isang streaming na tugon sa isang webpage.
Mga tampok
- Ang WebLLM ay may kasamang suporta sa API para sa WebWorker upang mai-hook mo ang proseso ng pagbuo sa isang hiwalay na thread ng manggagawa upang ang pag-compute sa webworker ay hindi makagambala sa UI
- Makakahanap ka ng kumpletong halimbawa ng chat app sa mga halimbawa/simple-chat
- Gumagana ang WebLLM bilang isang kasamang proyekto ng MLC LLM
- Ginagamit nitong muli ang artifact ng modelo at bumubuo ng daloy ng MLC LLM
- Bumuo ng WebLLM Package Mula sa Pinagmulan
- Ang WebLLM package ay isang web runtime na idinisenyo para sa MLC LLM
Wika ng Programming
TypeScript
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/web-llm.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
