Ito ang Linux app na pinangalanang LLamaSharp na ang pinakabagong release ay maaaring ma-download bilang v0.6.0-followmajorllama.cppchangessourcecode.zip. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang LLamaSharp sa OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Simulan ang OnWorks Linux online o Windows online emulator o MACOS online emulator mula sa website na ito.
- 5. Mula sa OnWorks Linux OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application, i-install ito at patakbuhin ito.
MGA LALAKI
Ad
LLamaSharp
DESCRIPTION
Ang C#/.NET binding ng llama.cpp. Nagbibigay ito ng mga API upang ipahiwatig ang Mga Modelo ng LLaMa at i-deploy ito sa lokal na kapaligiran. Gumagana ito sa parehong Windows, Linux at MAC nang walang kinakailangan para sa pag-compile ng llama.cpp sa iyong sarili. Ang pagganap nito ay malapit sa llama.cpp. Higit pa rito, nagbibigay ito ng mga integrasyon sa iba pang mga proyekto tulad ng BotSharp upang magbigay ng mas mataas na antas ng mga aplikasyon at UI.
Mga tampok
- Modelong Inference at Chat Session
- Nagbibigay ang LLamaSharp ng dalawang paraan upang magpatakbo ng hinuha: LLamaExecutor at ChatSession
- Sa LLamaSharp hindi mo kailangang mag-compile ng c++ na proyekto at magpatakbo ng mga script para ma-quantize ang modelo, sa halip, patakbuhin lang ito sa C#
- Nagbibigay kami ng pagsasama ng ASP.NET ubod
- Pagbuo ng mga pag-embed, tokenization at detokenization
- Hinuha ng modelo ng LLaMa
Wika ng Programming
C#
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/llamasharp.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
