Ito ang Windows app na pinangalanang LLaMA.go na ang pinakabagong release ay maaaring ma-download bilang v1.4_ServerMode.zip. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang LLaMA.go gamit ang OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Magsimula ng anumang OS OnWorks online emulator mula sa website na ito, ngunit mas mahusay na Windows online emulator.
- 5. Mula sa OnWorks Windows OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application at i-install ito.
- 7. I-download ang Wine mula sa iyong mga Linux distributions software repository. Kapag na-install na, maaari mong i-double click ang app upang patakbuhin ang mga ito gamit ang Wine. Maaari mo ring subukan ang PlayOnLinux, isang magarbong interface sa ibabaw ng Wine na tutulong sa iyong mag-install ng mga sikat na programa at laro sa Windows.
Ang alak ay isang paraan upang patakbuhin ang software ng Windows sa Linux, ngunit walang kinakailangang Windows. Ang alak ay isang open-source na layer ng compatibility ng Windows na maaaring direktang magpatakbo ng mga program sa Windows sa anumang desktop ng Linux. Sa totoo lang, sinusubukan ng Wine na muling ipatupad ang sapat na Windows mula sa simula upang mapatakbo nito ang lahat ng mga Windows application na iyon nang hindi talaga nangangailangan ng Windows.
MGA LALAKI
Ad
LLaMA.go
DESCRIPTION
Ang llama.go ay parang llama.cpp sa purong Golang. Ang code ng proyekto ay batay sa maalamat na ggml.cpp na balangkas ni Georgi Gerganov na nakasulat sa C++ na may parehong saloobin sa pagganap at kagandahan. Ang parehong mga modelo ay nag-iimbak ng mga FP32 na timbang, kaya kakailanganin mo ng hindi bababa sa 32Gb ng RAM (hindi VRAM o GPU RAM) para sa LLaMA-7B. Doble sa 64Gb para sa LLaMA-13B.
Mga tampok
- Tensor math sa purong Golang
- Ipatupad ang LLaMA neural net architecture at pag-load ng modelo
- Subukan gamit ang mas maliit na modelo ng LLaMA-7B
- Tiyaking gumagana ang inference ng Go sa parehong paraan tulad ng C++
- Let Go shine! Paganahin ang multi-threading at pagmemensahe upang mapalakas ang pagganap
- Cross-patform compatibility sa Mac, Linux at Windows
Wika ng Programming
Go
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/llama-go.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
