Ito ang Windows app na pinangalanang llama2.c na ang pinakabagong release ay maaaring ma-download bilang llama2.csourcecode.tar.gz. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang llama2.c gamit ang OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Magsimula ng anumang OS OnWorks online emulator mula sa website na ito, ngunit mas mahusay na Windows online emulator.
- 5. Mula sa OnWorks Windows OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application at i-install ito.
- 7. I-download ang Wine mula sa iyong mga Linux distributions software repository. Kapag na-install na, maaari mong i-double click ang app upang patakbuhin ang mga ito gamit ang Wine. Maaari mo ring subukan ang PlayOnLinux, isang magarbong interface sa ibabaw ng Wine na tutulong sa iyong mag-install ng mga sikat na programa at laro sa Windows.
Ang alak ay isang paraan upang patakbuhin ang software ng Windows sa Linux, ngunit walang kinakailangang Windows. Ang alak ay isang open-source na layer ng compatibility ng Windows na maaaring direktang magpatakbo ng mga program sa Windows sa anumang desktop ng Linux. Sa totoo lang, sinusubukan ng Wine na muling ipatupad ang sapat na Windows mula sa simula upang mapatakbo nito ang lahat ng mga Windows application na iyon nang hindi talaga nangangailangan ng Windows.
MGA LALAKI
Ad
llama2.c
DESCRIPTION
Ang llama2.c ay isang minimalist, end-to-end na LLM toolkit na nagbibigay-daan sa iyong sanayin ang isang Llama-2-style na modelo sa PyTorch at magpatakbo ng inference gamit ang isang ~700-line C program (run.c). Binibigyang-diin ng proyekto ang pagiging simple at edukasyon: ang arkitektura ng Llama-2 ay hard-coded, walang mga panlabas na dependency ng C, at makikita mo ang buong forward pass nang malinaw sa C. Sa kabila ng maliit na bakas ng paa, ito ay "full-stack": maaari kang magsanay ng maliliit na modelo (hal., 15M/42M/110M params mula sa mga interactive na param sa TinyStokens at pagkatapos ay direkta sa mga sample na tumatakbo sa mga tinyStories) laptop. Maaari mo ring i-export at patakbuhin ang mga modelo ng Meta's Llama-2 (kasalukuyang praktikal hanggang 7B dahil sa fp32 inference at mga limitasyon sa memorya), at subukan ang mga variant ng chat/Code Llama na may wastong mga tokenizer. Ang isang quantized int8 path (runq.c) ay binabawasan ang laki ng checkpoint (hal., 26GB→6.7GB para sa 7B) at nagpapabilis ng inference (hal., ~3× vs fp32 sa mga tala ng may-akda), na may katamtamang kalidad ng mga tradeoff.
Mga tampok
- Nagpapatakbo ng LLaMA 2 inference sa ~700 linya ng C
- Sinusuportahan ang paglo-load ng mga opisyal na modelo ng LLaMA 2 ng Meta (hanggang sa 7B params)
- Kasama ang mga script ng pagsasanay sa PyTorch para sa maliliit na modelo
- Pang-edukasyon, na walang mga panlabas na dependencies
- Tugma sa Linux, macOS, at Windows
- May inspirasyon ng llama.cpp, ngunit mas simple at mas minimal
Wika ng Programming
C, Python
Kategorya
Ito ay isang application na maaari ding kunin mula sa https://sourceforge.net/projects/llama-2-llm.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
