Questa è l'app Linux denominata llama2.c, la cui ultima versione può essere scaricata come llama2.csourcecode.tar.gz. Può essere eseguita online sul provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online gratuitamente questa app denominata llama2.c con OnWorks.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avviare l'emulatore online OnWorks Linux o Windows online o l'emulatore online MACOS da questo sito Web.
- 5. Dal sistema operativo OnWorks Linux che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione, installala ed eseguila.
IMMAGINI:
lama2.c
DESCRIZIONE:
llama2.c è un'implementazione minimalista dell'architettura del modello di linguaggio Llama 2, progettata per essere eseguita interamente in C puro. Creato da Andrej Karpathy, questo progetto offre un framework didattico e leggero per eseguire inferenze su piccoli modelli Llama 2 senza dipendenze esterne. Fornisce una pipeline completa di addestramento e inferenza: i modelli possono essere addestrati in PyTorch e successivamente eseguiti utilizzando un programma C conciso di 700 righe (run.c). Sebbene tecnicamente possa caricare i modelli Llama 2 ufficiali di Meta, il supporto attuale è limitato alla precisione fp32, il che significa che l'uso pratico è limitato a modelli fino a circa 7 miliardi di parametri. L'obiettivo di llama2.c è dimostrare come un'implementazione compatta e trasparente possa eseguire inferenze significative anche con modelli di piccole dimensioni, enfatizzando semplicità, chiarezza e accessibilità. Il progetto si basa sugli insegnamenti tratti da nanoGPT e trae ispirazione da llama.cpp, concentrandosi invece sul minimalismo e sul valore didattico rispetto alle prestazioni su larga scala.
Caratteristiche
- Implementa l'architettura completa di Llama 2 sia per la formazione che per l'inferenza
- Fornisce un motore di inferenza compatto basato su C da 700 righe (run.c)
- Consente l'addestramento in PyTorch e l'esecuzione di modelli direttamente in C
- Supporta la precisione del modello fp32 per LLM più piccoli e di scala educativa
- Offre un'implementazione pulita e senza dipendenze per uno studio e una modifica facili
- Ispirato da llama.cpp ma progettato per semplicità e minimalismo
Linguaggio di programmazione
C, Pitone
Categorie
Questa applicazione può essere scaricata anche da https://sourceforge.net/projects/llama2-c.mirror/. È ospitata su OnWorks per poter essere eseguita online nel modo più semplice da uno dei nostri sistemi operativi gratuiti.