Dit is de Linux-app llama2.c, waarvan de nieuwste versie kan worden gedownload als llama2.csourcecode.tar.gz. Deze kan online worden uitgevoerd via de gratis hostingprovider OnWorks voor werkstations.
Download en gebruik online gratis deze app met de naam llama2.c met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start de OnWorks Linux online of Windows online emulator of MACOS online emulator vanaf deze website.
- 5. Ga vanuit het OnWorks Linux-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie, installeer hem en voer hem uit.
SCHERMSCHERMEN:
lama2.c
BESCHRIJVING:
llama2.c is een minimalistische implementatie van de Llama 2-taalmodelarchitectuur, ontworpen om volledig in pure C te draaien. Dit project, ontwikkeld door Andrej Karpathy, biedt een educatief en lichtgewicht framework voor het uitvoeren van inferentie op kleine Llama 2-modellen zonder externe afhankelijkheden. Het biedt een volledige trainings- en inferentiepijplijn: modellen kunnen worden getraind in PyTorch en later worden uitgevoerd met een beknopt C-programma van 700 regels (run.c). Hoewel het technisch gezien de officiële Llama 2-modellen van Meta kan laden, is de huidige ondersteuning beperkt tot fp32-precisie, wat betekent dat praktisch gebruik beperkt is tot modellen met parameters tot ongeveer 7B. Het doel van llama2.c is om te demonstreren hoe een compacte en transparante implementatie zinvolle inferentie kan uitvoeren, zelfs met kleine modellen, met de nadruk op eenvoud, duidelijkheid en toegankelijkheid. Het project bouwt voort op lessen uit nanoGPT en is geïnspireerd op llama.cpp, waarbij de nadruk ligt op minimalisme en educatieve waarde boven grootschalige prestaties.
Kenmerken
- Implementeert de volledige Llama 2-architectuur voor zowel training als inferentie
- Biedt een compacte, 700-regelige C-gebaseerde inferentie-engine (run.c)
- Maakt training in PyTorch mogelijk en het direct uitvoeren van modellen in C
- Ondersteunt de fp32-modelprecisie voor kleinere LLM's op onderwijsschaal
- Biedt een schone, afhankelijkheidsvrije implementatie voor eenvoudige studie en aanpassing
- Geïnspireerd door llama.cpp, maar ontworpen voor eenvoud en minimalisme
Programmeertaal
C, Python
Categorieën
Deze applicatie kan ook worden gedownload van https://sourceforge.net/projects/llama2-c.mirror/. Deze is gehost in OnWorks, zodat deze eenvoudig online kan worden uitgevoerd via een van onze gratis besturingssystemen.