Dies ist die Linux-App namens llama2.c, deren neueste Version als llama2.csourcecode.tar.gz heruntergeladen werden kann. Sie kann online beim kostenlosen Hosting-Anbieter OnWorks für Workstations ausgeführt werden.
Laden Sie diese App namens llama2.c kostenlos herunter und führen Sie sie online mit OnWorks aus.
Befolgen Sie diese Anweisungen, um diese App auszuführen:
- 1. Diese Anwendung auf Ihren PC heruntergeladen.
- 2. Geben Sie in unserem Dateimanager https://www.onworks.net/myfiles.php?username=XXXXX den gewünschten Benutzernamen ein.
- 3. Laden Sie diese Anwendung in einem solchen Dateimanager hoch.
- 4. Starten Sie den OnWorks Linux-Online- oder Windows-Online-Emulator oder den MACOS-Online-Emulator von dieser Website.
- 5. Rufen Sie vom gerade gestarteten OnWorks Linux-Betriebssystem aus unseren Dateimanager https://www.onworks.net/myfiles.php?username=XXXXX mit dem gewünschten Benutzernamen auf.
- 6. Laden Sie die Anwendung herunter, installieren Sie sie und führen Sie sie aus.
SCREENSHOTS:
llama2.c
BESCHREIBUNG:
llama2.c ist eine minimalistische Implementierung der Llama 2-Sprachmodellarchitektur, die vollständig in reinem C ausgeführt wird. Dieses von Andrej Karpathy erstellte Projekt bietet ein lehrreiches und leichtgewichtiges Framework zur Durchführung von Inferenzen an kleinen Llama 2-Modellen ohne externe Abhängigkeiten. Es bietet eine vollständige Trainings- und Inferenz-Pipeline: Modelle können in PyTorch trainiert und später mit einem kompakten 700-Zeilen-C-Programm (run.c) ausgeführt werden. Obwohl es technisch gesehen die offiziellen Llama 2-Modelle von Meta laden kann, ist die aktuelle Unterstützung auf fp32-Präzision beschränkt, was bedeutet, dass die praktische Verwendung auf Modelle mit bis zu etwa 7 Milliarden Parametern begrenzt ist. Das Ziel von llama2.c ist es zu zeigen, wie eine kompakte und transparente Implementierung selbst mit kleinen Modellen aussagekräftige Inferenzen durchführen kann, wobei Einfachheit, Klarheit und Zugänglichkeit im Vordergrund stehen. Das Projekt baut auf den Erkenntnissen von nanoGPT auf und ist von llama.cpp inspiriert, wobei der Schwerpunkt eher auf Minimalismus und pädagogischem Wert als auf Leistung im großen Maßstab liegt.
Eigenschaften
- Implementiert die vollständige Llama 2-Architektur für Training und Inferenz
- Bietet eine kompakte, 700 Zeilen umfassende C-basierte Inferenz-Engine (run.c)
- Ermöglicht das Training in PyTorch und das Ausführen von Modellen direkt in C
- Unterstützt die fp32-Modellpräzision für kleinere LLMs im Bildungsbereich
- Bietet eine saubere, abhängigkeitsfreie Implementierung für einfaches Studium und Modifikation
- Inspiriert von llama.cpp, aber auf Einfachheit und Minimalismus ausgelegt
Programmiersprache
C, Python
Kategorien
Diese Anwendung kann auch von https://sourceforge.net/projects/llama2-c.mirror/ heruntergeladen werden. Sie wurde in OnWorks gehostet, um sie auf einfachste Weise online von einem unserer kostenlosen Betriebssysteme aus ausführen zu können.