Dies ist die Linux-App namens LLamaSharp, deren neueste Version als v0.6.0-followmajorllama.cppchangessourcecode.zip heruntergeladen werden kann. Es kann online beim kostenlosen Hosting-Anbieter OnWorks für Workstations ausgeführt werden.
Laden Sie diese App namens LLamaSharp mit OnWorks kostenlos herunter und führen Sie sie online aus.
Befolgen Sie diese Anweisungen, um diese App auszuführen:
- 1. Diese Anwendung auf Ihren PC heruntergeladen.
- 2. Geben Sie in unserem Dateimanager https://www.onworks.net/myfiles.php?username=XXXXX den gewünschten Benutzernamen ein.
- 3. Laden Sie diese Anwendung in einem solchen Dateimanager hoch.
- 4. Starten Sie den OnWorks Linux-Online- oder Windows-Online-Emulator oder den MACOS-Online-Emulator von dieser Website.
- 5. Rufen Sie vom gerade gestarteten OnWorks Linux-Betriebssystem aus unseren Dateimanager https://www.onworks.net/myfiles.php?username=XXXXX mit dem gewünschten Benutzernamen auf.
- 6. Laden Sie die Anwendung herunter, installieren Sie sie und führen Sie sie aus.
SCREENSHOTS
Ad
LLamaSharp
BESCHREIBUNG
Die C#/.NET-Bindung von llama.cpp. Es stellt APIs bereit, um die LLaMa-Modelle abzuleiten und in der lokalen Umgebung bereitzustellen. Es funktioniert sowohl unter Windows, Linux als auch MAC, ohne dass Sie llama.cpp selbst kompilieren müssen. Seine Leistung kommt der von llama.cpp nahe. Darüber hinaus bietet es Integrationen mit anderen Projekten wie BotSharp, um Anwendungen und Benutzeroberflächen auf höherer Ebene bereitzustellen.
Eigenschaften
- Modellinferenz und Chat-Sitzung
- LLamaSharp bietet zwei Möglichkeiten zum Ausführen von Inferenzen: LLamaExecutor und ChatSession
- Mit LLamaSharp müssen Sie kein C++-Projekt kompilieren und keine Skripts ausführen, um das Modell zu quantisieren, sondern können es einfach in C# ausführen.
- Wir bieten die Integration von ASP.NET Core
- Generierung, Tokenisierung und Detokenisierung von Einbettungen
- LLaMa-Modellinferenz
Programmiersprache
C#
Kategorien
Dies ist eine Anwendung, die auch von https://sourceforge.net/projects/llamasharp.mirror/ abgerufen werden kann. Es wurde in OnWorks gehostet, um es auf einfachste Weise online über eines unserer kostenlosen Betriebssysteme ausführen zu können.
