Dit is de Linux-app genaamd LLamaSharp waarvan de nieuwste release kan worden gedownload als v0.6.0-followmajorllama.cppchangessourcecode.zip. Het kan online worden uitgevoerd in de gratis hostingprovider OnWorks voor werkstations.
Download en voer deze app genaamd LLamaSharp gratis online uit met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start de OnWorks Linux online of Windows online emulator of MACOS online emulator vanaf deze website.
- 5. Ga vanuit het OnWorks Linux-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie, installeer hem en voer hem uit.
SCREENSHOTS
Ad
LamaScherp
PRODUCTBESCHRIJVING
De C#/.NET-binding van lama.cpp. Het biedt API's om de LLaMa-modellen af te leiden en deze in de lokale omgeving te implementeren. Het werkt op zowel Windows, Linux als MAC zonder dat u llama.cpp zelf hoeft te compileren. De prestaties liggen dicht bij llama.cpp. Bovendien biedt het integraties met andere projecten zoals BotSharp om applicaties en UI van een hoger niveau te bieden.
Voordelen
- Modelinferentie en chatsessie
- LLamaSharp biedt twee manieren om gevolgtrekkingen uit te voeren: LLamaExecutor en ChatSession
- Met LLamaSharp hoeft u geen c++-project te compileren en scripts uit te voeren om het model te kwantiseren, maar voert u het gewoon uit in C#
- Wij verzorgen de integratie van ASP.NET kern
- Generatie van inbedding, tokenisatie en detokenisatie
- Gevolgtrekking uit het LLaMa-model
Programmeertaal
C#
Categorieën
Dit is een applicatie die ook kan worden opgehaald van https://sourceforge.net/projects/llamasharp.mirror/. Het is gehost in OnWorks zodat het op de eenvoudigste manier online kan worden uitgevoerd vanaf een van onze gratis besturingssystemen.
