Dit is de Linux-app genaamd Kaleidoscope-SDK waarvan de nieuwste release kan worden gedownload als caleidoscope-sdkv0.8.0.zip. Het kan online worden uitgevoerd in de gratis hostingprovider OnWorks voor werkstations.
Download en voer deze app met de naam Kaleidoscope-SDK gratis online uit met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start de OnWorks Linux online of Windows online emulator of MACOS online emulator vanaf deze website.
- 5. Ga vanuit het OnWorks Linux-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie, installeer hem en voer hem uit.
SCREENSHOTS
Ad
Caleidoscoop-SDK
PRODUCTBESCHRIJVING
caleidoscope-sdk is een Python-module die wordt gebruikt om te communiceren met grote taalmodellen die worden gehost via de Kaleidoscope-service die beschikbaar is op: https://github.com/VectorInstitute/kaleidoscope. Het biedt een eenvoudige interface om LLM's op een HPC-cluster te starten, waarbij ze worden gevraagd om basisfuncties uit te voeren, zoals het genereren van tekst, maar ook om tussentijdse informatie uit het model op te halen, zoals logkansen en activeringen. Gebruikers moeten zich authenticeren met hun Vector Institute-clusterreferenties. Dit kan interactief worden gedaan door een clientobject te instantiëren. Hiermee wordt een authenticatietoken gegenereerd dat voor alle volgende verzoeken wordt gebruikt. Het token verloopt na 30 dagen, waarna de gebruiker wordt gevraagd zich opnieuw te verifiëren.
Kenmerken
- Toont een lijst met alle actieve LLM's die zijn geïnstantieerd door de modelservice
- Laadt een LLM via de modelservice
- Retourneert een LLM-tekstgeneratie op basis van promptinvoer
- Retourneert alle modulenamen in het LLM neurale netwerk
- Haalt alle activaties op voor een set modules
- Vereist Python-versie >= 3.8
Programmeertaal
Python
Categorieën
Dit is een applicatie die ook kan worden opgehaald van https://sourceforge.net/projects/kaleidoscope-sdk.mirror/. Het is gehost in OnWorks, zodat het op de gemakkelijkste manier online kan worden uitgevoerd vanaf een van onze gratis besturingssystemen.
