Questa è l'app Linux denominata Kaleidoscope-SDK la cui ultima versione può essere scaricata come kaleidoscope-sdkv0.8.0.zip. Può essere eseguito online nel provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online questa app chiamata Kaleidoscope-SDK con OnWorks gratuitamente.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avviare l'emulatore online OnWorks Linux o Windows online o l'emulatore online MACOS da questo sito Web.
- 5. Dal sistema operativo OnWorks Linux che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione, installala ed eseguila.
IMMAGINI
Ad
Caleidoscopio-SDK
DESCRIZIONE
kaleidoscope-sdk è un modulo Python utilizzato per interagire con modelli di linguaggio di grandi dimensioni ospitati tramite il servizio Kaleidoscope disponibile all'indirizzo: https://github.com/VectorInstitute/kaleidoscope. Fornisce una semplice interfaccia per avviare LLM su un cluster HPC, chiedendo loro di eseguire funzionalità di base come la generazione di testo, ma anche di recuperare informazioni intermedie dall'interno del modello, come probabilità di log e attivazioni. Gli utenti devono eseguire l'autenticazione utilizzando le credenziali del cluster Vector Institute. Questo può essere fatto in modo interattivo creando un'istanza di un oggetto client. Questo genererà un token di autenticazione che verrà utilizzato per tutte le richieste successive. Il token scadrà dopo 30 giorni, dopodiché all'utente verrà richiesto di eseguire nuovamente l'autenticazione.
Caratteristiche
- Mostra un elenco di tutti gli LLM attivi istanziati dal servizio modello
- Carica un LLM tramite il servizio modello
- Restituisce una generazione di testo LLM basata sull'input del prompt
- Restituisce tutti i nomi dei moduli nella rete neurale LLM
- Recupera tutte le attivazioni per un set di moduli
- Richiede la versione di Python >= 3.8
Linguaggio di programmazione
Python
Categorie
Questa è un'applicazione che può anche essere recuperata da https://sourceforge.net/projects/kaleidoscope-sdk.mirror/. È stato ospitato in OnWorks per poter essere eseguito online nel modo più semplice da uno dei nostri Sistemi Operativi gratuiti.
