Questa è l'app Linux chiamata Lemonade, la cui ultima versione può essere scaricata come v8.1.12sourcecode.tar.gz. Può essere eseguita online sul provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online questa app chiamata Lemonade con OnWorks gratuitamente.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avviare l'emulatore online OnWorks Linux o Windows online o l'emulatore online MACOS da questo sito Web.
- 5. Dal sistema operativo OnWorks Linux che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione, installala ed eseguila.
IMMAGINI:
limonata
DESCRIZIONE:
Lemonade è un runtime LLM locale che mira a offrire le massime prestazioni possibili sul proprio hardware configurando automaticamente motori di inferenza all'avanguardia sia per NPU che per GPU. Il progetto si posiziona come un "server LLM locale" eseguibile su laptop e workstation, eliminando le differenze di backend e offrendo al contempo un unico punto di riferimento per la distribuzione e la gestione dei modelli. Il suo file README enfatizza l'adozione nel mondo reale da parte di startup, gruppi di ricerca e grandi aziende, evidenziando un'attenzione rivolta a implementazioni pratiche piuttosto che a demo simulate. Il repository evidenzia un facile onboarding con download, documentazione e un Discord per il supporto, suggerendo una community di utenti attiva. La messaggistica si concentra sull'ottimizzazione del throughput/latenza dagli acceleratori moderni senza che gli utenti debbano modificare manualmente kernel o flag. Le release rafforzano ulteriormente l'approccio "server", indirizzando gli sviluppatori verso un servizio che può essere integrato in app e strumenti.
Caratteristiche
- Server LLM locale che punta all'accelerazione GPU e NPU
- Configurazione automatica di backend di inferenza ad alte prestazioni
- Semplice installazione ed esecuzione del flusso con documentazione guidata
- Supporto della comunità tramite Discord e monitoraggio attivo dei problemi
- Funziona su casi d'uso di ricerca, startup e aziende
- Progettato per essere una base di partenza per le app di intelligenza artificiale locali
Linguaggio di programmazione
Python
Categorie
Questa applicazione può essere scaricata anche da https://sourceforge.net/projects/lemonade.mirror/. È ospitata su OnWorks per poter essere eseguita online nel modo più semplice da uno dei nostri sistemi operativi gratuiti.