Questa è l'app Linux chiamata Coconut, la cui ultima versione può essere scaricata come coconutsourcecode.tar.gz. Può essere eseguita online sul provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online gratuitamente questa app chiamata Coconut con OnWorks.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avviare l'emulatore online OnWorks Linux o Windows online o l'emulatore online MACOS da questo sito Web.
- 5. Dal sistema operativo OnWorks Linux che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione, installala ed eseguila.
IMMAGINI:
Cocco
DESCRIZIONE:
Coconut è l'implementazione ufficiale in PyTorch dell'articolo di ricerca "Addestramento di modelli linguistici di grandi dimensioni per ragionare in uno spazio latente continuo". Il framework introduce un nuovo metodo per potenziare i modelli linguistici di grandi dimensioni (LLM) con fasi di ragionamento latente continuo, consentendo loro di generare e perfezionare catene di ragionamento all'interno di uno spazio latente appreso anziché affidarsi esclusivamente al ragionamento simbolico discreto. Supporta l'addestramento su più paradigmi di ragionamento, tra cui configurazioni standard Chain-of-Thought (CoT), no-thought e ibride, utilizzando fasi di addestramento configurabili e rappresentazioni latenti. Il repository è costruito con Hugging Face Transformers, PyTorch Distributed e Weights & Biases (wandb) per la registrazione, supportando esperimenti su larga scala su set di dati di ragionamento matematico e logico come GSM8K, ProntoQA e ProsQA.
Caratteristiche
- Script di esperimenti riproducibili corrispondenti ai protocolli di riferimento del documento
- Supporta l'addestramento multi-GPU distribuito con torchrun e precisione mista (bf16)
- Strumenti di pre-elaborazione dei set di dati per GSM8K, ProntoQA e ProsQA
- Registrazione Wandb integrata e gestione dei checkpoint in tutte le fasi di formazione
- Configurazione modulare basata su YAML per la formazione e la valutazione in più fasi
- Implementa il ragionamento latente continuo per gli LLM oltre al prompt CoT discreto
Linguaggio di programmazione
Python, shell Unix
Categorie
Questa applicazione può essere scaricata anche da https://sourceforge.net/projects/coconut.mirror/. È ospitata su OnWorks per poter essere eseguita online nel modo più semplice da uno dei nostri sistemi operativi gratuiti.