Esta es la aplicación de Windows llamada LLaMA.go cuya última versión se puede descargar como v1.4_ServerMode.zip. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada LLaMA.go con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie cualquier emulador en línea de OS OnWorks desde este sitio web, pero mejor emulador en línea de Windows.
- 5. Desde el sistema operativo OnWorks Windows que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación e instálala.
- 7. Descargue Wine desde los repositorios de software de sus distribuciones de Linux. Una vez instalada, puede hacer doble clic en la aplicación para ejecutarla con Wine. También puedes probar PlayOnLinux, una elegante interfaz sobre Wine que te ayudará a instalar programas y juegos populares de Windows.
Wine es una forma de ejecutar software de Windows en Linux, pero no requiere Windows. Wine es una capa de compatibilidad de Windows de código abierto que puede ejecutar programas de Windows directamente en cualquier escritorio de Linux. Esencialmente, Wine está tratando de volver a implementar una cantidad suficiente de Windows desde cero para poder ejecutar todas esas aplicaciones de Windows sin necesidad de Windows.
SCREENSHOTS
Ad
LLaMA.go
DESCRIPCIÓN
llama.go es como llama.cpp en Golang puro. El código del proyecto se basa en el legendario marco ggml.cpp de Georgi Gerganov escrito en C++ con la misma actitud hacia el rendimiento y la elegancia. Ambos modelos almacenan pesos FP32, por lo que necesitarás al menos 32 Gb de RAM (no VRAM ni GPU RAM) para el LLaMA-7B. Doble a 64Gb para LLaMA-13B.
Caracteristicas
- Matemáticas tensoriales en Golang puro
- Implementar arquitectura de red neuronal LLaMA y carga de modelos.
- Prueba con el modelo LLaMA-7B más pequeño
- Asegúrese de que la inferencia de Go funcione exactamente de la misma manera que C++
- ¡Deja que Go brille! Habilite subprocesos múltiples y mensajería para mejorar el rendimiento
- Compatibilidad multiplataforma con Mac, Linux y Windows
Lenguaje de programación
Go
Categorías
Esta es una aplicación que también se puede obtener de https://sourceforge.net/projects/llama-go.mirror/. Ha sido alojado en OnWorks para poder ejecutarlo online de la forma más sencilla desde uno de nuestros Sistemas Operativos gratuitos.
