Esta es la aplicación de Linux llamada Xorbits Inference cuya última versión se puede descargar como v0.5.3sourcecode.zip. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada Xorbits Inference con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie el emulador en línea OnWorks Linux o Windows en línea o el emulador en línea MACOS desde este sitio web.
- 5. Desde el SO OnWorks Linux que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación, instálala y ejecútala.
SCREENSHOTS
Ad
Inferencia de órbitas
DESCRIPCIÓN
Reemplace OpenAI GPT con otro LLM en su aplicación cambiando una sola línea de código. Xinference te brinda la libertad de utilizar cualquier LLM que necesites. Con Xinference, puede ejecutar inferencias con cualquier modelo de lenguaje de código abierto, modelo de reconocimiento de voz y modelo multimodal, ya sea en la nube, localmente o incluso en su computadora portátil. Xorbits Inference(Xinference) es una biblioteca potente y versátil diseñada para servir lenguaje, reconocimiento de voz y modelos multimodales. Con Xorbits Inference, puede implementar y servir sin esfuerzo sus modelos integrados o los de última generación con un solo comando. Ya sea investigador, desarrollador o científico de datos, Xorbits Inference le permite liberar todo el potencial de los modelos de IA de vanguardia.
Caracteristicas
- Simplifique el proceso de prestación de servicios de lenguaje grande, reconocimiento de voz y modelos multimodales.
- Puede configurar e implementar sus modelos para experimentación y producción con un solo comando
- Experimente con modelos integrados de vanguardia usando un solo comando
- Aprovecha al máximo tus recursos de hardware con ggml
- Ofrezca múltiples interfaces para interactuar con sus modelos, admitiendo RPC, RESTful API (compatible con OpenAI API), CLI y WebUI para una gestión y monitoreo perfectos.
- Excel en escenarios de implementación distribuida, lo que permite la distribución perfecta de la inferencia del modelo entre múltiples dispositivos o máquinas.
Lenguaje de programación
Python
Categorías
Esta es una aplicación que también se puede obtener de https://sourceforge.net/projects/xorbits-inference.mirror/. Ha sido alojado en OnWorks para poder ejecutarlo online de la forma más sencilla desde uno de nuestros Sistemas Operativos gratuitos.
