Esta es la aplicación de Windows llamada Infinity, cuya última versión se puede descargar como 0.0.77sourcecode.tar.gz. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada Infinity con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie cualquier emulador en línea de OS OnWorks desde este sitio web, pero mejor emulador en línea de Windows.
- 5. Desde el sistema operativo OnWorks Windows que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación e instálala.
- 7. Descargue Wine desde los repositorios de software de sus distribuciones de Linux. Una vez instalada, puede hacer doble clic en la aplicación para ejecutarla con Wine. También puedes probar PlayOnLinux, una elegante interfaz sobre Wine que te ayudará a instalar programas y juegos populares de Windows.
Wine es una forma de ejecutar software de Windows en Linux, pero no requiere Windows. Wine es una capa de compatibilidad de Windows de código abierto que puede ejecutar programas de Windows directamente en cualquier escritorio de Linux. Esencialmente, Wine está tratando de volver a implementar una cantidad suficiente de Windows desde cero para poder ejecutar todas esas aplicaciones de Windows sin necesidad de Windows.
CAPTURAS DE PANTALLA:
Infinity
DESCRIPCIÓN:
Infinity es una API REST de alto rendimiento y baja latencia para la integración de vectores, compatible con todos los modelos y frameworks de transformadores de oraciones. Infinity se desarrolla bajo la licencia MIT. Infinity impulsa la inferencia de Gradient.ai y otros proveedores de API de integración.
Caracteristicas
- Implemente cualquier modelo de MTEB: implemente el modelo que conoce de SentenceTransformers
- Backends de inferencia rápidos: el servidor de inferencia está construido sobre Torch, Optimum (onnx/tensorrt) y CTranslate2, y utiliza FlashAttention para aprovechar al máximo CUDA, ROCM, CPU o dispositivo MPS.
- Procesamiento dinámico por lotes: Las nuevas solicitudes de incrustación se ponen en cola mientras la GPU está ocupada con las anteriores. Las nuevas solicitudes se introducen en el dispositivo en cuanto están listas. Rendimiento máximo en la GPU similar al de la inferencia de incrustaciones de texto.
- Implementación correcta y probada: Probada unitaria y de extremo a extremo. Las incrustaciones hasta el infinito son idénticas a los Transformadores de Sentencias (hasta precisión numérica). Permite a los usuarios de la API crear incrustaciones hasta el infinito y más allá.
- Documentación disponible
- Fácil de usar: La API se basa en FastAPI y Swagger la documenta por completo. La API cumple con las especificaciones de incrustación de OpenAI. Vea a continuación cómo empezar.
Lenguaje de programación
Python
Categorías
Esta aplicación también se puede descargar desde https://sourceforge.net/projects/infinity.mirror/. Está alojada en OnWorks para facilitar su ejecución en línea desde uno de nuestros sistemas operativos gratuitos.