Esta es la aplicación para Windows llamada Triton Inference Server, cuya última versión se puede descargar como v2.60.0_ubuntu2404.clients.tar.gz. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada Triton Inference Server con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie cualquier emulador en línea de OS OnWorks desde este sitio web, pero mejor emulador en línea de Windows.
- 5. Desde el sistema operativo OnWorks Windows que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación e instálala.
- 7. Descargue Wine desde los repositorios de software de sus distribuciones de Linux. Una vez instalada, puede hacer doble clic en la aplicación para ejecutarla con Wine. También puedes probar PlayOnLinux, una elegante interfaz sobre Wine que te ayudará a instalar programas y juegos populares de Windows.
Wine es una forma de ejecutar software de Windows en Linux, pero no requiere Windows. Wine es una capa de compatibilidad de Windows de código abierto que puede ejecutar programas de Windows directamente en cualquier escritorio de Linux. Esencialmente, Wine está tratando de volver a implementar una cantidad suficiente de Windows desde cero para poder ejecutar todas esas aplicaciones de Windows sin necesidad de Windows.
SCREENSHOTS
Ad
Servidor de inferencia Triton
DESCRIPCIÓN
Triton Inference Server es un software de servicio de inferencia de código abierto que agiliza la inferencia de IA. Triton permite a los equipos implementar cualquier modelo de IA desde múltiples marcos de trabajo de aprendizaje profundo y aprendizaje automático, incluidos TensorRT, TensorFlow, PyTorch, ONNX, OpenVINO, Python, RAPIDS FIL y más. Triton admite la inferencia en la nube, el centro de datos, el perímetro y los dispositivos integrados en GPU NVIDIA, CPU x86 y ARM, o AWS Inferentia. Triton ofrece un rendimiento optimizado para muchos tipos de consultas, incluidos en tiempo real, por lotes, conjuntos y transmisión de audio/video. Proporciona una API de backend que permite agregar backends personalizados y operaciones de procesamiento previo y posterior. Modele canalizaciones utilizando Ensembling o Business Logic Scripting (BLS). Protocolos de inferencia HTTP/REST y GRPC basados en el protocolo KServe desarrollado por la comunidad. La API de AC y la API de Java permiten que Triton se vincule directamente a su aplicación para casos de uso perimetrales y otros en proceso.
Caracteristicas
- Admite múltiples marcos de aprendizaje profundo
- Admite múltiples marcos de aprendizaje automático
- Ejecución de modelos concurrentes
- Procesamiento por lotes dinámico
- Procesamiento por lotes de secuencias y gestión de estado implícita para modelos con estado
- Proporciona una API de backend que permite agregar backends personalizados y operaciones de procesamiento previo y posterior
Lenguaje de programación
Python
Categorías
Esta es una aplicación que también se puede obtener de https://sourceforge.net/projects/triton-inference-server.mirror/. Ha sido alojado en OnWorks para poder ejecutarse online de la forma más sencilla desde uno de nuestros Sistemas Operativos gratuitos.
