Esta es la aplicación para Linux llamada KServe, cuya última versión se puede descargar como helm-chart-kserve-crd-minimal-v0.15.2.tgz. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada KServe con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie el emulador en línea OnWorks Linux o Windows en línea o el emulador en línea MACOS desde este sitio web.
- 5. Desde el SO OnWorks Linux que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación, instálala y ejecútala.
SCREENSHOTS
Ad
KServir
DESCRIPCIÓN
KServe proporciona una definición de recurso personalizada de Kubernetes para servir modelos de aprendizaje automático (ML) en marcos arbitrarios. Su objetivo es resolver casos de uso de servicio de modelos de producción mediante interfaces de alto rendimiento y alta abstracción para marcos de ML comunes como Tensorflow, XGBoost, ScikitLearn, PyTorch y ONNX. Encapsula la complejidad del escalado automático, la red, la comprobación del estado y la configuración del servidor para incorporar funciones de servicio de vanguardia como el escalado automático de GPU, la escalabilidad a cero y los despliegues Canary a sus implementaciones de ML. Permite una historia simple, conectable y completa para el servicio de ML en producción, que incluye predicción, preprocesamiento, posprocesamiento y explicabilidad. KServe se utiliza en diversas organizaciones.
Caracteristicas
- KServe es una plataforma de inferencia de modelos estándar e independiente de la nube en Kubernetes, diseñada para casos de uso altamente escalables.
- Proporciona un protocolo de inferencia estandarizado y de alto rendimiento en todos los marcos de aprendizaje automático.
- Admite cargas de trabajo de inferencia sin servidor modernas con escalamiento automático basado en solicitudes, incluido el escalado a cero en CPU y GPU
- Proporciona alta escalabilidad, empaquetamiento de densidad y enrutamiento inteligente utilizando ModelMesh
- Producción simple y conectable que sirve para inferencia, pre/post procesamiento, monitoreo y explicabilidad.
- Implementaciones avanzadas para lanzamiento canario, canalización y conjuntos con InferenceGraph
Lenguaje de programación
Python
Categorías
Esta aplicación también se puede obtener de https://sourceforge.net/projects/kserve.mirror/. Está alojada en OnWorks para facilitar su ejecución en línea desde uno de nuestros sistemas operativos gratuitos.
