Это приложение Linux под названием KServe, последний релиз которого можно загрузить как helm-chart-kserve-crd-minimal-v0.15.2.tgz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите онлайн-приложение под названием KServe с помощью OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ
Ad
КСерве
ОПИСАНИЕ
KServe предоставляет Kubernetes Custom Resource Definition для обслуживания моделей машинного обучения (ML) на произвольных фреймворках. Он нацелен на решение задач обслуживания производственных моделей путем предоставления производительных интерфейсов с высокой степенью абстракции для распространенных фреймворков ML, таких как Tensorflow, XGBoost, ScikitLearn, PyTorch и ONNX. Он инкапсулирует сложность автоматического масштабирования, работы в сети, проверки работоспособности и конфигурации сервера, чтобы привнести передовые функции обслуживания, такие как автоматическое масштабирование GPU, масштабирование до нуля и Canary Rollouts, в ваши развертывания ML. Он обеспечивает простую, подключаемую и полную историю для обслуживания производственных ML, включая прогнозирование, предварительную обработку, постобработку и объяснимость. KServe используется в различных организациях.
Особенности
- KServe — это стандартная, независимая от облака платформа вывода моделей на базе Kubernetes, созданная для высокомасштабируемых вариантов использования.
- Предоставляет производительный, стандартизированный протокол вывода для фреймворков машинного обучения
- Поддержка современных рабочих нагрузок безсерверного вывода с автоматическим масштабированием на основе запросов, включая масштабирование до нуля на ЦП и ГП
- Обеспечивает высокую масштабируемость, плотность упаковки и интеллектуальную маршрутизацию с использованием ModelMesh
- Простое и подключаемое производство, служащее для вывода, предварительной и последующей обработки, мониторинга и объяснимости.
- Расширенные возможности развертывания для canary-развертывания, конвейера, ансамблей с InferenceGraph
Язык программирования
Питон
Категории
Это приложение, которое также можно загрузить с https://sourceforge.net/projects/kserve.mirror/. Оно размещено в OnWorks для того, чтобы его можно было запустить онлайн самым простым способом из одной из наших бесплатных операционных систем.
