Это приложение для Windows под названием Infinity, последнюю версию которого можно скачать как 0.0.77sourcecode.tar.gz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите бесплатно онлайн это приложение под названием Infinity с OnWorks.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите любой онлайн-эмулятор OS OnWorks с этого сайта, но лучше онлайн-эмулятор Windows.
- 5. В только что запущенной ОС Windows OnWorks перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение и установите его.
- 7. Загрузите Wine из репозиториев программного обеспечения вашего дистрибутива Linux. После установки вы можете дважды щелкнуть приложение, чтобы запустить его с помощью Wine. Вы также можете попробовать PlayOnLinux, необычный интерфейс поверх Wine, который поможет вам установить популярные программы и игры для Windows.
Wine - это способ запустить программное обеспечение Windows в Linux, но без Windows. Wine - это уровень совместимости с Windows с открытым исходным кодом, который может запускать программы Windows непосредственно на любом рабочем столе Linux. По сути, Wine пытается заново реализовать Windows с нуля, чтобы можно было запускать все эти Windows-приложения, фактически не нуждаясь в Windows.
СКРИНШОТЫ
Ad
Infinity
ОПИСАНИЕ
Infinity — это высокопроизводительный REST API с малой задержкой для обслуживания векторных вложений, поддерживающий все модели и фреймворки для преобразования предложений. Infinity разработан по лицензии MIT. Infinity обеспечивает вывод данных для Gradient.ai и других поставщиков API для вложений.
Особенности
- Разверните любую модель из MTEB: разверните знакомую вам модель из SentenceTransformers
- Быстрые бэкэнды вывода: сервер вывода построен на Torch, Optimate (OnNX/TensorRT) и CTranslate2, используя FlashAttention для максимального использования возможностей устройств CUDA, ROCM, CPU или MPS.
- Динамическое пакетирование: новые запросы на встраивание помещаются в очередь, пока графический процессор занят предыдущими. Новые запросы поступают на устройство сразу после их готовности. Максимальная пропускная способность на графическом процессоре аналогична пропускной способности text-embeddings-inference.
- Корректная и протестированная реализация: модульное и сквозное тестирование. Встраивания через бесконечность идентичны SentenceTransformers (с точностью до числовой). Позволяет пользователям API создавать встраивания до бесконечности и далее.
- Доступная документация
- Простота использования: API создан на основе FastAPI, а Swagger обеспечивает его полную документацию. API соответствует спецификациям OpenAI Embedding. Инструкции по началу работы см. ниже.
Язык программирования
Питон
Категории
Это приложение также можно скачать по адресу https://sourceforge.net/projects/infinity.mirror/. Оно размещено на OnWorks для максимально удобного запуска онлайн через одну из наших бесплатных операционных систем.
