这是名为 Infinity 的 Windows 应用，其最新版本可下载为 0.0.77sourcecode.tar.gz。它可在免费的工作站托管服务提供商 OnWorks 上在线运行。
免费下载并在线运行这款名为 Infinity with OnWorks 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从本网站启动任何 OS OnWorks 在线模拟器，但更好的 Windows 在线模拟器。
- 5. 从您刚刚启动的 OnWorks Windows 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序并安装。
- 7. 从您的 Linux 发行版软件存储库下载 Wine。 安装后，您可以双击该应用程序以使用 Wine 运行它们。 您还可以尝试 PlayOnLinux，这是 Wine 上的一个花哨界面，可帮助您安装流行的 Windows 程序和游戏。
Wine 是一种在 Linux 上运行 Windows 软件的方法，但不需要 Windows。 Wine 是一个开源的 Windows 兼容层，可以直接在任何 Linux 桌面上运行 Windows 程序。 本质上，Wine 试图从头开始重新实现足够多的 Windows，以便它可以运行所有这些 Windows 应用程序，而实际上不需要 Windows。
SCREENSHOTS
Ad
Infinity，
商品描述
Infinity 是一个高吞吐量、低延迟的 REST API，用于提供向量嵌入，支持所有句子转换器模型和框架。Infinity 采用 MIT 许可证开发。Infinity 为 Gradient.ai 和其他嵌入 API 提供商提供推理支持。
功能
- 从 MTEB 部署任何模型：从 SentenceTransformers 部署您了解的模型
- 快速推理后端：推理服务器建立在 torch、optimum（onnx/tensorrt）和 CTranslate2 之上，使用 FlashAttention 充分利用 CUDA、ROCM、CPU 或 MPS 设备
- 动态批处理：当 GPU 忙于处理之前的嵌入请求时，新的嵌入请求会进入排队。新的请求一旦准备就绪，就会被快速导入到您的设备中。GPU 上的最大吞吐量与文本嵌入推理类似
- 正确且经过测试的实现：单元测试和端到端测试。通过无穷级数的嵌入与 SentenceTransformers 相同（最高可达数值精度）。允许 API 用户创建无穷级数甚至更远的嵌入。
- 可用文档
- 易于使用：该 API 基于 FastAPI 构建，Swagger 提供完善的文档。API 符合 OpenAI 的 Embedding 规范。请参阅下文了解如何开始使用
程式语言
Python
分类
此应用程序也可从 https://sourceforge.net/projects/infinity.mirror/ 获取。它已托管在 OnWorks 中，以便通过我们的免费操作系统之一以最便捷的方式在线运行。
