这是名为 SageMaker Hugging Face Inference Toolkit 的 Linux 应用程序，其最新版本可以下载为 v2.1.1.zip。 它可以在工作站的免费托管服务提供商 OnWorks 中在线运行。
免费下载并在线运行这个名为 SageMaker Hugging Face Inference Toolkit 的应用程序和 OnWorks。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
SageMaker 拥抱人脸推理工具包
商品描述
SageMaker Hugging Face Inference Toolkit 是一个开源库，用于在 Amazon SageMaker 上提供 Transformers 模型。 该库为某些 Transformers 模型和任务提供默认的预处理、预测和后处理。 它利用 SageMaker 推理工具包来启动模型服务器，该服务器负责处理推理请求。 有关用于构建 SageMaker Hugging Face 容器的 Dockerfile，请参阅 AWS 深度学习容器。 SageMaker Hugging Face Inference Toolkit 实施了各种额外的环境变量来简化您的部署体验。 Hugging Face Inference Toolkit 允许用户覆盖 HuggingFaceHandlerService 的默认方法。 SageMaker Hugging Face Inference Toolkit 在 Apache 2.0 许可下获得许可。
功能
- 使用来自 Hub 的模型创建 Amazon SageMaker 终端节点
- 使用经过训练的模型创建 Amazon SageMaker 终端节点
- HF_TASK 环境变量定义了使用的 Transformers 管道的任务
- HF_MODEL_ID 环境变量定义模型id，会自动加载
- HF_API_TOKEN 环境变量定义了你的 Hugging Face 授权令牌
- 用户定义的代码/模块
程式语言
Python
分类
这是一个应用程序，也可以从 https://sourceforge.net/projects/sagemak-hug-face-inf-tk.mirror/ 获取。 它已托管在 OnWorks 中，以便通过我们的免费操作系统之一以最简单的方式在线运行。
