这是 PyTorch 中的 Linux 应用 Gemma,其最新版本可以下载为 gemma_pytorchsourcecode.tar.gz。它可以在免费的工作站托管服务提供商 OnWorks 上在线运行。
使用 OnWorks 免费下载并在线运行这个名为 Gemma 的 PyTorch 应用程序。
请按照以下说明运行此应用程序:
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统,使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序,安装并运行。
截图:
Gemma 在 PyTorch 中
描述:
gemma_pytorch 提供了官方 PyTorch 参考,用于运行和微调 Google 的 Gemma 系列开放模型。它包含模型定义、配置文件和适用于多种参数尺度的加载实用程序,从而实现快速评估和下游适配。该代码库演示了文本生成流程、标记器设置、量化路径以及用于低秩或参数高效微调的适配器。示例笔记本演示了指令调整和评估过程,以便团队能够快速进行基准测试和迭代。代码组织清晰易懂且易于修改,公开了注意力模块、位置编码和头部配置。借助标准的 PyTorch 抽象,它可以轻松集成到现有的训练循环、记录器和评估工具中。
功能
- Gemma 模型变体的 PyTorch 实现和配置
- 即用型生成、标记化和检查点加载
- 与常见 PyTorch 堆栈兼容的嵌入式模块
- 用于调整和评估的示例笔记本
- 量化和推理优化路径
- 参数高效的微调适配器和示例
程式语言
Python
分类
此应用程序也可从 https://sourceforge.net/projects/gemma-in-pytorch.mirror/ 获取。它已托管在 OnWorks 中,以便通过我们的免费操作系统之一以最便捷的方式在线运行。