这是名为 Distributed Llama 的 Linux 应用，其最新版本可下载为 0.16.0sourcecode.tar.gz。它可在免费的工作站托管服务提供商 OnWorks 上在线运行。
免费下载并在线运行这个名为 Distributed Llama with OnWorks 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
分布式骆驼
商品描述
Distributed Llama 是一个开源项目，它允许用户将多个家用设备连接到一个强大的集群中，以加速大型语言模型 (LLM) 的推理。通过利用张量并行和以太网高速同步，随着更多设备添加到集群，它可以实现更快的性能。该系统支持各种操作系统，包括 Linux、macOS 和 Windows，并针对 ARM 和 x86_64 AVX2 CPU 进行了优化。
功能
- 多台家用设备形成集群
- 加速法学硕士推理
- 张量并行实现
- 高速以太网同步
- 支持 Linux、macOS 和 Windows
- 针对 ARM 和 x86_64 AVX2 CPU 进行优化
- 通过附加设备实现可扩展性
- 开源可用性
- 积极的社区支持
程式语言
C + +中
分类
此应用程序也可从 https://sourceforge.net/projects/distributed-llama.mirror/ 获取。它已托管在 OnWorks 中，以便通过我们的免费操作系统之一以最便捷的方式在线运行。
