这是一款名为 Lemonade 的 Linux 应用，其最新版本可以下载为 v8.1.12sourcecode.tar.gz。它可在免费的工作站托管服务提供商 OnWorks 上在线运行。
免费下载并在线运行这个名为 Lemonade with OnWorks 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
截图：
柠檬水
描述：
Lemonade 是一个本地 LLM 运行时，旨在通过自动配置 NPU 和 GPU 的先进推理引擎，在您自己的硬件上提供最高的性能。该项目将自己定位为可在笔记本电脑和工作站上运行的“本地 LLM 服务器”，消除了后端差异，同时为您提供一个统一的模型服务和管理平台。其 README 文件强调了它在初创公司、研究团队和大型公司中的实际应用，表明其专注于实际部署而非玩具演示。该代码库强调了易于上手的特性，包括下载、文档和用于支持的 Discord，这表明用户社区非常活跃。其消息传递的核心是如何最大限度地利用现代加速器，而无需用户手动调整内核或参数。新版本进一步强化了“服务器”框架，引导开发者使用可集成到应用程序和工具中的服务。
功能
- 针对 GPU 和 NPU 加速的本地 LLM 服务器
- 高性能推理后端的自动配置
- 简单的安装和运行流程，带有指导文档
- 通过 Discord 和主动问题跟踪提供社区支持
- 适用于研究、初创企业和企业用例
- 旨在成为本地 AI 应用的嵌入式基础
程式语言
Python
分类
此应用程序也可从 https://sourceforge.net/projects/lemonade.mirror/ 获取。它已托管在 OnWorks 中，以便通过我们的免费操作系统之一以最便捷的方式在线运行。