This is the Linux app named Lemonade whose latest release can be downloaded as v8.1.12sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
免费下载并在线运行这个名为 Lemonade with OnWorks 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
柠檬水
商品描述
Lemonade 是一个本地 LLM 运行时，旨在通过自动配置 NPU 和 GPU 的先进推理引擎，在您自己的硬件上提供最高的性能。该项目将自己定位为可在笔记本电脑和工作站上运行的“本地 LLM 服务器”，消除了后端差异，同时为您提供一个统一的模型服务和管理平台。其 README 文件强调了它在初创公司、研究团队和大型公司中的实际应用，表明其专注于实际部署而非玩具演示。该代码库强调了易于上手的特性，包括下载、文档和用于支持的 Discord，这表明用户社区非常活跃。其消息传递的核心是如何最大限度地利用现代加速器，而无需用户手动调整内核或参数。新版本进一步强化了“服务器”框架，引导开发者使用可集成到应用程序和工具中的服务。
功能
- 针对 GPU 和 NPU 加速的本地 LLM 服务器
- 高性能推理后端的自动配置
- 简单的安装和运行流程，带有指导文档
- 通过 Discord 和主动问题跟踪提供社区支持
- 适用于研究、初创企业和企业用例
- 旨在成为本地 AI 应用的嵌入式基础
程式语言
Python
分类
此应用程序也可从 https://sourceforge.net/projects/lemonade.mirror/ 获取。它已托管在 OnWorks 中，以便通过我们的免费操作系统之一以最便捷的方式在线运行。
