这是名为 LLamaSharp 的 Linux 应用程序,其最新版本可以作为 v0.6.0-followmajorllama.cppchangessourcecode.zip 下载。 它可以在免费的工作站托管提供商 OnWorks 中在线运行。
免费下载并使用 OnWorks 在线运行名为 LLamaSharp 的应用程序。
请按照以下说明运行此应用程序:
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统,使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序,安装并运行。
SCREENSHOTS
Ad
骆驼夏普
商品描述
llama.cpp 的 C#/.NET 绑定。 它提供 API 来推断 LLaMa 模型并将其部署在本地环境中。 它适用于 Windows、Linux 和 MAC,无需您自己编译 llama.cpp。 其性能接近llama.cpp。 此外,它还提供与 BotSharp 等其他项目的集成,以提供更高级别的应用程序和 UI。
特征
- 模型推理和聊天会话
- LLamaSharp 提供了两种运行推理的方式:LLamaExecutor 和 ChatSession
- 使用 LLamaSharp,您无需编译 C++ 项目并运行脚本来量化模型,只需在 C# 中运行即可
- 我们提供整合 ASP.NET 核心
- 嵌入生成、标记化和去标记化
- LLaMa模型推理
程式语言
C#
分类目录
该应用程序也可以从 https://sourceforge.net/projects/llamasharp.mirror/ 获取。 它已托管在 OnWorks 中,以便从我们的免费操作系统之一以最简单的方式在线运行。