这是名为 Kaleidscope-SDK 的 Linux 应用程序，其最新版本可以作为 kaleidscope-sdkv0.8.0.zip 下载。 它可以在免费的工作站托管提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行这个名为 Kaleidoscope-SDK 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
万花筒-SDK
商品描述
kaleidoscope-sdk 是一个 Python 模块，用于与通过 Kaleidoscope 服务托管的大型语言模型进行交互，网址为： https://github.com/VectorInstitute/kaleidoscope. 它提供了一个简单的界面来在 HPC 集群上启动 LLM，要求它们执行文本生成等基本功能，还从模型内部检索中间信息，例如对数概率和激活。 用户必须使用他们的 Vector Institute 集群凭据进行身份验证。 这可以通过交互式实例化客户端对象来完成。 这将生成一个身份验证令牌，用于所有后续请求。 令牌将在 30 天后过期，届时将提示用户重新进行身份验证。
特性
- 显示由模型服务实例化的所有活动 LLM 的列表
- 通过模型服务加载 LLM
- 返回基于提示输入的 LLM 文本生成
- 返回 LLM 神经网络中的所有模块名称
- 检索一组模块的所有激活
- 要求 Python 版本 >= 3.8
程式语言
Python
分类
这是一个也可以从 https://sourceforge.net/projects/kaleidoscope-sdk.mirror/ 获取的应用程序。 它已托管在 OnWorks 中，以便以最简单的方式从我们的免费操作系统之一在线运行。
