Это приложение для Linux под названием Secret Llama, последнюю версию которого можно скачать в архиве secret-llamasourcecode.zip. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Бесплатно скачайте и запустите онлайн это приложение под названием Secret Llama с помощью OnWorks.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ:
Секретная лама
ОПИСАНИЕ:
Secret Llama — это чат-бот с большой языковой моделью, ориентированный на конфиденциальность и работающий полностью в вашем веб-браузере. Это означает, что сервер не требуется, а данные о ваших разговорах никогда не покидают ваше устройство. Он ориентирован на поддержку моделей с открытым исходным кодом, позволяя загружать семейства, такие как Llama и Mistral, непосредственно в клиент для полностью локального вывода. Поскольку всё происходит в браузере, он может работать офлайн после кэширования моделей, что полезно в условиях изоляции или путешествий. Интерфейс отражает современный пользовательский интерфейс чата, который вы ожидаете — потоковые ответы, разметка и чистая структура — поэтому нет необходимости жертвовать удобством использования ради конфиденциальности. Под капотом он использует веб-нативный механизм вывода для ускорения выполнения модели с использованием GPU/WebGPU (при наличии), обеспечивая адаптивность ответов даже без бэкенда. Это отличный вариант для разработчиков и команд, которые хотят создавать прототипы помощников или обрабатывать конфиденциальный текст без отправки запросов внешним API.
Особенности
- Полностью локальный вывод в браузере без зависимости от сервера
- Поддержка популярных открытых LLM и квантованных вариантов
- Работает в автономном режиме после загрузки моделей в кэш браузера.
- Современный пользовательский интерфейс чата с потоковым выводом и разметкой
- Выполнение с ускорением WebGPU для более быстрого отклика на совместимых машинах
- Простой процесс импорта и настройки для замены моделей или параметров
Язык программирования
TypeScript
Категории
Это приложение также можно скачать по адресу https://sourceforge.net/projects/secret-llama.mirror/. Оно размещено на OnWorks для максимально удобного запуска онлайн через одну из наших бесплатных операционных систем.