Este é o aplicativo Linux chamado Basaran cuja versão mais recente pode ser baixada como v0.21.1.zip. Ele pode ser executado online no provedor de hospedagem gratuito OnWorks para estações de trabalho.
Baixe e execute online este aplicativo chamado Basaran com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie o emulador OnWorks Linux online ou Windows online ou emulador MACOS online a partir deste site.
- 5. No sistema operacional OnWorks Linux que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo, instale-o e execute-o.
SCREENSHOTS
Ad
Basarã
DESCRIÇÃO
Basaran é uma alternativa de código aberto para a API de conclusão de texto OpenAI. Ele fornece uma API de streaming compatível para seus modelos de geração de texto baseados em Hugging Face Transformers. A comunidade de código aberto acabará testemunhando o momento de difusão estável para modelos de linguagem grande (LLMs), e o Basaran permite que você substitua o serviço da OpenAI pelo modelo de código aberto mais recente para alimentar seu aplicativo sem modificar uma única linha de código. Geração de fluxo usando várias estratégias de decodificação. Suporta modelos somente decodificador e codificador-decodificador. Detokenizer que lida com substitutos e espaços em branco. Suporte multi-GPU com quantização opcional de 8 bits. Progresso parcial em tempo real usando eventos enviados pelo servidor. Compatível com OpenAI API e bibliotecas cliente. Vem com um sofisticado playground baseado na web. As imagens do Docker estão disponíveis nos pacotes Docker Hub e GitHub.
Funcionalidades
- Geração de fluxo usando várias estratégias de decodificação
- Suporta modelos somente decodificador e codificador-decodificador
- Detokenizer que lida com substitutos e espaços em branco
- Suporte multi-GPU com quantização opcional de 8 bits
- Progresso parcial em tempo real usando eventos enviados pelo servidor
- Compatível com OpenAI API e bibliotecas de clientes
- Vem com um sofisticado playground baseado na web
Linguagem de Programação
Python, JavaScript
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/basaran.mirror/. Ele foi hospedado em OnWorks para ser executado online da maneira mais fácil a partir de um de nossos Sistemas Operativos gratuitos.