Este é o aplicativo do Windows denominado rwkv.cpp, cuja versão mais recente pode ser baixada como rwkv-master-39ed572-bin-win-avx512-x64.zip. Ele pode ser executado online no provedor de hospedagem gratuito OnWorks para estações de trabalho.
Baixe e execute online este aplicativo chamado rwkv.cpp com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie qualquer emulador on-line OS OnWorks a partir deste site, mas um emulador on-line melhor do Windows.
- 5. No sistema operacional OnWorks Windows que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo e instale-o.
- 7. Baixe o Wine de seus repositórios de software de distribuição Linux. Depois de instalado, você pode clicar duas vezes no aplicativo para executá-lo com o Wine. Você também pode experimentar o PlayOnLinux, uma interface sofisticada do Wine que o ajudará a instalar programas e jogos populares do Windows.
Wine é uma forma de executar software Windows no Linux, mas sem a necessidade de Windows. Wine é uma camada de compatibilidade do Windows de código aberto que pode executar programas do Windows diretamente em qualquer desktop Linux. Essencialmente, o Wine está tentando reimplementar o suficiente do Windows do zero para que possa executar todos os aplicativos do Windows sem realmente precisar do Windows.
SCREENSHOTS
Ad
rwkv.cpp
DESCRIÇÃO
Além do FP32 usual, ele suporta inferência FP16, quantizada INT4, INT5 e INT8. Este projeto é focado em CPU, mas cuBLAS também é compatível. RWKV é uma nova arquitetura de modelo de linguagem grande, com o maior modelo da família tendo parâmetros de 14B. Em contraste com o Transformer com atenção O(n^2), o RWKV requer apenas o estado da etapa anterior para calcular logits. Isso torna o RWKV muito amigável à CPU em grandes comprimentos de contexto.
Recursos
- Windows/Linux/MacOS
- Construa você mesmo a biblioteca
- Obtenha um modelo RWKV
- Requisitos: Python 3.x com PyTorch e tokenizadores
- ggml se move rapidamente e pode ocasionalmente quebrar a compatibilidade com formatos de arquivo mais antigos
- Requisitos: Python 3.x com PyTorch
Linguagem de Programação
C + +
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/rwkv-cpp.mirror/. Foi hospedado em OnWorks para poder ser executado online da maneira mais fácil a partir de um de nossos Sistemas Operativos gratuitos.
