Este é o aplicativo Linux chamado Colossal-AI cuja versão mais recente pode ser baixada como Versionv0.3.3ReleaseToday!.zip. Ele pode ser executado online no provedor de hospedagem gratuito OnWorks para estações de trabalho.
Baixe e execute online este aplicativo chamado Colossal-AI com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie o emulador OnWorks Linux online ou Windows online ou emulador MACOS online a partir deste site.
- 5. No sistema operacional OnWorks Linux que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo, instale-o e execute-o.
SCREENSHOTS
Ad
Colossal-IA
DESCRIÇÃO
A arquitetura Transformer melhorou o desempenho de modelos de aprendizado profundo em domínios como Visão Computacional e Processamento de Linguagem Natural. Juntamente com um melhor desempenho, vêm tamanhos de modelo maiores. Isso impõe desafios à parede de memória do hardware do acelerador atual, como a GPU. Nunca é ideal treinar modelos grandes como Vision Transformer, BERT e GPT em uma única GPU ou uma única máquina. Há uma demanda urgente para treinar modelos em um ambiente distribuído. No entanto, o treinamento distribuído, especialmente o paralelismo de modelos, geralmente requer conhecimento de domínio em sistemas e arquitetura de computadores. Continua sendo um desafio para os pesquisadores de IA implementar soluções complexas de treinamento distribuído para seus modelos. O Colossal-AI fornece uma coleção de componentes paralelos para você. Nosso objetivo é ajudá-lo a escrever seus modelos de aprendizado profundo distribuído da mesma forma que você escreve seu modelo em seu laptop.
Funcionalidades
- Gerenciamento de memória heterogênea
- Tamanho do modelo 24x maior no mesmo hardware
- Extrair do DockerHub
- Construa por conta própria
- estratégias de paralelismo
- Paralelismo baseado no arquivo de configuração
Linguagem de Programação
Python
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/colossal-ai.mirror/. Ele foi hospedado em OnWorks para ser executado online da maneira mais fácil a partir de um de nossos Sistemas Operativos gratuitos.