Это приложение для Linux под названием x-transformers, последнюю версию которого можно скачать как 2.8.2sourcecode.tar.gz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите онлайн это приложение под названием x-transformers с OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ
Ad
х-трансформеры
ОПИСАНИЕ
Простой, но полноценный преобразователь полного внимания с набором многообещающих экспериментальных фич из разных работ. Предлагает добавить выученные ключи/значения памяти перед посещением. Они смогли полностью исключить прямую связь и добиться производительности, аналогичной оригинальным трансформаторам. Я обнаружил, что сохранение прямой связи и добавление ключа/значения памяти приводит к еще большей производительности. Предлагает добавить изученные токены, похожие на токены CLS, именованные токены памяти, которые передаются через уровни внимания вместе с входными токенами. Вы также можете использовать нормализованные вложения l2, предлагаемые как часть fixnorm. Я обнаружил, что это приводит к улучшению сходимости в сочетании с небольшой инициализацией (предложено BlinkDL). Небольшая инициализация будет выполняться до тех пор, пока для l2norm_embed установлено значение True.
Особенности
- Только декодер (подобный GPT)
- Только для кодировщика (подобно BERT)
- Современная классификация изображений
- Увеличение внимания к себе с помощью постоянной памяти
- Трансформеры без слез
- Нормализация среднеквадратичного слоя
Язык программирования
Питон
Категории
Это приложение также можно загрузить с https://sourceforge.net/projects/x-transformers.mirror/. Он был размещен в OnWorks, чтобы его можно было легко запускать в Интернете с помощью одной из наших бесплатных операционных систем.
