Це програма для Linux під назвою x-transformers, останню версію якої можна завантажити як 1.24.2sourcecode.zip. Його можна запустити онлайн у безкоштовного хостинг-провайдера OnWorks для робочих станцій.
Завантажте та запустіть онлайн цю програму під назвою x-transformers з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
ЕКРАНИ
Ad
х-трансформери
ОПИС
Простий, але повний трансформатор повної уваги з набором багатообіцяючих експериментальних функцій з різних документів. Пропонує додати вивчені ключі/значення пам’яті перед відвідуванням. Їм вдалося повністю усунути прямий зв’язок і досягти аналогічної продуктивності оригінальних трансформаторів. Я виявив, що збереження прямого зв’язку та додавання ключів/значень пам’яті призводить до ще кращої продуктивності. Пропонує додати вивчені токени, схожі на токени CLS, іменовані токени пам’яті, які передаються через рівні уваги поряд із вхідними токенами. Ви також можете використовувати нормалізовані вбудовування l2, запропоновані як частина fixnorm. Я виявив, що це призводить до покращеної конвергенції в поєднанні з малою ініціалізацією (запропоновано BlinkDL). Про невелику ініціалізацію буде подбати, доки для l2norm_embed встановлено значення True.
риси
- Лише декодер (подібний до GPT)
- Лише кодер (схожий на BERT)
- Сучасна класифікація зображень
- Збільшення самоуважності за допомогою стійкої пам’яті
- Трансформери без сліз
- Нормалізація середньоквадратичного шару
Мова програмування
Python
Категорії
Це програма, яку також можна завантажити з https://sourceforge.net/projects/x-transformers.mirror/. Його розміщено в OnWorks, щоб його можна було найпростіше запускати онлайн з однієї з наших безкоштовних операційних систем.