Ini adalah aplikasi Linux bernama x-transformers yang rilis terbarunya dapat diunduh sebagai 2.8.2sourcecode.tar.gz. Aplikasi ini dapat dijalankan secara daring di penyedia hosting gratis OnWorks untuk workstation.
Unduh dan jalankan secara online aplikasi ini bernama x-transformers with OnWorks secara gratis.
Ikuti petunjuk ini untuk menjalankan aplikasi ini:
- 1. Download aplikasi ini di PC Anda.
- 2. Masuk ke file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan username yang anda inginkan.
- 3. Upload aplikasi ini di filemanager tersebut.
- 4. Jalankan emulator online OnWorks Linux atau Windows online atau emulator online MACOS dari situs web ini.
- 5. Dari OS Linux OnWorks yang baru saja Anda mulai, buka file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang Anda inginkan.
- 6. Download aplikasinya, install dan jalankan.
Tangkapan layar
Ad
x-transformator
DESKRIPSI
Trafo perhatian penuh yang sederhana namun lengkap dengan serangkaian fitur eksperimental yang menjanjikan dari berbagai makalah. Mengusulkan penambahan kunci/nilai memori yang dipelajari sebelum menghadiri. Mereka mampu menghapus feedforward sama sekali dan mencapai kinerja yang mirip dengan transformer asli. Saya telah menemukan bahwa menjaga feedforward dan menambahkan kunci/nilai memori menghasilkan kinerja yang lebih baik. Mengusulkan penambahan token yang dipelajari, mirip dengan token CLS, yang disebut token memori, yang diteruskan melalui lapisan perhatian di samping token input. Anda juga dapat menggunakan l2 normalized embeddings yang diusulkan sebagai bagian dari fixnorm. Saya telah menemukan itu mengarah pada peningkatan konvergensi ketika dipasangkan dengan inisialisasi kecil (diusulkan oleh BlinkDL). Inisialisasi kecil akan dilakukan selama l2norm_embed disetel ke True.
Fitur
- Khusus decoder (mirip GPT)
- Encoder-saja (seperti BERT)
- Klasifikasi gambar canggih
- Meningkatkan Perhatian Diri dengan Persistent Memory
- Transformer Tanpa Air Mata
- Normalisasi Lapisan Root Mean Square
Bahasa Pemrograman
Ular sanca
KATEGORI
Ini adalah aplikasi yang juga dapat diambil dari https://sourceforge.net/projects/x-transformers.mirror/. Itu telah dihosting di OnWorks untuk dijalankan secara online dengan cara termudah dari salah satu Sistem Operasi gratis kami.
