ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ x-transformers ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ເປັນ 2.8.2sourcecode.tar.gz. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີ OnWorks ສໍາລັບສະຖານີບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ x-transformers ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
x-transformers
ລາຍລະອຽດ
ເຄື່ອງຫັນເປັນແບບງ່າຍໆແຕ່ໃຫ້ຄວາມສົນໃຈເຕັມທີ່ດ້ວຍຊຸດຂອງລັກສະນະການທົດລອງທີ່ໂດດເດັ່ນຈາກເອກະສານຕ່າງໆ. ສະເໜີເພີ່ມລະຫັດ/ຄ່າຄວາມຈຳທີ່ໄດ້ຮຽນຮູ້ກ່ອນເຂົ້າຮຽນ. ພວກເຂົາເຈົ້າສາມາດເອົາ feedforwards ທັງຫມົດແລະບັນລຸປະສິດທິພາບທີ່ຄ້າຍຄືກັນກັບ transformers ຕົ້ນສະບັບ. ຂ້າພະເຈົ້າໄດ້ພົບເຫັນວ່າການຮັກສາ feedforwards ແລະເພີ່ມກະແຈຄວາມຊົງຈໍາ / ຄ່ານໍາໄປສູ່ການປະຕິບັດທີ່ດີກວ່າ. ສະເໜີການເພີ່ມ tokens ທີ່ຮຽນຮູ້, ຄ້າຍຄືກັບ CLS tokens, ຊື່ວ່າ memory tokens, ທີ່ຖືກສົ່ງຜ່ານຊັ້ນຄວາມສົນໃຈພ້ອມກັບ tokens ການປ້ອນຂໍ້ມູນ. ທ່ານຍັງສາມາດໃຊ້ການຝັງຕົວປົກກະຕິຂອງ l2 ທີ່ສະເຫນີເປັນສ່ວນຫນຶ່ງຂອງ fixnorm. ຂ້າພະເຈົ້າໄດ້ພົບເຫັນວ່າມັນນໍາໄປສູ່ການປັບປຸງການລວມກັນໃນເວລາທີ່ຈັບຄູ່ກັບການເລີ່ມຕົ້ນຂະຫນາດນ້ອຍ (ສະເຫນີໂດຍ BlinkDL). ການເລີ່ມຕົ້ນຂະໜາດນ້ອຍຈະຖືກເອົາໃຈໃສ່ ຕາບໃດທີ່ l2norm_embed ຖືກຕັ້ງເປັນ True.
ຄຸນລັກສະນະ
- ຕົວຖອດລະຫັດເທົ່ານັ້ນ (ຄ້າຍຄື GPT)
- ຕົວເຂົ້າລະຫັດເທົ່ານັ້ນ (ຄ້າຍຄື BERT)
- ການຈັດປະເພດຮູບພາບຂອງສິນລະປະ
- ເພີ່ມຄວາມເອົາໃຈໃສ່ຕົນເອງດ້ວຍຄວາມຊົງຈຳທີ່ຄົງຕົວ
- ການຫັນເປັນໂດຍບໍ່ມີການ້ໍາຕາ
- Root Mean Square Layer Normalization
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/x-transformers.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
