This is the Linux app named x-transformers whose latest release can be downloaded as 2.8.2sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
x-transformers라는 이름의 이 앱을 OnWorks와 함께 무료로 다운로드하여 온라인에서 실행해보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 OnWorks Linux 온라인 또는 Windows 온라인 에뮬레이터 또는 MACOS 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Linux OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 응용 프로그램을 다운로드하여 설치하고 실행합니다.
스크린 샷
Ad
x 변압기
기술
다양한 논문에서 유망한 실험적 특징 세트를 갖춘 간단하지만 완전한 전체 어텐션 변환기입니다. 참석하기 전에 학습된 메모리 키/값을 추가하는 것을 제안합니다. 그들은 피드포워드를 완전히 제거하고 원래 변환기와 유사한 성능을 얻을 수 있었습니다. 저는 피드포워드를 유지하고 메모리 키/값을 추가하면 성능이 더 향상된다는 것을 발견했습니다. 입력 토큰과 함께 어텐션 계층을 통과하는 CLS 토큰과 유사한 학습된 토큰인 메모리 토큰을 추가하는 것을 제안합니다. fixnorm의 일부로 제안된 l2 정규화된 임베딩을 사용할 수도 있습니다. 저는 그것이 작은 초기화(BlinkDL에서 제안)와 함께 사용될 때 향상된 수렴으로 이어진다는 것을 발견했습니다. l2norm_embed가 True로 설정되어 있는 한 작은 초기화가 처리됩니다.
기능
- 디코더 전용(GPT 유사)
- 인코더 전용(BERT와 유사)
- 최첨단 이미지 분류
- 지속적 메모리를 통한 자기 주의 증강
- 눈물 없는 트랜스포머
- 평균 제곱근 계층 정규화
프로그래밍 언어
Python
카테고리
이것은 https://sourceforge.net/projects/x-transformers.mirror/에서도 가져올 수 있는 애플리케이션입니다. 이것은 OnWorks에 호스팅되어 있어서 우리의 무료 운영 시스템 중 하나에서 가장 쉬운 방법으로 온라인에서 실행할 수 있습니다.
