MobileLLM എന്ന് പേരിട്ടിരിക്കുന്ന Linux ആപ്പാണിത്, ഇതിന്റെ ഏറ്റവും പുതിയ പതിപ്പ് MobileLLMsourcecode.tar.gz ആയി ഡൗൺലോഡ് ചെയ്യാം. വർക്ക്സ്റ്റേഷനുകൾക്കായുള്ള സൗജന്യ ഹോസ്റ്റിംഗ് ദാതാവായ OnWorks-ൽ ഇത് ഓൺലൈനായി പ്രവർത്തിപ്പിക്കാം.
MobileLLM എന്ന് പേരിട്ടിരിക്കുന്ന ഈ ആപ്പ് OnWorks-നൊപ്പം സൗജന്യമായി ഓൺലൈനായി ഡൗൺലോഡ് ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
ഈ ആപ്പ് പ്രവർത്തിപ്പിക്കുന്നതിന് ഈ നിർദ്ദേശങ്ങൾ പാലിക്കുക:
- 1. നിങ്ങളുടെ പിസിയിൽ ഈ ആപ്ലിക്കേഷൻ ഡൗൺലോഡ് ചെയ്തു.
- 2. ഞങ്ങളുടെ ഫയൽ മാനേജറിൽ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിൽ നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമം നൽകുക.
- 3. അത്തരം ഫയൽമാനേജറിൽ ഈ ആപ്ലിക്കേഷൻ അപ്‌ലോഡ് ചെയ്യുക.
- 4. ഈ വെബ്സൈറ്റിൽ നിന്ന് OnWorks Linux ഓൺലൈനോ Windows ഓൺലൈൻ എമുലേറ്ററോ MACOS ഓൺലൈൻ എമുലേറ്ററോ ആരംഭിക്കുക.
- 5. നിങ്ങൾ ഇപ്പോൾ ആരംഭിച്ച OnWorks Linux OS-ൽ നിന്ന്, നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമത്തോടുകൂടിയ ഞങ്ങളുടെ ഫയൽ മാനേജർ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിലേക്ക് പോകുക.
- 6. ആപ്ലിക്കേഷൻ ഡൌൺലോഡ് ചെയ്യുക, അത് ഇൻസ്റ്റാൾ ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
സ്ക്രീൻഷോട്ടുകൾ:
മൊബൈൽഎൽഎൽഎം
വിവരണം:
ഫേസ്ബുക്ക് റിസർച്ച് വികസിപ്പിച്ചെടുത്ത ഒരു ലൈറ്റ്‌വെയ്റ്റ് ലാർജ് ലാംഗ്വേജ് മോഡൽ (LLM) ഫ്രെയിംവർക്കാണ് MobileLLM, കമ്പ്യൂട്ടേഷണൽ, മെമ്മറി കാര്യക്ഷമത എന്നിവ നിർണായകമാകുന്ന ഉപകരണങ്ങളിലെ വിന്യാസത്തിനായി ഇത് ഒപ്റ്റിമൈസ് ചെയ്തിട്ടുണ്ട്. ICML 2024 ലെ "MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases" എന്ന പേപ്പറിൽ അവതരിപ്പിച്ചിരിക്കുന്ന ഇത്, ഒരു ബില്യൺ പാരാമീറ്ററുകൾക്ക് താഴെയുള്ള മോഡലുകളിൽ ശക്തമായ യുക്തിയും സാമാന്യവൽക്കരണ ശേഷികളും നൽകുന്നതിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു. മോഡൽ വലുപ്പം, അനുമാന വേഗത, കൃത്യത എന്നിവയ്ക്കിടയിൽ മികച്ച ഒരു ട്രേഡ്-ഓഫ് നേടുന്നതിന്, SwiGLU ആക്ടിവേഷൻ, ആഴത്തിലുള്ളതും നേർത്തതുമായ നെറ്റ്‌വർക്ക് ഡിസൈൻ, എംബെഡിംഗ് ഷെയറിംഗ്, ഗ്രൂപ്പഡ്-ക്വറി ശ്രദ്ധ (GQA) എന്നിങ്ങനെ നിരവധി ആർക്കിടെക്ചറൽ നവീകരണങ്ങളെ ഫ്രെയിംവർക്ക് സംയോജിപ്പിക്കുന്നു. MobileLLM ശ്രദ്ധേയമായ പ്രകടനം പ്രകടമാക്കുന്നു, 125M, 350M വേരിയന്റുകൾ സീറോ-ഷോട്ട് കോമൺസെൻസ് റീസണിംഗ് ടാസ്‌ക്കുകളിൽ ഒരേ സ്കെയിലിലെ മുൻ അത്യാധുനിക മോഡലുകളെ 4.3% വരെ മറികടക്കുന്നു.
സവിശേഷതകൾ
- സബ്-ബില്യൺ പാരാമീറ്റർ LLM-കൾക്കായി ഒപ്റ്റിമൈസ് ചെയ്ത ട്രാൻസ്ഫോർമർ ആർക്കിടെക്ചർ
- SwiGLU ആക്ടിവേഷൻ, എംബെഡിംഗ് ഷെയറിംഗ്, ഗ്രൂപ്പ് ചെയ്ത-ക്വറി ശ്രദ്ധ എന്നിവ സംയോജിപ്പിക്കുന്നു.
- PyTorch ≥ 2.0 ഉപയോഗിച്ച് ഡിസ്ട്രിബ്യൂട്ടഡ് മൾട്ടി-നോഡ് പ്രീട്രെയിനിംഗിനെ പിന്തുണയ്ക്കുന്നു
- ഒന്നിലധികം ജോലികളിലുടനീളം അത്യാധുനിക സീറോ-ഷോട്ട് യുക്തിസഹമായ ഫലങ്ങൾ നൽകുന്നു.
- ഒന്നിലധികം മോഡൽ വലുപ്പങ്ങൾക്കായി പുനരുൽപ്പാദിപ്പിക്കാവുന്ന പരിശീലനവും മൂല്യനിർണ്ണയ പൈപ്പ്‌ലൈനുകളും ഉൾപ്പെടുന്നു
- 125M മുതൽ 1.5B പാരാമീറ്ററുകൾ വരെ നീളുന്ന സ്കേലബിൾ ഡിസൈൻ തത്ത്വചിന്ത.
പ്രോഗ്രാമിംഗ് ഭാഷ
പൈത്തൺ, യുണിക്സ് ഷെൽ
Categories
ഇത് https://sourceforge.net/projects/mobillellm.mirror/ എന്നതിൽ നിന്നും ലഭിക്കാവുന്ന ഒരു ആപ്ലിക്കേഷനാണ്. ഞങ്ങളുടെ സൗജന്യ ഓപ്പറേറ്റീവ് സിസ്റ്റങ്ങളിൽ ഒന്നിൽ നിന്ന് ഏറ്റവും എളുപ്പമുള്ള രീതിയിൽ ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി ഇത് OnWorks-ൽ ഹോസ്റ്റ് ചെയ്‌തിരിക്കുന്നു.