llama2.c എന്ന് പേരിട്ടിരിക്കുന്ന Linux ആപ്പാണിത്, ഇതിന്റെ ഏറ്റവും പുതിയ പതിപ്പ് llama2.csourcecode.tar.gz ആയി ഡൗൺലോഡ് ചെയ്യാം. വർക്ക്സ്റ്റേഷനുകൾക്കായുള്ള സൗജന്യ ഹോസ്റ്റിംഗ് ദാതാവായ OnWorks-ൽ ഇത് ഓൺലൈനായി പ്രവർത്തിപ്പിക്കാം.
llama2.c എന്ന് പേരിട്ടിരിക്കുന്ന ഈ ആപ്പ് OnWorks-നൊപ്പം സൗജന്യമായി ഓൺലൈനായി ഡൗൺലോഡ് ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
ഈ ആപ്പ് പ്രവർത്തിപ്പിക്കുന്നതിന് ഈ നിർദ്ദേശങ്ങൾ പാലിക്കുക:
- 1. നിങ്ങളുടെ പിസിയിൽ ഈ ആപ്ലിക്കേഷൻ ഡൗൺലോഡ് ചെയ്തു.
- 2. ഞങ്ങളുടെ ഫയൽ മാനേജറിൽ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിൽ നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമം നൽകുക.
- 3. അത്തരം ഫയൽമാനേജറിൽ ഈ ആപ്ലിക്കേഷൻ അപ്ലോഡ് ചെയ്യുക.
- 4. ഈ വെബ്സൈറ്റിൽ നിന്ന് OnWorks Linux ഓൺലൈനോ Windows ഓൺലൈൻ എമുലേറ്ററോ MACOS ഓൺലൈൻ എമുലേറ്ററോ ആരംഭിക്കുക.
- 5. നിങ്ങൾ ഇപ്പോൾ ആരംഭിച്ച OnWorks Linux OS-ൽ നിന്ന്, നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമത്തോടുകൂടിയ ഞങ്ങളുടെ ഫയൽ മാനേജർ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിലേക്ക് പോകുക.
- 6. ആപ്ലിക്കേഷൻ ഡൌൺലോഡ് ചെയ്യുക, അത് ഇൻസ്റ്റാൾ ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
സ്ക്രീൻഷോട്ടുകൾ:
ലാമ2.സി
വിവരണം:
പൂർണ്ണമായും പ്യുവർ സിയിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി രൂപകൽപ്പന ചെയ്തിരിക്കുന്ന ലാമ 2 ഭാഷാ മോഡൽ ആർക്കിടെക്ചറിന്റെ ഒരു മിനിമലിസ്റ്റ് ഇംപ്ലിമെന്റേഷനാണ് llama2.c. ആൻഡ്രെജ് കാർപതി സൃഷ്ടിച്ച ഈ പ്രോജക്റ്റ്, ബാഹ്യ ആശ്രിതത്വങ്ങളില്ലാതെ ചെറിയ ലാമ 2 മോഡലുകളിൽ അനുമാനം നടത്തുന്നതിനുള്ള ഒരു വിദ്യാഭ്യാസപരവും ഭാരം കുറഞ്ഞതുമായ ചട്ടക്കൂട് വാഗ്ദാനം ചെയ്യുന്നു. ഇത് ഒരു പൂർണ്ണ പരിശീലനവും അനുമാന പൈപ്പ്ലൈൻ നൽകുന്നു: മോഡലുകളെ PyTorch-ൽ പരിശീലിപ്പിക്കാനും പിന്നീട് ഒരു സംക്ഷിപ്ത 700-ലൈൻ C പ്രോഗ്രാം (run.c.) ഉപയോഗിച്ച് നടപ്പിലാക്കാനും കഴിയും. മെറ്റായുടെ ഔദ്യോഗിക ലാമ 2 മോഡലുകൾ സാങ്കേതികമായി ലോഡ് ചെയ്യാൻ ഇതിന് കഴിയുമെങ്കിലും, നിലവിലെ പിന്തുണ fp32 കൃത്യതയിലേക്ക് പരിമിതപ്പെടുത്തിയിരിക്കുന്നു, അതായത് പ്രായോഗിക ഉപയോഗം ഏകദേശം 7B പാരാമീറ്ററുകൾ വരെയുള്ള മോഡലുകളിൽ പരിമിതപ്പെടുത്തിയിരിക്കുന്നു. ലാളിത്യം, വ്യക്തത, പ്രവേശനക്ഷമത എന്നിവയ്ക്ക് ഊന്നൽ നൽകിക്കൊണ്ട്, ചെറിയ മോഡലുകളിൽ പോലും ഒരു ഒതുക്കമുള്ളതും സുതാര്യവുമായ ഇംപ്ലിമെന്റേഷന് എങ്ങനെ അർത്ഥവത്തായ അനുമാനം നടത്താൻ കഴിയുമെന്ന് തെളിയിക്കുക എന്നതാണ് llama2.c.യുടെ ലക്ഷ്യം. നാനോജിപിടിയിൽ നിന്നുള്ള പാഠങ്ങളെ അടിസ്ഥാനമാക്കിയാണ് ഈ പ്രോജക്റ്റ് നിർമ്മിക്കുന്നത്, വലിയ തോതിലുള്ള പ്രകടനത്തേക്കാൾ മിനിമലിസത്തിലും വിദ്യാഭ്യാസ മൂല്യത്തിലും ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്ന llama.cpp-ൽ നിന്ന് പ്രചോദനം ഉൾക്കൊണ്ട്, വലിയ തോതിലുള്ള പ്രകടനത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു.
സവിശേഷതകൾ
- പരിശീലനത്തിനും അനുമാനത്തിനുമായി പൂർണ്ണമായ ലാമ 2 ആർക്കിടെക്ചർ നടപ്പിലാക്കുന്നു.
- ഒരു ഒതുക്കമുള്ള, 700-ലൈൻ സി-അധിഷ്ഠിത അനുമാന എഞ്ചിൻ (run.c) നൽകുന്നു.
- പൈടോർച്ചിലും റണ്ണിംഗ് മോഡലുകളിലും നേരിട്ട് സിയിൽ പരിശീലനം അനുവദിക്കുന്നു.
- ചെറുതും വിദ്യാഭ്യാസപരവുമായ എൽഎൽഎമ്മുകൾക്കായി fp32 മോഡൽ കൃത്യതയെ പിന്തുണയ്ക്കുന്നു.
- എളുപ്പത്തിലുള്ള പഠനത്തിനും പരിഷ്കരണത്തിനുമായി വൃത്തിയുള്ളതും ആശ്രയത്വരഹിതവുമായ ഒരു നടപ്പിലാക്കൽ വാഗ്ദാനം ചെയ്യുന്നു.
- llama.cpp-ൽ നിന്ന് പ്രചോദനം ഉൾക്കൊണ്ടെങ്കിലും ലാളിത്യത്തിനും മിനിമലിസത്തിനും വേണ്ടി രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു.
പ്രോഗ്രാമിംഗ് ഭാഷ
സി, പൈത്തൺ
Categories
ഇത് https://sourceforge.net/projects/llama2-c.mirror/ എന്നതിൽ നിന്നും ലഭിക്കാവുന്ന ഒരു ആപ്ലിക്കേഷനാണ്. ഞങ്ങളുടെ സൗജന്യ ഓപ്പറേറ്റീവ് സിസ്റ്റങ്ങളിൽ ഒന്നിൽ നിന്ന് ഏറ്റവും എളുപ്പമുള്ള രീതിയിൽ ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി ഇത് OnWorks-ൽ ഹോസ്റ്റ് ചെയ്തിരിക്കുന്നു.