ഇതാണ് PEFT എന്ന് പേരിട്ടിരിക്കുന്ന Linux ആപ്പ്, ഇതിന്റെ ഏറ്റവും പുതിയ പതിപ്പ് GPTQQuantization,Low-levelAPI.zip ആയി ഡൗൺലോഡ് ചെയ്യാം. വർക്ക്സ്റ്റേഷനുകൾക്കായുള്ള സൗജന്യ ഹോസ്റ്റിംഗ് ദാതാവായ OnWorks-ൽ ഇത് ഓൺലൈനായി പ്രവർത്തിപ്പിക്കാം.
PEFT എന്ന് പേരിട്ടിരിക്കുന്ന ഈ ആപ്പ് OnWorks-നൊപ്പം സൗജന്യമായി ഓൺലൈനായി ഡൗൺലോഡ് ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
ഈ ആപ്പ് പ്രവർത്തിപ്പിക്കുന്നതിന് ഈ നിർദ്ദേശങ്ങൾ പാലിക്കുക:
- 1. നിങ്ങളുടെ പിസിയിൽ ഈ ആപ്ലിക്കേഷൻ ഡൗൺലോഡ് ചെയ്തു.
- 2. ഞങ്ങളുടെ ഫയൽ മാനേജറിൽ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിൽ നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമം നൽകുക.
- 3. അത്തരം ഫയൽമാനേജറിൽ ഈ ആപ്ലിക്കേഷൻ അപ്ലോഡ് ചെയ്യുക.
- 4. ഈ വെബ്സൈറ്റിൽ നിന്ന് OnWorks Linux ഓൺലൈനോ Windows ഓൺലൈൻ എമുലേറ്ററോ MACOS ഓൺലൈൻ എമുലേറ്ററോ ആരംഭിക്കുക.
- 5. നിങ്ങൾ ഇപ്പോൾ ആരംഭിച്ച OnWorks Linux OS-ൽ നിന്ന്, നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമത്തോടുകൂടിയ ഞങ്ങളുടെ ഫയൽ മാനേജർ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിലേക്ക് പോകുക.
- 6. ആപ്ലിക്കേഷൻ ഡൌൺലോഡ് ചെയ്യുക, അത് ഇൻസ്റ്റാൾ ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
സ്ക്രീൻഷോട്ടുകൾ
Ad
PEFT
വിവരണം
പാരാമീറ്റർ-എഫിഷ്യന്റ് ഫൈൻ-ട്യൂണിംഗ് (PEFT) രീതികൾ, മോഡലിന്റെ എല്ലാ പാരാമീറ്ററുകളും ഫൈൻ-ട്യൂൺ ചെയ്യാതെ തന്നെ വിവിധ ഡൗൺസ്ട്രീം ആപ്ലിക്കേഷനുകളിലേക്ക് പ്രീ-ട്രെയിൻഡ് ലാംഗ്വേജ് മോഡലുകളെ (PLMs) കാര്യക്ഷമമായി പൊരുത്തപ്പെടുത്തുന്നത് സാധ്യമാക്കുന്നു. ഫൈൻ-ട്യൂണിംഗ് വലിയ തോതിലുള്ള PLM-കൾ പലപ്പോഴും വിലകൂടിയതാണ്. ഇക്കാര്യത്തിൽ, PEFT രീതികൾ ഒരു ചെറിയ സംഖ്യ (അധിക) മോഡൽ പാരാമീറ്ററുകൾ മാത്രമേ ഫൈൻ-ട്യൂൺ ചെയ്യുന്നുള്ളൂ, അതുവഴി കമ്പ്യൂട്ടേഷണൽ, സ്റ്റോറേജ് ചെലവുകൾ ഗണ്യമായി കുറയുന്നു. സമീപകാല അത്യാധുനിക PEFT ടെക്നിക്കുകൾ പൂർണ്ണമായ ഫൈൻ ട്യൂണിംഗുമായി താരതമ്യപ്പെടുത്താവുന്ന പ്രകടനം കൈവരിക്കുന്നു.
സവിശേഷതകൾ
- ഡീപ്സ്പീഡും ബിഗ് മോഡൽ അനുമാനവും പ്രയോജനപ്പെടുത്തുന്ന വലിയ തോതിലുള്ള മോഡലുകൾക്കായി ത്വരിതപ്പെടുത്തുക
- ഉപഭോക്തൃ ഹാർഡ്വെയർ ഉപയോഗിച്ച് ഡൗൺസ്ട്രീം ടാസ്ക്കുകളിലേക്ക് LLM-കൾ പൊരുത്തപ്പെടുത്തിക്കൊണ്ട് പൂർണ്ണമായ ഫൈൻട്യൂണിങ്ങുമായി താരതമ്യപ്പെടുത്താവുന്ന പ്രകടനം നേടുക
- കുറച്ച്-ഷോട്ട് ഡാറ്റാസെറ്റിൽ LLM-കൾ പൊരുത്തപ്പെടുത്തുന്നതിന് GPU മെമ്മറി ആവശ്യമാണ്
- ഡിഫ്യൂഷൻ മോഡലുകളുടെ പാരാമീറ്റർ കാര്യക്ഷമമായ ട്യൂണിംഗ്
- വ്യത്യസ്ത ക്രമീകരണങ്ങൾക്ക് ആവശ്യമായ GPU മെമ്മറി
- റാങ്കറും പോളിസിയും പോലുള്ള RLHF ഘടകങ്ങൾക്കായുള്ള LLM-കളുടെ പാരാമീറ്റർ കാര്യക്ഷമമായ ട്യൂണിംഗ്
പ്രോഗ്രാമിംഗ് ഭാഷ
പൈത്തൺ
Categories
ഇത് https://sourceforge.net/projects/peft.mirror/ എന്നതിൽ നിന്നും ലഭിക്കാവുന്ന ഒരു ആപ്ലിക്കേഷനാണ്. ഞങ്ങളുടെ സൗജന്യ ഓപ്പറേറ്റീവ് സിസ്റ്റങ്ങളിലൊന്നിൽ നിന്ന് ഏറ്റവും എളുപ്പമുള്ള രീതിയിൽ ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി ഇത് OnWorks-ൽ ഹോസ്റ്റ് ചെയ്തിരിക്കുന്നു.