ഇതാണ് FastChat എന്ന് പേരിട്ടിരിക്കുന്ന Linux ആപ്പ്, ഇതിന്റെ ഏറ്റവും പുതിയ റിലീസ് Releasev0.2.30.zip ആയി ഡൗൺലോഡ് ചെയ്യാം. വർക്ക്സ്റ്റേഷനുകൾക്കായുള്ള സൗജന്യ ഹോസ്റ്റിംഗ് ദാതാവായ OnWorks-ൽ ഇത് ഓൺലൈനായി പ്രവർത്തിപ്പിക്കാം.
FastChat വിത്ത് OnWorks എന്ന് പേരിട്ടിരിക്കുന്ന ഈ ആപ്പ് സൗജന്യമായി ഡൗൺലോഡ് ചെയ്ത് ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുക.
ഈ ആപ്പ് പ്രവർത്തിപ്പിക്കുന്നതിന് ഈ നിർദ്ദേശങ്ങൾ പാലിക്കുക:
- 1. നിങ്ങളുടെ പിസിയിൽ ഈ ആപ്ലിക്കേഷൻ ഡൗൺലോഡ് ചെയ്തു.
- 2. ഞങ്ങളുടെ ഫയൽ മാനേജറിൽ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിൽ നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമം നൽകുക.
- 3. അത്തരം ഫയൽമാനേജറിൽ ഈ ആപ്ലിക്കേഷൻ അപ്‌ലോഡ് ചെയ്യുക.
- 4. ഈ വെബ്സൈറ്റിൽ നിന്ന് OnWorks Linux ഓൺലൈനോ Windows ഓൺലൈൻ എമുലേറ്ററോ MACOS ഓൺലൈൻ എമുലേറ്ററോ ആരംഭിക്കുക.
- 5. നിങ്ങൾ ഇപ്പോൾ ആരംഭിച്ച OnWorks Linux OS-ൽ നിന്ന്, നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമത്തോടുകൂടിയ ഞങ്ങളുടെ ഫയൽ മാനേജർ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിലേക്ക് പോകുക.
- 6. ആപ്ലിക്കേഷൻ ഡൌൺലോഡ് ചെയ്യുക, അത് ഇൻസ്റ്റാൾ ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
സ്ക്രീൻഷോട്ടുകൾ
Ad
ഫാസ്റ്റ്ചാറ്റ്
വിവരണം
വലിയ ഭാഷാ മോഡൽ അധിഷ്ഠിത ചാറ്റ്ബോട്ടുകളെ പരിശീലിപ്പിക്കുന്നതിനും സേവിക്കുന്നതിനും വിലയിരുത്തുന്നതിനുമുള്ള ഒരു തുറന്ന പ്ലാറ്റ്ഫോമാണ് FastChat. നിങ്ങൾക്ക് മതിയായ മെമ്മറി ഇല്ലെങ്കിൽ, മുകളിലുള്ള കമാൻഡുകളിലേക്ക് --load-8bit ചേർത്ത് നിങ്ങൾക്ക് 8-ബിറ്റ് കംപ്രഷൻ പ്രവർത്തനക്ഷമമാക്കാം. ഇത് അൽപ്പം നിലവാരം കുറഞ്ഞ മോഡൽ ഗുണനിലവാരത്തോടെ മെമ്മറി ഉപയോഗം പകുതിയായി കുറയ്ക്കും. ഇത് സിപിയു, ജിപിയു, മെറ്റൽ ബാക്കെൻഡ് എന്നിവയുമായി പൊരുത്തപ്പെടുന്നു. 13-ബിറ്റ് കംപ്രഷൻ ഉള്ള Vicuna-8B ഒരൊറ്റ NVIDIA 3090/4080/T4/V100(16GB) GPU-ൽ പ്രവർത്തിക്കാൻ കഴിയും. അതിനുപുറമെ, നിങ്ങളുടെ ജിപിയുവിൽ ചേരാത്ത ഭാരം സിപിയു മെമ്മറിയിലേക്ക് ഓഫ്‌ലോഡ് ചെയ്യുന്നതിന് മുകളിലുള്ള കമാൻഡുകളിലേക്ക് --cpu-offloading ചേർക്കാവുന്നതാണ്. ഇതിന് 8-ബിറ്റ് കംപ്രഷൻ പ്രവർത്തനക്ഷമമാക്കുകയും ബിറ്റ്സാൻഡ്ബൈറ്റ്സ് പാക്കേജ് ഇൻസ്റ്റാൾ ചെയ്യുകയും വേണം, ഇത് ലിനക്സ് ഓപ്പറേറ്റിംഗ് സിസ്റ്റങ്ങളിൽ മാത്രമേ ലഭ്യമാകൂ.
സവിശേഷതകൾ
- അത്യാധുനിക മോഡലുകളുടെ ഭാരം, പരിശീലന കോഡ്, മൂല്യനിർണ്ണയ കോഡ്
- വെബ് യുഐയും ഓപ്പൺഎഐ-അനുയോജ്യമായ റെസ്റ്റ്ഫുൾ എപിഐകളും ഉള്ള ഒരു വിതരണം ചെയ്ത മൾട്ടി മോഡൽ സെർവിംഗ് സിസ്റ്റം
- വലിയ ഭാഷാ മാതൃകകൾ പരിശീലിപ്പിക്കുന്നതിനും സേവിക്കുന്നതിനും വിലയിരുത്തുന്നതിനും
- ഭാരം പരിവർത്തനത്തിന്റെ CPU റാം ആവശ്യകത കുറയ്ക്കുക
- കമാൻഡ് ലൈൻ ഇന്റർഫേസുമായുള്ള അനുമാനം
- പിന്തുണയ്ക്കുന്ന നിരവധി മോഡലുകൾ
പ്രോഗ്രാമിംഗ് ഭാഷ
പൈത്തൺ
Categories
ഇത് https://sourceforge.net/projects/fastchat.mirror/ എന്നതിൽ നിന്നും ലഭിക്കാവുന്ന ഒരു ആപ്ലിക്കേഷനാണ്. ഞങ്ങളുടെ സൗജന്യ ഓപ്പറേറ്റീവ് സിസ്റ്റങ്ങളിലൊന്നിൽ നിന്ന് ഏറ്റവും എളുപ്പമുള്ള രീതിയിൽ ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി ഇത് OnWorks-ൽ ഹോസ്റ്റ് ചെയ്‌തിരിക്കുന്നു.
