LocalAI എന്ന് പേരിട്ടിരിക്കുന്ന Linux ആപ്പാണിത്, ഇതിന്റെ ഏറ്റവും പുതിയ പതിപ്പ് LocalAI-v3.5.3-source.tar.gz ആയി ഡൗൺലോഡ് ചെയ്യാം. വർക്ക്സ്റ്റേഷനുകൾക്കായുള്ള സൗജന്യ ഹോസ്റ്റിംഗ് ദാതാവായ OnWorks-ൽ ഇത് ഓൺലൈനായി പ്രവർത്തിപ്പിക്കാം.
LocalAI എന്ന് പേരിട്ടിരിക്കുന്ന ഈ ആപ്പ് OnWorks-നൊപ്പം സൗജന്യമായി ഓൺലൈനായി ഡൗൺലോഡ് ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
ഈ ആപ്പ് പ്രവർത്തിപ്പിക്കുന്നതിന് ഈ നിർദ്ദേശങ്ങൾ പാലിക്കുക:
- 1. നിങ്ങളുടെ പിസിയിൽ ഈ ആപ്ലിക്കേഷൻ ഡൗൺലോഡ് ചെയ്തു.
- 2. ഞങ്ങളുടെ ഫയൽ മാനേജറിൽ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിൽ നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമം നൽകുക.
- 3. അത്തരം ഫയൽമാനേജറിൽ ഈ ആപ്ലിക്കേഷൻ അപ്ലോഡ് ചെയ്യുക.
- 4. ഈ വെബ്സൈറ്റിൽ നിന്ന് OnWorks Linux ഓൺലൈനോ Windows ഓൺലൈൻ എമുലേറ്ററോ MACOS ഓൺലൈൻ എമുലേറ്ററോ ആരംഭിക്കുക.
- 5. നിങ്ങൾ ഇപ്പോൾ ആരംഭിച്ച OnWorks Linux OS-ൽ നിന്ന്, നിങ്ങൾക്ക് ആവശ്യമുള്ള ഉപയോക്തൃനാമത്തോടുകൂടിയ ഞങ്ങളുടെ ഫയൽ മാനേജർ https://www.onworks.net/myfiles.php?username=XXXXX എന്നതിലേക്ക് പോകുക.
- 6. ആപ്ലിക്കേഷൻ ഡൌൺലോഡ് ചെയ്യുക, അത് ഇൻസ്റ്റാൾ ചെയ്ത് പ്രവർത്തിപ്പിക്കുക.
സ്ക്രീൻഷോട്ടുകൾ:
ലോക്കൽ എഐ
വിവരണം:
സ്വയം-ഹോസ്റ്റുചെയ്ത, കമ്മ്യൂണിറ്റി-പ്രേരിത, പ്രാദേശിക OpenAI അനുയോജ്യമായ API. ഉപഭോക്തൃ-ഗ്രേഡ് ഹാർഡ്വെയറിൽ ഓപ്പൺഎഐ പ്രവർത്തിക്കുന്ന LLM-കൾക്കുള്ള ഡ്രോപ്പ്-ഇൻ മാറ്റിസ്ഥാപിക്കൽ. സ്വതന്ത്ര ഓപ്പൺ സോഴ്സ് OpenAI ബദൽ. GPU ആവശ്യമില്ല. ggml, GPTQ, onnx, TF അനുയോജ്യമായ മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നു: llama, gpt4all, rwkv, whisper, vicuna, koala, gpt4all-j, സെറിബ്രസ്, ഫാൽക്കൺ, ഡോളി, സ്റ്റാർകോഡർ, കൂടാതെ മറ്റു പലതും. പ്രാദേശിക അനുമാനങ്ങൾക്കായി OpenAI API സ്പെസിഫിക്കേഷനുകളുമായി പൊരുത്തപ്പെടുന്ന ഒരു ഡ്രോപ്പ്-ഇൻ റീപ്ലേസ്മെന്റ് REST API ആണ് LocalAI. ജിജിഎംഎൽ ഫോർമാറ്റുമായി പൊരുത്തപ്പെടുന്ന ഒന്നിലധികം മോഡൽ ഫാമിലികളെ പിന്തുണയ്ക്കുന്ന ഉപഭോക്തൃ-ഗ്രേഡ് ഹാർഡ്വെയർ ഉപയോഗിച്ച് പ്രാദേശികമായോ ഓൺ-പ്രെമിലോ LLM-കൾ പ്രവർത്തിപ്പിക്കാൻ ഇത് നിങ്ങളെ അനുവദിക്കുന്നു. GPU ആവശ്യമില്ല.
സവിശേഷതകൾ
- ലോക്കൽ, OpenAI ഡ്രോപ്പ്-ഇൻ ഇതര REST API
- GPU ആവശ്യമില്ല
- ഒന്നിലധികം മോഡലുകളെ പിന്തുണയ്ക്കുന്നു
- ആദ്യമായി ലോഡ് ചെയ്താൽ, വേഗതയേറിയ അനുമാനത്തിനായി ഇത് മോഡലുകൾ മെമ്മറിയിൽ ലോഡ് ചെയ്തിരിക്കുന്നു
- ഷെൽ-ഔട്ട് ചെയ്യുന്നില്ല, എന്നാൽ വേഗത്തിലുള്ള അനുമാനത്തിനും മികച്ച പ്രകടനത്തിനും C++ ബൈൻഡിംഗുകൾ ഉപയോഗിക്കുന്നു
- നിങ്ങളുടെ ഡാറ്റ നിങ്ങളുടേതാണ്
പ്രോഗ്രാമിംഗ് ഭാഷ
Go
Categories
ഇത് https://sourceforge.net/projects/localai.mirror/ എന്നതിൽ നിന്നും ലഭിക്കാവുന്ന ഒരു ആപ്ലിക്കേഷനാണ്. ഞങ്ങളുടെ സൗജന്യ ഓപ്പറേറ്റീവ് സിസ്റ്റങ്ങളിലൊന്നിൽ നിന്ന് ഏറ്റവും എളുപ്പമുള്ള രീതിയിൽ ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി ഇത് OnWorks-ൽ ഹോസ്റ്റ് ചെയ്തിരിക്കുന്നു.