ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ LiteLLM ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ເປັນ v0.11.1sourcecode.zip. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນ OnWorks ຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີສໍາລັບບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ LiteLLM ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
LiteLLM
ລາຍລະອຽດ
ໂທຫາ API ຂອງ LLM ທັງຫມົດໂດຍໃຊ້ຮູບແບບ OpenAI [Anthropic, Huggingface, Cohere, Azure OpenAI ແລະອື່ນໆ] liteLLM ສະຫນັບສະຫນູນການຖ່າຍທອດການຕອບສະຫນອງແບບຈໍາລອງກັບຄືນໄປບ່ອນ, ຜ່ານ streaming=True ເພື່ອໃຫ້ໄດ້ຮັບການຕອບຄືນການຖ່າຍທອດ. ການຖ່າຍທອດແມ່ນຮອງຮັບແບບ OpenAI, Azure, Anthropic, ແລະ Huggingface.
ຄຸນລັກສະນະ
- ການແປວັດສະດຸປ້ອນໃຫ້ກັບການສໍາເລັດຂອງຜູ້ໃຫ້ບໍລິການ ແລະຝັງຈຸດສິ້ນສຸດ
- ຮັບປະກັນຜົນຜະລິດທີ່ສອດຄ່ອງ, ຄໍາຕອບຂໍ້ຄວາມຈະມີຢູ່ສະເຫມີ
- ແຜນທີ່ຂໍ້ຍົກເວັ້ນ
- ຂໍ້ຍົກເວັ້ນທົ່ວໄປໃນທົ່ວຜູ້ໃຫ້ບໍລິການແມ່ນເຮັດແຜນທີ່ກັບປະເພດການຍົກເວັ້ນ OpenAI
- LiteLLM Client - debugging & 1-click ເພີ່ມ LLMs ໃຫມ່
- liteLLM ສະຫນັບສະຫນູນນ້ໍາການຕອບສະຫນອງຕົວແບບກັບຄືນໄປບ່ອນ
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/litellm.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.