alt-nvidia-361-updates-cuda-mps-control - ອອນລາຍໃນ Cl

ໂຄງການ:

NAME

nvidia-cuda-mps-control - NVIDIA CUDA Multi Process Management Service
ໂຄງການ

ສະຫຼຸບສັງລວມ

nvidia-cuda-mps-control [-d]

ລາຍລະອຽດ

MPS ເປັນບໍລິການແລ່ນເວລາອອກແບບມາເພື່ອໃຫ້ຂະບວນການ MPI ຫຼາຍອັນໃຊ້
CUDA ເພື່ອດໍາເນີນການພ້ອມກັນໃນ GPU ດຽວໃນແບບທີ່ມີຄວາມໂປ່ງໃສ
ໂຄງການ MPI. ໂຄງການ CUDA ເຮັດວຽກຢູ່ໃນໂຫມດ MPS ຖ້າ MPS ຄວບຄຸມ
daemon ກໍາລັງແລ່ນຢູ່ໃນລະບົບ.

ເມື່ອ CUDA ຖືກເລີ່ມຕົ້ນຄັ້ງທໍາອິດໃນໂຄງການ, ໄດເວີ CUDA ພະຍາຍາມ
ເພື່ອເຊື່ອມຕໍ່ກັບ daemon ຄວບຄຸມ MPS. ຖ້າຄວາມພະຍາຍາມໃນການເຊື່ອມຕໍ່ລົ້ມເຫລວ,
ໂຄງການຍັງສືບຕໍ່ດໍາເນີນການຕາມປົກກະຕິໂດຍບໍ່ມີ MPS. ຖ້າ
ແນວໃດກໍ່ຕາມ, ຄວາມພະຍາຍາມເຊື່ອມຕໍ່ກັບ daemon ຄວບຄຸມສົບຜົນສໍາເລັດ, ໄດ້
ໄດເວີ CUDA ຫຼັງຈາກນັ້ນຮ້ອງຂໍ daemon ເພື່ອເລີ່ມຕົ້ນເຄື່ອງແມ່ຂ່າຍ MPS ໃນຂອງມັນ
ໃນນາມ. ຖ້າມີເຄື່ອງແມ່ຂ່າຍ MPS ແລ່ນຢູ່ແລ້ວ, ແລະ id ຜູ້ໃຊ້ຂອງ
ຂະບວນການເຊີບເວີນັ້ນກົງກັບຂະບວນການລູກຄ້າທີ່ຮ້ອງຂໍ, ໄດ້
control daemon ພຽງແຕ່ແຈ້ງຂະບວນການລູກຄ້າຂອງມັນ, ເຊິ່ງຫຼັງຈາກນັ້ນ
ດໍາເນີນການເພື່ອເຊື່ອມຕໍ່ກັບເຄື່ອງແມ່ຂ່າຍ. ຖ້າບໍ່ມີເຄື່ອງແມ່ຂ່າຍ MPS ຢູ່ແລ້ວ
ແລ່ນຢູ່ໃນລະບົບ, daemon ຄວບຄຸມເປີດຕົວເຄື່ອງແມ່ຂ່າຍ MPS ກັບ
id ຜູ້​ໃຊ້​ດຽວ​ກັນ (UID) ເປັນ​ຂະ​ບວນ​ການ​ລູກ​ຄ້າ​ທີ່​ຮ້ອງ​ຂໍ. ຖ້າ
ມີເຊີບເວີ MPS ເຮັດວຽກຢູ່ແລ້ວ, ແຕ່ມີ ID ຜູ້ໃຊ້ອື່ນ
ຫຼາຍກວ່າຂະບວນການລູກຄ້າ, daemon ຄວບຄຸມຮຽກຮ້ອງໃຫ້
ເຊີບເວີທີ່ມີຢູ່ໃຫ້ປິດທັນທີທີ່ລູກຄ້າທັງໝົດຂອງມັນສຳເລັດ. ຄັ້ງດຽວ
ເຄື່ອງແມ່ຂ່າຍທີ່ມີຢູ່ແລ້ວໄດ້ຢຸດເຊົາ, daemon ຄວບຄຸມເປີດຕົວໃຫມ່
ເຊີບເວີທີ່ມີ ID ຜູ້ໃຊ້ຄືກັນກັບຂະບວນການລູກຄ້າທີ່ຈັດຄິວ.

ເຊີບເວີ MPS ສ້າງບໍລິບົດ GPU ທີ່ແບ່ງປັນ, ຈັດການລູກຄ້າຂອງມັນ, ແລະ
ບັນຫາເຮັດວຽກກັບ GPU ໃນນາມຂອງລູກຄ້າຂອງມັນ. ເຊີບເວີ MPS ສາມາດ
ສະຫນັບສະຫນູນເຖິງ 16 ລູກຄ້າ CUDA contexts ໃນເວລານັ້ນ. MPS ມີຄວາມໂປ່ງໃສຕໍ່
ໂຄງການ CUDA, ມີຄວາມສັບສົນທັງຫມົດຂອງການສື່ສານລະຫວ່າງ
ຂະບວນການລູກຄ້າ, ເຄື່ອງແມ່ຂ່າຍແລະ daemon ຄວບຄຸມທີ່ເຊື່ອງໄວ້ພາຍໃນ
ສອງໄດເວີ.

ໃນປັດຈຸບັນ, CUDA MPS ແມ່ນມີຢູ່ໃນ 64-bit Linux ເທົ່ານັ້ນ, ຕ້ອງການ a
ອຸ​ປະ​ກອນ​ທີ່​ສະ​ຫນັບ​ສະ​ຫນູນ Unified Virtual Address (UVA​) ແລະ​ມີ​ຄອມ​ພິວ​ເຕີ​
ຄວາມສາມາດ SM 3.5 ຫຼືສູງກວ່າ. ແອັບພລິເຄຊັ່ນທີ່ຕ້ອງໃຊ້ກ່ອນ CUDA 4.0 APIs
ບໍ່ຮອງຮັບພາຍໃຕ້ CUDA MPS. MPS ຍັງບໍ່ໄດ້ຮັບການສະຫນັບສະຫນູນໃນຫຼາຍ.
ການຕັ້ງຄ່າ GPU. ກະລຸນາໃຊ້ CUDA_VISIBLE_DEVICES ໃນເວລາເລີ່ມຕົ້ນ
ຄວບຄຸມ daemon ເພື່ອຈໍາກັດການເບິ່ງເຫັນກັບອຸປະກອນດຽວ.

OPTIONS

-d
ເລີ່ມ daemon ຄວບຄຸມ MPS, ສົມມຸດວ່າຜູ້ໃຊ້ມີສິດທິພິເສດພຽງພໍ
(ເຊັ່ນ: ຮາກ).

-ຊ, - ຊ່ວຍ
ພິມຂໍ້ຄວາມຊ່ວຍເຫຼືອ.

<ບໍ່ ການໂຕ້ຖຽງ>
ເລີ່ມສ່ວນຕິດຕໍ່ຜູ້ໃຊ້ການຈັດການດ້ານໜ້າໄປຫາການຄວບຄຸມ MPS
daemon, ເຊິ່ງຈໍາເປັນຕ້ອງເລີ່ມຕົ້ນກ່ອນ. UI ດ້ານໜ້າສືບຕໍ່ອ່ານ
ຄໍາສັ່ງຈາກ stdin ຈົນກ່ວາ EOF. ຄໍາສັ່ງຖືກແຍກອອກໂດຍເສັ້ນໃຫມ່
ລັກສະນະ. ຖ້າຄໍາສັ່ງທີ່ບໍ່ຖືກຕ້ອງຖືກອອກແລະປະຕິເສດ, ຄວາມຜິດພາດ
ຂໍ້ຄວາມຈະຖືກພິມເປັນ stdout. ສະຖານະທາງອອກຂອງ UI ດ້ານໜ້າ
ແມ່ນສູນຖ້າການສື່ສານກັບ daemon ປະສົບຜົນສໍາເລັດ. ທີ່ບໍ່ແມ່ນສູນ
ຄ່າຈະຖືກສົ່ງຄືນຖ້າ daemon ບໍ່ພົບຫຼືການເຊື່ອມຕໍ່ກັບ
daemon ຖືກທໍາລາຍໂດຍບໍ່ຄາດຄິດ. ເບິ່ງຄໍາສັ່ງ "ອອກ" ຂ້າງລຸ່ມນີ້ສໍາລັບການເພີ່ມເຕີມ
ຂໍ້ມູນກ່ຽວກັບສະຖານະການອອກ.

ຄໍາສັ່ງທີ່ສະຫນັບສະຫນູນໂດຍ daemon ຄວບຄຸມ MPS:

get_server_list
ພິມອອກບັນຊີລາຍຊື່ຂອງ PID ຂອງເຄື່ອງແມ່ຂ່າຍ MPS ທັງຫມົດ.

start_server -uid UID
ເລີ່ມເຊີບເວີ MPS ໃໝ່ສຳລັບຜູ້ໃຊ້ທີ່ລະບຸ (UID).

shutdown_server ອັກເສບທ້ອງນ້ອຍ [-f]
ປິດເຊີບເວີ MPS ດ້ວຍການໃຫ້ ອັກເສບທ້ອງນ້ອຍ. ເຊີບເວີ MPS ຈະບໍ່
ຍອມຮັບການເຊື່ອມຕໍ່ລູກຄ້າໃຫມ່ແລະມັນອອກໄປໃນເວລາທີ່ປະຈຸບັນທັງຫມົດ
ລູກຄ້າຕັດການເຊື່ອມຕໍ່. -f ຖືກບັງຄັບໃຫ້ປິດທັນທີ. ຖ້າລູກຄ້າ
ເປີດຕົວ kernel ຜິດພາດທີ່ເຮັດວຽກຕະຫຼອດໄປ, ການປິດການບັງຄັບຂອງ
ເຊີບເວີ MPS ອາດຈະຕ້ອງການ, ນັບຕັ້ງແຕ່ເຄື່ອງແມ່ຂ່າຍ MPS ສ້າງແລະ
ບັນຫາ GPU ເຮັດວຽກໃນນາມຂອງລູກຄ້າຂອງຕົນ.

get_client_list ອັກເສບທ້ອງນ້ອຍ
ພິມອອກບັນຊີລາຍຊື່ຂອງ PIDs ຂອງລູກຄ້າທັງຫມົດທີ່ເຊື່ອມຕໍ່ກັບ MPS
ເຊີບເວີທີ່ມີໃຫ້ ອັກເສບທ້ອງນ້ອຍ.

ເຊົາ [-t ຫມົດ​ເວ​ລາ]
ປິດຂະບວນການ daemon ຄວບຄຸມ MPS ແລະເຄື່ອງແມ່ຂ່າຍ MPS ທັງໝົດ. ໄດ້
MPS control daemon ຢຸດຮັບລູກຄ້າໃຫມ່ໃນຂະນະທີ່ລໍຖ້າ
ເຊີບເວີ MPS ປະຈຸບັນ ແລະລູກຄ້າ MPS ທີ່ຈະສໍາເລັດ. ຖ້າ ຫມົດ​ເວ​ລາ is
ທີ່ລະບຸ (ໃນວິນາທີ), daemon ຈະບັງຄັບໃຫ້ເຄື່ອງແມ່ຂ່າຍຂອງ MPS
shutdown ຖ້າພວກເຂົາຍັງແລ່ນຕໍ່ໄປ ຫມົດ​ເວ​ລາ ວິນາທີ.

ຄໍາສັ່ງນີ້ແມ່ນ synchronous. UI ດ້ານຫນ້າລໍຖ້າສໍາລັບ
daemon ເພື່ອປິດ, ຈາກນັ້ນສົ່ງຄືນສະຖານະອອກຂອງ daemon. ໄດ້
ສະຖານະການອອກແມ່ນສູນ iff ເຊີບເວີ MPS ທັງໝົດໄດ້ອອກຢ່າງສະຫງ່າງາມ.

ENVIRONMENT

CUDA_MPS_PIPE_DIRECTORY
ລະບຸໄດເລກະທໍລີທີ່ປະກອບດ້ວຍທໍ່ທີ່ມີຊື່ທີ່ໃຊ້ສໍາລັບ
ການສື່ສານລະຫວ່າງການຄວບຄຸມ MPS, ເຊີບເວີ MPS, ແລະລູກຄ້າ MPS.
ມູນຄ່າຂອງຕົວແປສະພາບແວດລ້ອມນີ້ຄວນຈະສອດຄ່ອງໃນ
MPS ຄວບຄຸມ daemon ແລະຂະບວນການລູກຄ້າ MPS ທັງຫມົດ. ຄ່າເລີ່ມຕົ້ນ
ໄດເລກະທໍລີແມ່ນ /tmp/nvidia-mps

CUDA_MPS_LOG_DIRECTORY
ລະບຸໄດເລກະທໍລີທີ່ປະກອບດ້ວຍໄຟລ໌ບັນທຶກ MPS. ນີ້
ຕົວແປແມ່ນໃຊ້ໂດຍ daemon ຄວບຄຸມ MPS ເທົ່ານັ້ນ. ຄ່າເລີ່ມຕົ້ນ
ໄດເລກະທໍລີແມ່ນ /var/log/nvidia-mps

ໃຊ້ alt-nvidia-361-updates-cuda-mps-control ອອນໄລນ໌ໂດຍໃຊ້ການບໍລິການ onworks.net