alt-nvidia-340-cuda-mps-control - 클라우드 온라인

프로그램:

이름

nvidia-cuda-mps-control - NVIDIA CUDA 다중 프로세스 서비스 관리 프로그램

개요

nvidia-cuda-mps-제어 [-d]

기술

MPS는 CUDA를 사용하여 여러 MPI 프로세스를 실행할 수 있도록 설계된 런타임 서비스입니다.
MPI 프로그램에 투명한 방식으로 단일 GPU에서 동시에. 쿠다
MPS 제어 데몬이 시스템에서 실행 중인 경우 프로그램이 MPS 모드에서 실행됩니다.

프로그램에서 CUDA가 처음 초기화되면 CUDA 드라이버는
MPS 제어 데몬. 연결 시도가 실패하면 프로그램은 그대로 계속 실행됩니다.
일반적으로 MPS가 없을 것입니다. 그러나 제어 데몬에 대한 연결 시도가
성공하면 CUDA 드라이버는 데몬을 대신하여 MPS 서버를 시작하도록 요청합니다.
이미 실행 중인 MPS 서버가 있고 해당 서버 프로세스의 사용자 ID가 일치하는 경우
요청하는 클라이언트 프로세스의 컨트롤 데몬은 단순히 클라이언트에게 알립니다.
서버에 연결을 진행합니다. MPS 서버가 없는 경우
이미 시스템에서 실행 중인 경우 제어 데몬이 동일한 MPS 서버를 시작합니다.
요청하는 클라이언트 프로세스의 사용자 ID(UID)입니다. 이미 MPS 서버가 있는 경우
실행 중이지만 클라이언트 프로세스의 사용자 ID와 다른 사용자 ID로 컨트롤 데몬
모든 클라이언트가 완료되자마자 기존 서버를 종료하도록 요청합니다. 일단
기존 서버가 종료되면 제어 데몬이 사용자 ID로 새 서버를 시작합니다.
대기중인 클라이언트 프로세스와 동일합니다.

MPS 서버는 공유 GPU 컨텍스트를 생성하고 클라이언트를 관리하며 작업을
클라이언트를 대신하여 GPU. MPS 서버는 한 번에 최대 16개의 클라이언트 CUDA 컨텍스트를 지원할 수 있습니다.
시간. MPS는 통신의 모든 복잡성과 함께 CUDA 프로그램에 투명합니다.
클라이언트 프로세스, 서버 및 드라이버 내에 숨겨진 제어 데몬 사이
바이너리.

현재 CUDA MPS는 64비트 Linux에서만 사용할 수 있으며 지원하는 장치가 필요합니다.
UVA(Unified Virtual Address)이며 컴퓨팅 기능 SM 3.5 이상입니다. 애플리케이션
CUDA MPS에서는 CUDA 4.0 이전 API를 요구하는 API가 지원되지 않습니다. MPS도 지원되지 않습니다.
다중 GPU 구성에서. 제어를 시작할 때 CUDA_VISIBLE_DEVICES를 사용하십시오.
단일 장치에 대한 가시성을 제한하는 데몬.

옵션

-d
사용자에게 충분한 권한(예: 루트)이 있다고 가정하고 MPS 제어 데몬을 시작합니다.

-시간, --도움
도움말 메시지를 인쇄합니다.

<아니요 주장>
MPS 제어 데몬에 대한 프런트 엔드 관리 사용자 인터페이스를 시작합니다.
먼저 시작했습니다. 프런트 엔드 UI는 표준 입력에서 EOF까지 명령을 계속 읽습니다. 명령은
개행 문자로 구분됩니다. 잘못된 명령이 실행되고 거부되면 오류가 발생합니다.
메시지가 stdout에 인쇄됩니다. 프런트 엔드 UI의 종료 상태는 다음과 같은 경우 XNUMX입니다.
데몬과의 통신이 성공적입니다. 데몬이 다음과 같은 경우 XNUMX이 아닌 값이 반환됩니다.
찾을 수 없거나 데몬에 대한 연결이 예기치 않게 끊어졌습니다. 아래의 "종료" 명령을 참조하십시오.
종료 상태에 대한 자세한 내용은

MPS 제어 데몬이 지원하는 명령:

get_server_list
모든 MPS 서버의 PID 목록을 인쇄하십시오.

시작 서버 -유체 UID
지정된 사용자에 대해 새 MPS 서버 시작(UID).

종료_서버 PID [-f]
주어진 MPS 서버를 종료 PID. MPS 서버는 새 항목을 허용하지 않습니다.
클라이언트 연결 및 모든 현재 클라이언트의 연결이 끊어지면 종료됩니다. -f 강제된다
즉시 종료. 클라이언트가 영원히 실행되는 결함이 있는 커널을 시작하면
MPS 서버는 MPS 서버를 생성하고
클라이언트를 대신하여 GPU 작업을 수행합니다.

get_client_list PID
주어진 MPS 서버에 연결된 모든 클라이언트의 PID 목록을 출력합니다. PID.

종료 [-t TIMEOUT]
MPS 제어 데몬 프로세스와 모든 MPS 서버를 종료합니다. MPS 제어 데몬
현재 MPS 서버 및 MPS 클라이언트를 기다리는 동안 새 클라이언트 수락을 중지합니다.
끝내기 위해. 만약에 TIMEOUT 지정되면(초 단위) 데몬이 MPS 서버를 강제 실행합니다.
그들이 여전히 실행중인 경우 종료 TIMEOUT 초.

이 명령은 동기적입니다. 프런트엔드 UI는 데몬이 종료될 때까지 대기합니다.
그런 다음 데몬의 종료 상태를 반환합니다. 종료 상태는 모든 MPS 서버인 경우 XNUMX입니다.
우아하게 퇴장했습니다.

환경

CUDA_MPS_PIPE_DIRECTORY
사이의 통신에 사용되는 명명된 파이프가 포함된 디렉터리를 지정합니다.
MPS 제어, MPS 서버 및 MPS 클라이언트. 이 환경 변수의 값
MPS 제어 데몬과 모든 MPS 클라이언트 프로세스에서 일관성이 있어야 합니다.
기본 디렉토리는 /tmp/nvidia-mps입니다.

CUDA_MPS_LOG_DIRECTORY
MPS 로그 파일이 포함된 디렉터리를 지정합니다. 이 변수는
MPS 제어 데몬 전용. 기본 디렉토리는 /var/log/nvidia-mps입니다.

onworks.net 서비스를 사용하여 온라인에서 alt-nvidia-340-cuda-mps-control 사용