alt-nvidia-340-cuda-mps-control - Trực tuyến trên đám mây

CHƯƠNG TRÌNH:

TÊN

nvidia-cuda-mps-control - Chương trình quản lý dịch vụ đa quy trình NVIDIA CUDA

SYNOPSIS

kiểm soát nvidia-cuda-mps [-d]

MÔ TẢ

MPS là một dịch vụ thời gian chạy được thiết kế để cho phép nhiều quy trình MPI sử dụng CUDA chạy
đồng thời trên một GPU duy nhất theo cách minh bạch với chương trình MPI. CUDA
chương trình chạy ở chế độ MPS nếu daemon điều khiển MPS đang chạy trên hệ thống.

Khi CUDA lần đầu tiên được khởi tạo trong một chương trình, trình điều khiển CUDA cố gắng kết nối với
Trình nền điều khiển MPS. Nếu cố gắng kết nối không thành công, chương trình sẽ tiếp tục chạy như nó
thông thường sẽ không có MPS. Tuy nhiên, nếu kết nối cố gắng đến trình nền điều khiển
thành công, trình điều khiển CUDA sau đó yêu cầu daemon khởi động máy chủ MPS thay mặt nó.
Nếu có một máy chủ MPS đang chạy và id người dùng của quy trình máy chủ đó khớp
của quy trình máy khách yêu cầu, trình nền điều khiển chỉ cần thông báo cho máy khách
quy trình của nó, sau đó sẽ tiến hành kết nối với máy chủ. Nếu không có máy chủ MPS
đã chạy trên hệ thống, trình nền điều khiển khởi chạy một máy chủ MPS với cùng một
id người dùng (UID) của quy trình ứng dụng khách yêu cầu. Nếu đã có máy chủ MPS
đang chạy, nhưng với id người dùng khác với id của quy trình khách, trình nền điều khiển
yêu cầu máy chủ hiện tại tắt ngay sau khi tất cả các máy khách của nó hoàn tất. Một khi
máy chủ hiện tại đã kết thúc, trình nền điều khiển khởi chạy máy chủ mới với id người dùng
giống như quy trình khách hàng được xếp hàng đợi.

Máy chủ MPS tạo bối cảnh GPU được chia sẻ, quản lý các máy khách của nó và các vấn đề liên quan đến
GPU thay mặt cho khách hàng của mình. Máy chủ MPS có thể hỗ trợ tối đa 16 ngữ cảnh CUDA của máy khách tại một
thời gian. MPS minh bạch với các chương trình CUDA, với tất cả sự phức tạp của giao tiếp
giữa tiến trình khách, máy chủ và daemon điều khiển ẩn trong trình điều khiển
nhị phân.

Hiện tại, CUDA MPS chỉ khả dụng trên Linux 64-bit, yêu cầu thiết bị hỗ trợ
Địa chỉ ảo hợp nhất (UVA) và có khả năng tính toán SM 3.5 trở lên. Các ứng dụng
yêu cầu các API trước CUDA 4.0 không được hỗ trợ trong CUDA MPS. MPS cũng không được hỗ trợ
trên các cấu hình đa GPU. Vui lòng sử dụng CUDA_VISIBLE_DEVICES khi bắt đầu điều khiển
daemon để giới hạn khả năng hiển thị cho một thiết bị.

LỰA CHỌN

-d
Khởi động trình nền điều khiển MPS, giả sử người dùng có đủ đặc quyền (ví dụ: root).

-NS, --Cứu giúp
In thông báo trợ giúp.

<không đối số>
Khởi động giao diện người dùng quản lý front-end tới daemon điều khiển MPS, cần phải
bắt đầu trước. Giao diện người dùng front-end tiếp tục đọc các lệnh từ stdin cho đến EOF. Các lệnh là
được phân tách bằng ký tự dòng mới. Nếu một lệnh không hợp lệ được đưa ra và bị từ chối, một lỗi
tin nhắn sẽ được in ra stdout. Trạng thái thoát của giao diện người dùng giao diện người dùng bằng XNUMX nếu
giao tiếp với daemon thành công. Giá trị khác XNUMX được trả về nếu daemon
không tìm thấy hoặc kết nối với daemon bị hỏng đột ngột. Xem lệnh "thoát" bên dưới
để biết thêm thông tin về trạng thái thoát.

Các lệnh được hỗ trợ bởi daemon điều khiển MPS:

get_server_list
In ra danh sách các PID của tất cả các máy chủ MPS.

máy chủ bắt đầu -giid UID
Khởi động máy chủ MPS mới cho người dùng được chỉ định (UID).

tắt máy_server PID [-f]
Tắt máy chủ MPS với PID. Máy chủ MPS sẽ không chấp nhận bất kỳ
các kết nối máy khách và nó sẽ thoát khi tất cả các máy khách hiện tại ngắt kết nối. -f bị ép buộc
tắt máy ngay lập tức. Nếu một máy khách khởi chạy một nhân bị lỗi chạy mãi mãi, một
có thể buộc phải tắt máy chủ MPS, vì máy chủ MPS tạo và
vấn đề GPU hoạt động thay mặt cho khách hàng của nó.

get_client_list PID
In ra danh sách các PID của tất cả các máy khách được kết nối với máy chủ MPS với PID.

bỏ thuốc lá [-t TIMEOUT]
Tắt quá trình daemon điều khiển MPS và tất cả các máy chủ MPS. Trình nền điều khiển MPS
ngừng chấp nhận máy khách mới trong khi chờ máy chủ MPS hiện tại và máy khách MPS
kêt thuc. Nếu như TIMEOUT được chỉ định (tính bằng giây), daemon sẽ buộc các máy chủ MPS
tắt máy nếu họ vẫn chạy theo TIMEOUT giây.

Lệnh này là đồng bộ. Giao diện người dùng giao diện người dùng đợi daemon tắt,
sau đó trả về trạng thái thoát của daemon. Trạng thái thoát là zero iff tất cả các máy chủ MPS
đã xuất cảnh một cách duyên dáng.

MÔI TRƯỜNG

CUDA_MPS_PIPE_DIRECTORY
Chỉ định thư mục chứa các đường ống được đặt tên được sử dụng để liên lạc giữa các
Điều khiển MPS, máy chủ MPS và máy khách MPS. Giá trị của biến môi trường này
phải nhất quán trong daemon điều khiển MPS và tất cả các quy trình ứng dụng khách MPS.
Thư mục mặc định là / tmp / nvidia-mps

CUDA_MPS_LOG_DIRECTORY
Chỉ định thư mục chứa các tệp nhật ký MPS. Biến này được sử dụng bởi
Chỉ daemon điều khiển MPS. Thư mục mặc định là / var / log / nvidia-mps

Sử dụng alt-nvidia-340-cuda-mps-control trực tuyến bằng các dịch vụ onworks.net