זוהי אפליקציית לינוקס בשם Torch-TensorRT שאת הגרסה האחרונה שלה ניתן להוריד בתור Torch-TensorRTv1.3.0.zip. ניתן להפעיל אותו באופן מקוון בספק האירוח החינמי OnWorks עבור תחנות עבודה.
הורד והפעל באינטרנט את האפליקציה הזו בשם Torch-TensorRT עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
בצילומי מסך
Ad
לפיד-טנסורRT
תיאור
Torch-TensorRT הוא מהדר עבור PyTorch/TorchScript, המכוון למעבדי NVIDIA GPU באמצעות TensorRT Deep Learning Optimizer ו-Runtime של NVIDIA. בניגוד למהדר Just-In-Time (JIT) של PyTorch, Torch-TensorRT הוא מהדר Ahead-of-Time (AOT), כלומר לפני שאתה פורס את קוד TorchScript שלך, אתה עובר שלב קומפילציה מפורש כדי להמיר תוכנית TorchScript סטנדרטית ל מודול המכוון למנוע TensorRT. Torch-TensorRT פועלת כהרחבת PyTorch ומרכיבה מודולים המשתלבים בזמן הריצה של JIT בצורה חלקה. לאחר הידור באמצעות הגרף הממוטב, לא צריך להרגיש שונה מהפעלת מודול TorchScript. יש לך גם גישה לחבילת התצורות של TensorRT בזמן הידור, כך שאתה יכול לציין דיוק הפעלה (FP32/FP16/INT8) והגדרות אחרות עבור המודול שלך.
תכונות
- בנה קונטיינר לדוקר עבור Torch-TensorRT
- מיכל NVIDIA NGC
- דורש Libtorch 1.12.0 (נבנה עם CUDA 11.3)
- בנה באמצעות הפצות cuDNN & TensorRT tarball
- בדוק באמצעות Python backend
- יש לך גישה לחבילת התצורות של TensorRT בזמן ההידור
שפת תכנות
C + +
כל הקטגוריות
זוהי אפליקציה שניתן להביא גם מ-https://sourceforge.net/projects/torch-tensorrt.mirror/. הוא התארח ב-OnWorks על מנת להפעיל אותו באינטרנט בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.
