این برنامه ویندوزی Pruna AI نام دارد که آخرین نسخه آن را می‌توانید با نسخه ۰.۲.۵sourcecode.tar.gz دانلود کنید. می‌توانید آن را به صورت آنلاین در ارائه دهنده خدمات میزبانی وب رایگان OnWorks برای ایستگاه‌های کاری اجرا کنید.
این برنامه با نام Pruna AI with OnWorks را به صورت رایگان دانلود و اجرا کنید.
برای اجرای این برنامه این دستورالعمل ها را دنبال کنید:
- 1. این برنامه را در رایانه شخصی خود دانلود کنید.
- 2. در فایل منیجر ما https://www.onworks.net/myfiles.php?username=XXXXX نام کاربری مورد نظر خود را وارد کنید.
- 3. این برنامه را در چنین فایل منیجر آپلود کنید.
- 4. هر شبیه ساز آنلاین OS OnWorks را از این وب سایت راه اندازی کنید، اما شبیه ساز آنلاین ویندوز بهتر است.
- 5. از OnWorks Windows OS که به تازگی راه اندازی کرده اید، به مدیر فایل ما https://www.onworks.net/myfiles.php?username=XXXXX با نام کاربری که می خواهید بروید.
- 6. برنامه را دانلود و نصب کنید.
- 7. Wine را از مخازن نرم افزار توزیع لینوکس خود دانلود کنید. پس از نصب، می توانید روی برنامه دوبار کلیک کنید تا آنها را با Wine اجرا کنید. همچنین می توانید PlayOnLinux را امتحان کنید، یک رابط کاربری فانتزی بر روی Wine که به شما کمک می کند برنامه ها و بازی های محبوب ویندوز را نصب کنید.
Wine راهی برای اجرای نرم افزار ویندوز بر روی لینوکس است، اما بدون نیاز به ویندوز. Wine یک لایه سازگار با ویندوز منبع باز است که می تواند برنامه های ویندوز را مستقیماً بر روی هر دسکتاپ لینوکس اجرا کند. اساساً، Wine در تلاش است تا به اندازه کافی از ویندوز را از ابتدا مجدداً پیاده سازی کند تا بتواند همه آن برنامه های ویندوز را بدون نیاز به ویندوز اجرا کند.
اسکرین شات ها:
Pruna AI
DESCRIPTION:
پرونا یک موتور استنتاج هوش مصنوعی متن‌باز و خود-میزبان است که برای کمک به تیم‌ها در استقرار و مدیریت کارآمد مدل‌های زبانی بزرگ (LLM) در زیرساخت‌های خصوصی یا ترکیبی طراحی شده است. پرونا که با در نظر گرفتن عملکرد و ارگونومی توسعه‌دهندگان ساخته شده است، با فعال کردن تنظیم چند مدلی، مقیاس‌بندی خودکار، تخصیص منابع GPU و سازگاری با مدل‌های متن‌باز محبوب، گردش‌های کاری استنتاج را ساده می‌کند. این موتور برای شرکت‌ها یا تیم‌هایی که به دنبال کاهش وابستگی به APIهای خارجی هستند و در عین حال سرعت، بهره‌وری هزینه و کنترل کامل بر داده‌ها و پشته هوش مصنوعی خود را حفظ می‌کنند، ایده‌آل است. پرونا با تمرکز بر توسعه‌پذیری و مشاهده‌پذیری، مهندسان را قادر می‌سازد تا برنامه‌های LLM را از نمونه اولیه تا تولید، به طور ایمن و قابل اعتماد مقیاس‌بندی کنند.
امکانات
- موتور خود میزبان برای مدیریت استنتاج LLM
- پشتیبانی از ارکستراسیون و مسیریابی چند مدلی
- مقیاس‌بندی خودکار پویا برای بهینه‌سازی منابع
- زمان‌بندی و متعادل‌سازی بار با توجه به GPU
- سازگار با مدل‌های متن‌باز مانند LLaMA و Mistral
- API های HTTP و gRPC برای ادغام آسان
- قابلیت مشاهده و ردیابی عملکرد داخلی
- آماده برای استقرار با پشتیبانی از Docker و Kubernetes
زبان برنامه نویسی
پــایتــون
دسته بندی ها
این برنامه‌ای است که می‌توان آن را از https://sourceforge.net/projects/pruna-ai.mirror/ نیز دریافت کرد. این برنامه در OnWorks میزبانی شده است تا بتوان آن را به ساده‌ترین روش به صورت آنلاین از یکی از سیستم‌های عامل رایگان ما اجرا کرد.