Це програма для Linux під назвою SageMaker Hugging Face Inference Toolkit, останню версію якої можна завантажити як v2.1.1.zip. Його можна запустити онлайн у безкоштовного хостинг-провайдера OnWorks для робочих станцій.
Завантажте та безкоштовно запустіть цю програму під назвою SageMaker Hugging Face Inference Toolkit із OnWorks.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
ЕКРАНИ
Ad
SageMaker Hugging Face Inference Toolkit
ОПИС
SageMaker Hugging Face Inference Toolkit — це бібліотека з відкритим кодом для обслуговування моделей Transformers на Amazon SageMaker. Ця бібліотека забезпечує стандартну попередню обробку, прогнозування та постобробку для певних моделей і завдань Transformers. Він використовує SageMaker Inference Toolkit для запуску сервера моделі, який відповідає за обробку запитів на висновок. Інформацію про файли Docker, які використовуються для створення контейнерів Hugging Face SageMaker, див. у розділі Контейнери глибокого навчання AWS. SageMaker Hugging Face Inference Toolkit реалізує різні додаткові змінні середовища, щоб спростити процес розгортання. Hugging Face Inference Toolkit дозволяє користувачеві перевизначати методи за замовчуванням HuggingFaceHandlerService. SageMaker Hugging Face Inference Toolkit ліцензовано згідно з ліцензією Apache 2.0.
риси
- Створіть кінцеву точку Amazon SageMaker за допомогою моделі з Hub
- Створіть кінцеву точку Amazon SageMaker за допомогою навченої моделі
- Змінна середовища HF_TASK визначає завдання для використовуваного конвеєра Transformers
- Змінна середовища HF_MODEL_ID визначає ідентифікатор моделі, який завантажуватиметься автоматично
- Змінна середовища HF_API_TOKEN визначає ваш маркер авторизації Hugging Face
- Визначений користувачем код/модулі
Мова програмування
Python
Категорії
Це додаток, який також можна завантажити з https://sourceforge.net/projects/sagemak-hug-face-inf-tk.mirror/. Його розміщено в OnWorks, щоб його можна було найпростіше запускати онлайн з однієї з наших безкоштовних операційних систем.
