This is the Linux app named AIMET whose latest release can be downloaded as Version2.14.0sourcecode.zip. It can be run online in the free hosting provider OnWorks for workstations.
Загрузите и запустите онлайн это приложение под названием AIMET с OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ
Ad
АЙМЕТ
ОПИСАНИЕ
Инновационный центр Qualcomm (QuIC) находится в авангарде предоставления логических выводов с низким энергопотреблением на периферии благодаря своим новаторским исследованиям эффективности моделей. У QuIC есть миссия помочь перевести экосистему на вывод с фиксированной точкой. С этой целью QuIC представляет AI Model Efficiency Toolkit (AIMET) — библиотеку, предоставляющую передовые методы квантования и сжатия для обученных моделей нейронных сетей. AIMET позволяет нейронным сетям работать более эффективно на аппаратных ускорителях искусственного интеллекта с фиксированной точкой. Квантовый вывод выполняется значительно быстрее, чем вывод с плавающей запятой. Например, модели, которые мы запускали на процессоре Qualcomm® Hexagon™ DSP, а не на процессоре Qualcomm® Kryo™, привели к ускорению от 5 до 15 раз. Кроме того, 8-разрядная модель требует в 4 раза меньше памяти по сравнению с 32-разрядной моделью. Однако часто при квантовании модели машинного обучения (например, от 32-битного значения с плавающей запятой к 8-битному значению с фиксированной запятой) точность модели приносится в жертву.
Особенности
- Выравнивание весовых тензоров для уменьшения колебаний амплитуды по каналам
- Метод тензорной декомпозиции для разделения большого слоя на два меньших.
- Исправляет сдвиг в выходных данных слоя, появившийся из-за квантования.
- Удаляет избыточные входные каналы из слоя и восстанавливает веса слоя.
- Используйте симуляцию квантования для дальнейшего обучения модели для повышения точности
- Автоматически выбирает степень сжатия каждого слоя в модели.
Язык программирования
Питон
Категории
Это приложение также можно загрузить с https://sourceforge.net/projects/aimet.mirror/. Он был размещен в OnWorks, чтобы его можно было легко запускать в Интернете с помощью одной из наших бесплатных операционных систем.
