这是名为 DeiT(数据高效图像转换器)的 Linux 应用程序,其最新版本可以下载为 deitsourcecode.tar.gz。它可以在免费的工作站托管服务提供商 OnWorks 上在线运行。
使用 OnWorks 免费下载并在线运行这个名为 DeiT(数据高效图像转换器)的应用程序。
请按照以下说明运行此应用程序:
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统,使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序,安装并运行。
截图:
DeiT(数据高效图像转换器)
描述:
DeiT(数据高效图像变换器)表明,通过使用强大的训练方案和知识蒸馏,Vision Transformers 可以在 ImageNet-1k 上进行有竞争力的训练,而无需外部数据。其核心思想是一种专门的蒸馏策略——包含一个可学习的“蒸馏令牌”——使 Transformer 能够在中等规模的数据集上有效地从 CNN 或 Transformer 教师模型中学习。该项目提供了紧凑的 ViT 变体(Tiny/Small/Base),实现了出色的准确率与吞吐量之间的平衡,使 Transformer 能够在大规模预训练方案之外实现实用性。训练过程中,我们精心调整了增强、正则化和优化方案,以稳定学习并提高样本效率。该项目代码库提供了预训练的检查点、参考脚本和消融研究,阐明了哪些要素对于数据高效的 ViT 训练最为重要。
功能
- 从头开始在 ImageNet-1k 上进行数据高效的 ViT 训练
- 使用专用蒸馏代币进行知识蒸馏
- 紧凑型模型动物园(微型/小型/基础型),具有强大的精度-速度平衡
- 清晰的训练方案,包含增强和正则化计划
- 预训练检查点和可重现的参考脚本
- 使 DeiT 适应新数据集和任务的消融和指导
程式语言
Python
分类
此应用程序也可从 https://sourceforge.net/projects/deit-data-img-trans.mirror/ 获取。它已托管在 OnWorks 中,以便通过我们的免费操作系统之一以最便捷的方式在线运行。