timm documentation

EfficientViT (MIT)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

EfficientViT (MIT)

Категория: Efficient/Mobile · Код: timm/models/efficientvit_mit.py · Архитектуры: 7 · Предобученные веса: 19 (19 с результатами ImageNet-1k)

EfficientViT от MIT Han Lab — визуальный бэкбон для распознавания изображений высокого разрешения с низким вычислительным бюджетом, использующий линейное внимание в нескольких масштабах.

Статьи

Использование

См. раздел Быстрый старт для загрузки предобученных весов, предобработки изображений и дообучения, а также раздел Извлечение признаков для использования моделей в качестве базовых архитектур.

>>> import timm
>>> model = timm.create_model('efficientvit_b2.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Поддержка Model API

ВозможностьEfficientVitEfficientVitLarge
карты признаков features_only=True✓ (шаги 4, 8, 16, 32)✓ (шаги 4, 8, 16, 32)
forward_intermediates()✓✓
prune_intermediate_layers()✓✓
Любой размер входных данных, изменения не требуются✓✓
set_input_size()––
dynamic_img_size=True––
set_grad_checkpointing()✓✓
Послойное затухание LR (group_matcher())✓✓
reset_classifier()✓✓

✓ поддерживается, ✓ (квадрат) работает только для квадратных размеров, ✗ не поддерживается, – не требуется (модель уже принимает входные данные любого размера). Проверено путём запуска каждой функции на случайно инициализированной модели (EfficientVit с efficientvit_b0 при 224, EfficientVitLarge с efficientvit_l1 при 224); ожидается, что другие архитектуры того же класса будут вести себя аналогично. Подробности см. на странице Model API.

Архитектуры

АрхитектураКлассПараметры (млн)GMACsРазмер входных данныхПредобученные веса
efficientvit_b0EfficientVit3.410.102241
efficientvit_b1EfficientVit9.100.532243
efficientvit_b2EfficientVit24.331.602243
efficientvit_b3EfficientVit48.653.992243
efficientvit_l1EfficientVitLarge52.655.272241
efficientvit_l2EfficientVitLarge63.716.972244
efficientvit_l3EfficientVitLarge246.0427.622244

GMACs и количество параметров указаны для размера входных данных и классификатора по умолчанию для каждой архитектуры, согласно результатам бенчмарков.

Предобученные веса

Top-1 — это точность на валидационном наборе ImageNet-1k из results-imagenet.csv для указанного размера оценки, - если для весов нет результата ImageNet-1k (например, веса для предобучения или изображения-текст). Classes — размер предобученного классификатора, none для весов без классификатора.

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
efficientvit_b0.r224_in1k22471.4082241000apache-2.0timm
efficientvit_b1.r224_in1k22479.2542241000apache-2.0timm
efficientvit_b1.r256_in1k25679.7342561000apache-2.0timm
efficientvit_b1.r288_in1k28880.3222881000apache-2.0timm
efficientvit_b2.r224_in1k22482.1622241000apache-2.0timm
efficientvit_b2.r256_in1k25682.7122561000apache-2.0timm
efficientvit_b2.r288_in1k28883.0782881000apache-2.0timm
efficientvit_b3.r224_in1k22483.4442241000apache-2.0timm
efficientvit_b3.r256_in1k25683.7822561000apache-2.0timm
efficientvit_b3.r288_in1k28884.1622881000apache-2.0timm
efficientvit_l1.r224_in1k22484.4642241000apache-2.0timm
efficientvit_l2.r224_in1k22485.0462241000apache-2.0timm
efficientvit_l2.r256_in1k25685.3802561000apache-2.0timm
efficientvit_l2.r288_in1k28885.6142881000apache-2.0timm
efficientvit_l2.r384_in1k38485.9843841000apache-2.0timm
efficientvit_l3.r224_in1k22485.8102241000apache-2.0timm
efficientvit_l3.r256_in1k25685.9522561000apache-2.0timm
efficientvit_l3.r320_in1k32086.2303201000apache-2.0timm
efficientvit_l3.r384_in1k38486.3963841000apache-2.0timm
Update on GitHub