timm documentation

EfficientViT (MIT)

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

EfficientViT (MIT)

Категория: Efficient/Mobile · Код: timm/models/efficientvit_mit.py · Архитектуры: 7 · Предобученные веса: 19 (19 с результатами ImageNet-1k)

EfficientViT от MIT Han Lab — визуальный бэкбон для распознавания изображений высокого разрешения с низким вычислительным бюджетом, использующий линейное внимание в нескольких масштабах.

Статьи

Использование

См. раздел Быстрый старт для загрузки предобученных весов, предобработки изображений и дообучения, а также раздел Извлечение признаков для использования моделей в качестве базовых архитектур.

>>> import timm
>>> model = timm.create_model('efficientvit_b2.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Поддержка Model API

ВозможностьEfficientVitEfficientVitLarge
карты признаков features_only=True✓ (шаги 4, 8, 16, 32)✓ (шаги 4, 8, 16, 32)
forward_intermediates()✓✓
prune_intermediate_layers()✓✓
Любой размер входных данных, изменения не требуются✓✓
set_input_size()––
dynamic_img_size=True––
set_grad_checkpointing()✓✓
Послойное затухание LR (group_matcher())✓✓
reset_classifier()✓✓

✓ поддерживается, ✓ (квадрат) работает только для квадратных размеров, ✗ не поддерживается, – не требуется (модель уже принимает входные данные любого размера). Проверено путём запуска каждой функции на случайно инициализированной модели (EfficientVit с efficientvit_b0 при 224, EfficientVitLarge с efficientvit_l1 при 224); ожидается, что другие архитектуры того же класса будут вести себя аналогично. Подробности см. на странице Model API.

Архитектуры

АрхитектураКлассПараметры (млн)GMACsРазмер входных данныхПредобученные веса
efficientvit_b0EfficientVit3.410.102241
efficientvit_b1EfficientVit9.100.532243
efficientvit_b2EfficientVit24.331.602243
efficientvit_b3EfficientVit48.653.992243
efficientvit_l1EfficientVitLarge52.655.272241
efficientvit_l2EfficientVitLarge63.716.972244
efficientvit_l3EfficientVitLarge246.0427.622244

GMACs и количество параметров указаны для размера входных данных и классификатора по умолчанию для каждой архитектуры, согласно результатам бенчмарков.

Предобученные веса

Top-1 — это точность на валидационном наборе ImageNet-1k из results-imagenet.csv для указанного размера оценки, - если для весов нет результата ImageNet-1k (например, веса для предобучения или изображения-текст). Classes — размер предобученного классификатора, none для весов без классификатора.

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
efficientvit_b0.r224_in1k22471.4082241000apache-2.0timm
efficientvit_b1.r224_in1k22479.2542241000apache-2.0timm
efficientvit_b1.r256_in1k25679.7342561000apache-2.0timm
efficientvit_b1.r288_in1k28880.3222881000apache-2.0timm
efficientvit_b2.r224_in1k22482.1622241000apache-2.0timm
efficientvit_b2.r256_in1k25682.7122561000apache-2.0timm
efficientvit_b2.r288_in1k28883.0782881000apache-2.0timm
efficientvit_b3.r224_in1k22483.4442241000apache-2.0timm
efficientvit_b3.r256_in1k25683.7822561000apache-2.0timm
efficientvit_b3.r288_in1k28884.1622881000apache-2.0timm
efficientvit_l1.r224_in1k22484.4642241000apache-2.0timm
efficientvit_l2.r224_in1k22485.0462241000apache-2.0timm
efficientvit_l2.r256_in1k25685.3802561000apache-2.0timm
efficientvit_l2.r288_in1k28885.6142881000apache-2.0timm
efficientvit_l2.r384_in1k38485.9843841000apache-2.0timm
efficientvit_l3.r224_in1k22485.8102241000apache-2.0timm
efficientvit_l3.r256_in1k25685.9522561000apache-2.0timm
efficientvit_l3.r320_in1k32086.2303201000apache-2.0timm
efficientvit_l3.r384_in1k38486.3963841000apache-2.0timm
Update on GitHub