timm documentation

EfficientViT (MIT)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

EfficientViT (MIT)

카테고리: Efficient/Mobile · 코드: timm/models/efficientvit_mit.py · 아키텍처: 7 · 프리트레인드 가중치: 19 (ImageNet-1k 결과가 포함된 19개)

MIT Han Lab의 EfficientViT는 다중 스케일 선형 어텐션을 사용하여 고해상도, 저연산 인식을 위한 비전 백본입니다.

논문

사용

사전 학습된 가중치 로드, 이미지 전처리 및 파인튜닝에 대해서는 Quickstart를, 모델을 백본으로 사용하는 방법에 대해서는 Feature Extraction을 참고하세요.

>>> import timm
>>> model = timm.create_model('efficientvit_b2.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

모델 API 지원

기능EfficientVitEfficientVitLarge
features_only=True feature map✓ (strides 4, 8, 16, 32)✓ (strides 4, 8, 16, 32)
forward_intermediates()✓✓
prune_intermediate_layers()✓✓
입력 크기 무관, 변경 불필요✓✓
set_input_size()––
dynamic_img_size=True––
set_grad_checkpointing()✓✓
레이어별 LR 감쇠(group_matcher())✓✓
reset_classifier()✓✓

✓ 지원됨, ✓ (정사각형) 정사각형 크기만 작동, ✗ 미지원, – 필요 없음(모델이 이미 모든 입력 크기를 허용함). 무작위로 초기화된 모델(EfficientVit은 efficientvit_b0를 224로, EfficientVitLarge는 efficientvit_l1를 224로)에서 각 기능을 실행하여 확인했으며, 같은 클래스의 다른 아키텍처도 동일한 동작을 하는 것으로 예상됩니다. 자세한 내용은 Model API 페이지를 참조하세요.

아키텍처

아키텍처클래스매개변수 (M)GMAC입력 크기사전 학습된 가중치
efficientvit_b0EfficientVit3.410.102241
efficientvit_b1EfficientVit9.100.532243
efficientvit_b2EfficientVit24.331.602243
efficientvit_b3EfficientVit48.653.992243
efficientvit_l1EfficientVitLarge52.655.272241
efficientvit_l2EfficientVitLarge63.716.972244
efficientvit_l3EfficientVitLarge246.0427.622244

GMACs와 매개변수 수는 각 아키텍처의 기본 입력 크기 및 분류기에 대한 값이며, 벤치마크 결과에서 가져왔습니다.

사전 학습된 가중치

Top-1은 results-imagenet.csv에 나열된 평가 크기에서 측정된 ImageNet-1k 검증 정확도입니다. - 가중치에 ImageNet-1k 결과가 없는 경우(예: 사전 학습 또는 이미지-텍스트 가중치)에는 표시하지 않습니다. Classes는 사전 학습된 분류기의 크기를 나타내며, 분류기가 없는 가중치의 경우 none입니다.

가중치입력 크기Top-1(%)평가 크기클래스라이선스Hub
efficientvit_b0.r224_in1k22471.4082241000apache-2.0timm
efficientvit_b1.r224_in1k22479.2542241000apache-2.0timm
efficientvit_b1.r256_in1k25679.7342561000apache-2.0timm
efficientvit_b1.r288_in1k28880.3222881000apache-2.0timm
efficientvit_b2.r224_in1k22482.1622241000apache-2.0timm
efficientvit_b2.r256_in1k25682.7122561000apache-2.0timm
efficientvit_b2.r288_in1k28883.0782881000apache-2.0timm
efficientvit_b3.r224_in1k22483.4442241000apache-2.0timm
efficientvit_b3.r256_in1k25683.7822561000apache-2.0timm
efficientvit_b3.r288_in1k28884.1622881000apache-2.0timm
efficientvit_l1.r224_in1k22484.4642241000apache-2.0timm
efficientvit_l2.r224_in1k22485.0462241000apache-2.0timm
efficientvit_l2.r256_in1k25685.3802561000apache-2.0timm
efficientvit_l2.r288_in1k28885.6142881000apache-2.0timm
efficientvit_l2.r384_in1k38485.9843841000apache-2.0timm
efficientvit_l3.r224_in1k22485.8102241000apache-2.0timm
efficientvit_l3.r256_in1k25685.9522561000apache-2.0timm
efficientvit_l3.r320_in1k32086.2303201000apache-2.0timm
efficientvit_l3.r384_in1k38486.3963841000apache-2.0timm
Update on GitHub