timm documentation

EfficientViT (MSRA)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

EfficientViT (MSRA)

Kategori: Efficient/Mobile · Kod: timm/models/efficientvit_msra.py · Mimariler: 6 · Önceden eğitilmiş ağırlıklar: 6 (6'sı ImageNet-1k sonuçlarıyla)

Microsoft Research tarafından geliştirilen, kademeli grup dikkati (cascaded group attention) kullanan ve her dikkat başına (attention head) özelliklerin farklı bir bölümünü besleyen bellek verimli bir görme dönüştürücüsü (vision transformer) olan EfficientViT.

Makaleler

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('efficientvit_m5.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

ÖzellikEfficientVitMsra
features_only=True özellik haritaları✓ (adım 16, 32, 64)
forward_intermediates()✓
prune_intermediate_layers()✓
Herhangi bir giriş boyutu, değişiklik gerekmez✓
set_input_size()✓
dynamic_img_size=True–
set_grad_checkpointing()✓
Katman bazlı LR azaltma (group_matcher())✓
reset_classifier()✓

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (EfficientVitMsra, efficientvit_m0 ile 224 boyutunda); aynı sınıfın diğer mimarilerinin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

MimariParametreler (M)GMAC'larGirdi boyutuÖnceden eğitilmiş ağırlıklar
efficientvit_m02.330.082241
efficientvit_m12.960.172241
efficientvit_m24.170.202241
efficientvit_m36.880.262241
efficientvit_m48.780.302241
efficientvit_m512.440.522241

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.

AğırlıkGirdi boyutuEn iyi 1 (%)Değerlendirme boyutuSınıflarLisansHub
efficientvit_m0.r224_in1k22463.3042241000mittimm
efficientvit_m1.r224_in1k22468.3402241000mittimm
efficientvit_m2.r224_in1k22470.7962241000mittimm
efficientvit_m3.r224_in1k22473.3942241000mittimm
efficientvit_m4.r224_in1k22474.3442241000mittimm
efficientvit_m5.r224_in1k22477.0922241000mittimm
Update on GitHub