MobileViT

Kategori: Efficient/Mobile · Kod: timm/models/mobilevit.py · Mimariler: 10 · Önceden eğitilmiş ağırlıklar: 16 (16'sı ImageNet-1k sonuçlarıyla)

MobileViT, MobileNet-V2 ters kalıntı bloklarını, açılmış yamalar üzerinde küresel işleme için transformer uygulayan MobileViT bloklarıyla birleştirir. MobileViT-V2 ayrılabilir öz-dikkat kullanır. ByobNet sınıfı üzerine inşa edilmiştir.

Makaleler

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('mobilevitv2_200.cvnets_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

Özellik	`ByobNet`
`features_only=True` özellik haritaları	✓ (adım 2, 4, 8, 16, 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
Herhangi bir giriş boyutu, değişiklik gerekmez	✓
`set_input_size()`	–
`dynamic_img_size=True`	–
`set_grad_checkpointing()`	✓
Katman bazlı LR azaltma (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (ByobNet mobilevit_xxs ile 256), aynı sınıfın diğer mimarilerinin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

Mimari	Parametreler (M)	GMAC'lar	Girdi boyutu	Önceden eğitilmiş ağırlıklar
`mobilevit_s`	5.58	2.03	256	1
`mobilevit_xs`	2.32	1.05	256	1
`mobilevit_xxs`	1.27	0.42	256	1
`mobilevitv2_050`	1.37	0.48	256	1
`mobilevitv2_075`	2.87	1.05	256	1
`mobilevitv2_100`	4.90	1.84	256	1
`mobilevitv2_125`	7.48	2.86	256	1
`mobilevitv2_150`	10.59	4.09	256	3
`mobilevitv2_175`	14.25	5.54	256	3
`mobilevitv2_200`	18.45	7.22	256	3

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.

Ağırlık	Girdi boyutu	En iyi 1 (%)	Değerlendirme boyutu	Sınıflar	Lisans	Hub
`mobilevit_s.cvnets_in1k`	256	78.298	256	1000	cvnets-license	timm
`mobilevit_xs.cvnets_in1k`	256	74.618	256	1000	cvnets-license	timm
`mobilevit_xxs.cvnets_in1k`	256	68.936	256	1000	cvnets-license	timm
`mobilevitv2_050.cvnets_in1k`	256	70.156	256	1000	cvnets-license	timm
`mobilevitv2_075.cvnets_in1k`	256	75.612	256	1000	cvnets-license	timm
`mobilevitv2_100.cvnets_in1k`	256	78.088	256	1000	cvnets-license	timm
`mobilevitv2_125.cvnets_in1k`	256	79.682	256	1000	cvnets-license	timm
`mobilevitv2_150.cvnets_in1k`	256	80.380	256	1000	cvnets-license	timm
`mobilevitv2_150.cvnets_in22k_ft_in1k`	256	81.466	256	1000	cvnets-license	timm
`mobilevitv2_150.cvnets_in22k_ft_in1k_384`	384	82.606	384	1000	cvnets-license	timm
`mobilevitv2_175.cvnets_in1k`	256	80.870	256	1000	cvnets-license	timm
`mobilevitv2_175.cvnets_in22k_ft_in1k`	256	81.950	256	1000	cvnets-license	timm
`mobilevitv2_175.cvnets_in22k_ft_in1k_384`	384	82.920	384	1000	cvnets-license	timm
`mobilevitv2_200.cvnets_in1k`	256	81.148	256	1000	cvnets-license	timm
`mobilevitv2_200.cvnets_in22k_ft_in1k`	256	82.320	256	1000	cvnets-license	timm
`mobilevitv2_200.cvnets_in22k_ft_in1k_384`	384	83.430	384	1000	cvnets-license	timm

Update on GitHub