Hiera

Kategori: ViT · Kod: timm/models/hiera.py · Mimariler: 8 · Önceden eğitilmiş ağırlıklar: 16 (8 tanesi ImageNet-1k sonuçlarıyla)

Hiera, özel modüllerin (konvolüsyonlar, kaydırılmış pencereler, göreli konum önyargıları) bulunmadığı hiyerarşik bir görme dönüştürücüsüdür ve uzamsal önyargıları öğrenmek için maskeli otoenkoder (MAE) ön eğitimiyle çalışır.

Makaleler

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('hiera_tiny_224.mae_in1k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

Özellik	`Hiera`
`features_only=True` özellik haritaları	✓ (adım 4, 8, 16, 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
Herhangi bir giriş boyutu, değişiklik gerekmez	✗
`set_input_size()`	✗
`dynamic_img_size=True`	✗
`set_grad_checkpointing()`	✓
Katman bazlı LR azaltma (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (Hiera, 224 boyutunda hiera_tiny_224 ile); aynı sınıfın diğer mimarilerinin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

Mimari	Parametreler (M)	GMAC'lar	Girdi boyutu	Önceden eğitilmiş ağırlıklar
`hiera_base_224`	51.52	9.40	224	2
`hiera_base_abswin_256`	51.27	12.46	256	0
`hiera_base_plus_224`	69.90	12.67	224	2
`hiera_huge_224`	672.78	124.85	224	2
`hiera_large_224`	213.74	40.34	224	2
`hiera_small_224`	35.01	6.42	224	2
`hiera_small_abswin_256`	34.36	8.29	256	4
`hiera_tiny_224`	27.91	4.91	224	2

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.

Ağırlıklar kaynağa göre gruplandırılır: önceden eğitilmiş yapılandırmada belirtilen makale veya köken, aksi halde timm dışında bir Hub kuruluşu, aksi halde önceden eğitilmiş etiketin ilk kısmı (architecture.tag). Tek bir ağırlığı olan kaynaklar other altında listelenir.

mae etiketleri

Ağırlık	Girdi boyutu	En iyi 1 (%)	Değerlendirme boyutu	Sınıflar	Lisans	Hub
`hiera_base_224.mae`	224	-	-	none	cc-by-nc-4.0	timm
`hiera_base_224.mae_in1k_ft_in1k`	224	84.528	224	1000	cc-by-nc-4.0	timm
`hiera_base_plus_224.mae`	224	-	-	none	cc-by-nc-4.0	timm
`hiera_base_plus_224.mae_in1k_ft_in1k`	224	85.136	224	1000	cc-by-nc-4.0	timm
`hiera_huge_224.mae`	224	-	-	none	cc-by-nc-4.0	timm
`hiera_huge_224.mae_in1k_ft_in1k`	224	86.840	224	1000	cc-by-nc-4.0	timm
`hiera_large_224.mae`	224	-	-	none	cc-by-nc-4.0	timm
`hiera_large_224.mae_in1k_ft_in1k`	224	86.046	224	1000	cc-by-nc-4.0	timm
`hiera_small_224.mae`	224	-	-	none	cc-by-nc-4.0	timm
`hiera_small_224.mae_in1k_ft_in1k`	224	83.888	224	1000	cc-by-nc-4.0	timm
`hiera_tiny_224.mae`	224	-	-	none	cc-by-nc-4.0	timm
`hiera_tiny_224.mae_in1k_ft_in1k`	224	82.826	224	1000	cc-by-nc-4.0	timm

sbb2 etiketleri

Ağırlık	Girdi boyutu	En iyi 1 (%)	Değerlendirme boyutu	Sınıflar	Lisans	Hub
`hiera_small_abswin_256.sbb2_e200_in12k`	256	-	-	11821	apache-2.0	timm
`hiera_small_abswin_256.sbb2_e200_in12k_ft_in1k`	256	84.912	256	1000	apache-2.0	timm
`hiera_small_abswin_256.sbb2_pd_e200_in12k`	256	-	-	11821	apache-2.0	timm
`hiera_small_abswin_256.sbb2_pd_e200_in12k_ft_in1k`	256	84.564	256	1000	apache-2.0	timm

Update on GitHub