timm documentation

RepViT

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

RepViT

Catégorie : Efficient/Mobile · Code : timm/models/repvit.py · Architectures : 8 · Poids pré-entraînés : 13 (13 avec des résultats ImageNet-1k)

RepViT est un CNN mobile qui intègre les choix de conception des transformeurs de vision légers dans des blocs de type MobileNet-V3, avec une reparamétrisation structurelle.

Articles

Utilisation

Consultez le Démarrage rapide pour le chargement des poids pré-entraînés, le prétraitement des images et l’ajustement fin, ainsi que Extraction de caractéristiques pour utiliser les modèles comme squelettes.

>>> import timm
>>> model = timm.create_model('repvit_m2_3.dist_300e_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Prise en charge de l'API des modèles

FonctionnalitéRepVit
cartes de caractéristiques features_only=True✓ (pas 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Toute taille d'entrée, aucune modification nécessaire✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Décroissance du taux d'apprentissage par couche (group_matcher())✓
reset_classifier()✓

✓ pris en charge, ✓ (carré) fonctionne uniquement pour les tailles carrées, ✗ non pris en charge, – non nécessaire (le modèle accepte déjà n'importe quelle taille d'entrée). Vérifié en exécutant chaque fonctionnalité sur un modèle initialisé aléatoirement (RepVit avec repvit_m1 à 224), les autres architectures de la même classe sont censées se comporter de la même manière. Consultez la page API du modèle pour plus de détails.

Architectures

ArchitectureParamètres (M)GMACsTaille d'entréePoids pré-entraînés
repvit_m0_95.070.822242
repvit_m15.070.822241
repvit_m1_06.811.112242
repvit_m1_18.241.342242
repvit_m1_514.052.272242
repvit_m28.241.342241
repvit_m2_322.934.522242
repvit_m310.121.862241

Les GMACs et le nombre de paramètres correspondent à la taille d’entrée par défaut et au classifieur de chaque architecture, d’après les résultats des benchmarks.

Poids pré-entraînés

Top-1 est la précision de validation sur ImageNet-1k issue de results-imagenet.csv à la taille d'évaluation indiquée, - si le poids n'a pas de résultat ImageNet-1k (par exemple, poids de pré-entraînement ou poids image-texte). Classes est la taille du classifieur pré-entraîné, aucune pour les poids sans classifieur.

PoidsTaille d'entréeTop-1 (%)Taille d'évaluationClassesLicenceHub
repvit_m0_9.dist_300e_in1k22478.6522241000apache-2.0timm
repvit_m0_9.dist_450e_in1k22479.0582241000apache-2.0timm
repvit_m1.dist_in1k22478.5422241000apache-2.0timm
repvit_m1_0.dist_300e_in1k22480.1522241000apache-2.0timm
repvit_m1_0.dist_450e_in1k22480.4302241000apache-2.0timm
repvit_m1_1.dist_300e_in1k22480.8262241000apache-2.0timm
repvit_m1_1.dist_450e_in1k22481.3142241000apache-2.0timm
repvit_m1_5.dist_300e_in1k22482.3822241000apache-2.0timm
repvit_m1_5.dist_450e_in1k22482.5202241000apache-2.0timm
repvit_m2.dist_in1k22480.4682241000apache-2.0timm
repvit_m2_3.dist_300e_in1k22483.5242241000apache-2.0timm
repvit_m2_3.dist_450e_in1k22483.7462241000apache-2.0timm
repvit_m3.dist_in1k22481.4942241000apache-2.0timm

Citation

@misc{wang2023repvit,
      title={RepViT: Revisiting Mobile CNN From ViT Perspective},
      author={Ao Wang and Hui Chen and Zijia Lin and Hengjun Pu and Guiguang Ding},
      year={2023},
      eprint={2307.09283},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}
Update on GitHub