Hiera

Catégorie : ViT · Code : timm/models/hiera.py · Architectures : 8 · Poids pré-entraînés : 16 (8 avec des résultats sur ImageNet-1k)

Hiera est un transformeur hiérarchique de vision sans modules spécialisés (convolutions, fenêtres décalées, biais de position relatifs), qui s'appuie sur la préformation par auto-encodeur masqué (MAE) pour apprendre les biais spatiaux.

Articles

• Hiera : un Vision Transformer hiérarchique sans fioritures
• Window Attention est buggé : comment ne pas interpoler les embeddings de position

Utilisation

Consultez le Démarrage rapide pour le chargement des poids pré-entraînés, le prétraitement des images et l’ajustement fin, ainsi que Extraction de caractéristiques pour utiliser les modèles comme squelettes.

>>> import timm
>>> model = timm.create_model('hiera_tiny_224.mae_in1k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Prise en charge de l'API des modèles

✓ pris en charge, ✓ (carré) fonctionne uniquement pour les tailles carrées, ✗ non pris en charge, – non nécessaire (le modèle accepte déjà n'importe quelle taille d'entrée). Vérifié en exécutant chaque fonctionnalité sur un modèle initialisé aléatoirement (Hiera avec hiera_tiny_224 à 224), les autres architectures de la même classe sont censées se comporter de la même manière. Consultez la page API du modèle pour plus de détails.

Architectures

Les GMACs et le nombre de paramètres correspondent à la taille d’entrée par défaut et au classifieur de chaque architecture, d’après les résultats des benchmarks.

Poids pré-entraînés

Top-1 est la précision de validation sur ImageNet-1k issue de results-imagenet.csv à la taille d'évaluation indiquée, - si le poids n'a pas de résultat ImageNet-1k (par exemple, poids de pré-entraînement ou poids image-texte). Classes est la taille du classifieur pré-entraîné, aucune pour les poids sans classifieur.

Les poids sont regroupés par source : le papier ou l’origine indiqué dans la configuration pré-entraînée, à défaut une organisation du Hub autre que timm, à défaut la première partie de l’étiquette pré-entraînée (architecture.tag). Les sources ne comportant qu’un seul poids sont listées sous other.

mae tags

tags sbb2