timm documentation

iFormer

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

iFormer

Categoría: Eficiente/Móvil · Código: timm/models/iformer.py · Arquitecturas: 9 · Pesos preentrenados: 8 (0 con resultados en ImageNet-1k)

iFormer integra una red convolucional rápida con atención de modulación de cabeza única (SHMA) en las etapas posteriores, para aplicaciones móviles.

Papers

Uso

Consulte la Introducción rápida para cargar pesos preentrenados, preprocesar imágenes y realizar el ajuste fino, y Extracción de características para usar los modelos como columnas verticales.

>>> import timm
>>> model = timm.create_model('iformer_h.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Soporte de la API de modelos

CaracterísticaIFormer
mapas de características de features_only=True✓ (pasos 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Cualquier tamaño de entrada, no se necesitan cambios✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Decaimiento del LR por capa (group_matcher())✓
reset_classifier()✓

✓ compatible, ✓ (cuadrado) funciona solo con tamaños cuadrados, ✗ no compatible, – no necesario (el modelo ya acepta cualquier tamaño de entrada). Verificado ejecutando cada función en un modelo inicializado aleatoriamente (IFormer con iformer_t en 224); se espera que otras arquitecturas de la misma clase se comporten de la misma manera. Consulte la página Model API para más detalles.

Arquitecturas

ArquitecturaParámetros (M)GMACsTamaño de entradaPesos preentrenados
iformer_h99.60-2241
iformer_l14.78-2241
iformer_l224.52-2240
iformer_l2_distilled25.03-2241
iformer_l_distilled15.17-2241
iformer_m8.91-2241
iformer_m_distilled9.29-2241
iformer_s6.56-2241
iformer_t2.89-2241

Los GMAC y el número de parámetros corresponden al tamaño de entrada y al clasificador predeterminados de cada arquitectura, según los resultados de las pruebas de rendimiento.

Pesos preentrenados

Top-1 es la precisión de validación en ImageNet-1k desde results-imagenet.csv en el tamaño de evaluación indicado, - si el peso no tiene un resultado de ImageNet-1k (p. ej. pesos de preentrenamiento o de imagen-texto). Classes es el tamaño del clasificador preentrenado, ninguno para pesos sin uno.

PesoTamaño de entradaTop-1 (%)Tamaño de evaluaciónClasesLicenciaHub
iformer_h.in1k224--1000mittimm
iformer_l.in1k224--1000mittimm
iformer_l2_distilled.in1k224--1000mittimm
iformer_l_distilled.in1k224--1000mittimm
iformer_m.in1k224--1000mittimm
iformer_m_distilled.in1k224--1000mittimm
iformer_s.in1k224--1000mittimm
iformer_t.in1k224--1000mittimm

Cita

@inproceedings{zheng2025iformer,
  title={iformer: Integrating convnet and transformer for mobile application},
  author={Zheng, Chuanyang},
  booktitle={International Conference on Learning Representations},
  volume={2025},
  pages={22947--22961},
  year={2025}
}
Update on GitHub