timm documentation

iFormer

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

iFormer

Categoria: Eficiente/Móvel · Código: timm/models/iformer.py · Arquiteturas: 9 · Pesos pré-treinados: 8 (0 com resultados no ImageNet-1k)

O iFormer integra uma rede convolucional rápida com atenção de modulação de cabeça única (SHMA) nos estágios finais, para aplicações móveis.

Artigos

Uso

Veja o Início rápido para carregar pesos pré-treinados, pré-processar imagens e fazer fine-tuning, e Extração de recursos para usar os modelos como backbones.

>>> import timm
>>> model = timm.create_model('iformer_h.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Suporte à API de modelos

RecursoIFormer
mapas de recursos de features_only=True✓ (passos 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Qualquer tamanho de entrada, sem necessidade de alterações✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Decaimento de LR por camada (group_matcher())✓
reset_classifier()✓

✓ suportado, ✓ (quadrado) funciona apenas para tamanhos quadrados, ✗ não suportado, – não necessário (o modelo já aceita qualquer tamanho de entrada). Verificado executando cada recurso em um modelo inicializado aleatoriamente (IFormer com iformer_t em 224); espera-se que outras arquiteturas da mesma classe se comportem da mesma forma. Consulte a página Model API para mais detalhes.

Arquiteturas

ArquiteturaParâmetros (M)GMACsTamanho da entradaPesos pré-treinados
iformer_h99.60-2241
iformer_l14.78-2241
iformer_l224.52-2240
iformer_l2_distilled25.03-2241
iformer_l_distilled15.17-2241
iformer_m8.91-2241
iformer_m_distilled9.29-2241
iformer_s6.56-2241
iformer_t2.89-2241

Os GMACs e as contagens de parâmetros são para o tamanho de entrada e o classificador padrão de cada arquitetura, dos resultados do benchmark.

Pesos pré-treinados

Top-1 é a acurácia de validação no ImageNet-1k de results-imagenet.csv no tamanho de avaliação listado, - se o peso não tiver resultado no ImageNet-1k (por exemplo, pesos de pré-treinamento ou de imagem-texto). Classes é o tamanho do classificador pré-treinado, nenhum para pesos sem um.

PesoTamanho da entradaTop-1 (%)Tamanho da avaliaçãoClassesLicençaHub
iformer_h.in1k224--1000mittimm
iformer_l.in1k224--1000mittimm
iformer_l2_distilled.in1k224--1000mittimm
iformer_l_distilled.in1k224--1000mittimm
iformer_m.in1k224--1000mittimm
iformer_m_distilled.in1k224--1000mittimm
iformer_s.in1k224--1000mittimm
iformer_t.in1k224--1000mittimm

Citação

@inproceedings{zheng2025iformer,
  title={iformer: Integrating convnet and transformer for mobile application},
  author={Zheng, Chuanyang},
  booktitle={International Conference on Learning Representations},
  volume={2025},
  pages={22947--22961},
  year={2025}
}
Update on GitHub