timm documentation

Sequenciador

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.30).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Sequenciador

Categoria: MLP · Código: timm/models/sequencer.py · Arquiteturas: 3 · Pesos pré-treinados: 3 (3 com resultados no ImageNet-1k)

O Sequencer substitui a autoatenção por camadas BiLSTM que misturam tokens ao longo dos eixos vertical e horizontal, seguidas por MLPs de canal.

Artigos

Uso

Veja o Início rápido para carregar pesos pré-treinados, pré-processar imagens e fazer fine-tuning, e Extração de recursos para usar os modelos como backbones.

>>> import timm
>>> model = timm.create_model('sequencer2d_s.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Suporte à API de modelos

RecursoSequencer2d
mapas de recursos de features_only=True✓ (passos 7, 14, 14)
forward_intermediates()✓
prune_intermediate_layers()✓
Qualquer tamanho de entrada, sem necessidade de alterações✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✗
Decaimento de LR por camada (group_matcher())✓
reset_classifier()✓

✓ suportado, ✓ (quadrado) funciona apenas para tamanhos quadrados, ✗ não suportado, – não necessário (o modelo já aceita qualquer tamanho de entrada). Verificado executando cada recurso em um modelo inicializado aleatoriamente (Sequencer2d com sequencer2d_s em 224), espera-se que outras arquiteturas da mesma classe se comportem da mesma forma. Consulte a página Model API para mais detalhes.

Arquiteturas

ArquiteturaParâmetros (M)GMACsTamanho da entradaPesos pré-treinados
sequencer2d_l54.309.742241
sequencer2d_m38.316.552241
sequencer2d_s27.654.962241

Os GMACs e as contagens de parâmetros são para o tamanho de entrada e o classificador padrão de cada arquitetura, dos resultados do benchmark.

Pesos pré-treinados

Top-1 é a acurácia de validação no ImageNet-1k de results-imagenet.csv no tamanho de avaliação listado, - se o peso não tiver resultado no ImageNet-1k (por exemplo, pesos de pré-treinamento ou de imagem-texto). Classes é o tamanho do classificador pré-treinado, nenhum para pesos sem um.

PesoTamanho da entradaTop-1 (%)Tamanho da avaliaçãoClassesLicençaHub
sequencer2d_l.in1k22483.4062241000apache-2.0timm
sequencer2d_m.in1k22482.8362241000apache-2.0timm
sequencer2d_s.in1k22482.3362241000apache-2.0timm
Update on GitHub