timm documentation

CoaT

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

CoaT

Categoria: Híbrido · Código: timm/models/coat.py · Arquiteturas: 8 · Pesos pré-treinados: 8 (8 com resultados no ImageNet-1k)

Os Co-Scale Conv-Attentional Image Transformers (CoaT) utilizam atenção fatorizada com codificações de posição relativa baseadas em convolução e um mecanismo de co-escala que troca informações entre blocos paralelos em diferentes escalas.

Artigos

Uso

Veja o Início rápido para carregar pesos pré-treinados, pré-processar imagens e fazer fine-tuning, e Extração de recursos para usar os modelos como backbones.

>>> import timm
>>> model = timm.create_model('coat_small.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Suporte à API de modelos

RecursoCoaT
mapas de recursos de features_only=True✓ (passos 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Qualquer tamanho de entrada, sem necessidade de alterações✗
set_input_size()✗
dynamic_img_size=True✗
set_grad_checkpointing()✗
Decaimento de LR por camada (group_matcher())✓
reset_classifier()✓

✓ suportado, ✓ (quadrado) funciona apenas para tamanhos quadrados, ✗ não suportado, – não necessário (o modelo já aceita qualquer tamanho de entrada). Verificado executando cada recurso em um modelo inicializado aleatoriamente (CoaT com coat_tiny em 224); espera-se que outras arquiteturas da mesma classe se comportem da mesma forma. Consulte a página Model API para mais detalhes.

Arquiteturas

ArquiteturaParâmetros (M)GMACsTamanho da entradaPesos pré-treinados
coat_lite_medium44.579.812241
coat_lite_medium_38444.5728.733841
coat_lite_mini11.012.002241
coat_lite_small19.843.962241
coat_lite_tiny5.721.602241
coat_mini10.346.822241
coat_small21.6912.612241
coat_tiny5.504.352241

Os GMACs e as contagens de parâmetros são para o tamanho de entrada e o classificador padrão de cada arquitetura, dos resultados do benchmark.

Pesos pré-treinados

Top-1 é a acurácia de validação no ImageNet-1k de results-imagenet.csv no tamanho de avaliação listado, - se o peso não tiver resultado no ImageNet-1k (por exemplo, pesos de pré-treinamento ou de imagem-texto). Classes é o tamanho do classificador pré-treinado, nenhum para pesos sem um.

PesoTamanho da entradaTop-1 (%)Tamanho da avaliaçãoClassesLicençaHub
coat_lite_medium.in1k22483.6022241000apache-2.0timm
coat_lite_medium_384.in1k38484.8903841000apache-2.0timm
coat_lite_mini.in1k22479.1042241000apache-2.0timm
coat_lite_small.in1k22482.3042241000apache-2.0timm
coat_lite_tiny.in1k22477.5482241000apache-2.0timm
coat_mini.in1k22481.3202241000apache-2.0timm
coat_small.in1k22482.3782241000apache-2.0timm
coat_tiny.in1k22478.4422241000apache-2.0timm
Update on GitHub