Qwen3 ViT

Categoria: Encoder · Código: timm/models/qwen3_vit.py · Arquiteturas: 9 · Pesos pré-treinados: 39 (0 com resultados no ImageNet-1k)

O codificador de visão dos modelos multimodais Qwen3-VL / Qwen3.5 / Qwen3.8, um ViT com pré-normalização que combina uma grade de posição absoluta aprendida com RoPE 2D axial. As variantes de classificador adicionam pooling e uma cabeça linear, enquanto as variantes _enc mantêm o projetor nativo que mapeia os tokens para a largura do modelo de linguagem.

Artigos

• Relatório Técnico do Qwen3-VL
• Qwen-Drive-1.0: Um primeiro passo rumo a um modelo de fundação de visão-linguagem para direção autônoma

Uso

Veja o Início rápido para carregar pesos pré-treinados, pré-processar imagens e fazer fine-tuning, e Extração de recursos para usar os modelos como backbones.

>>> import timm
>>> model = timm.create_model('qwen3_vit_88m.qwen3_5_0_8b', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Suporte à API de modelos

✓ suportado, ✓ (quadrado) funciona apenas para tamanhos quadrados, ✗ não suportado, – não necessário (o modelo já aceita qualquer tamanho de entrada). Verificado executando cada recurso em um modelo inicializado aleatoriamente (Qwen3VitClassifier com qwen3_vit_88m em 256, Qwen3VitEncoder com qwen3_vit_88m_enc em 256), espera-se que outras arquiteturas da mesma classe se comportem da mesma forma. Consulte a página Model API para mais detalhes.

Arquiteturas

Os GMACs e as contagens de parâmetros são para o tamanho de entrada e o classificador padrão de cada arquitetura, dos resultados do benchmark.

Pesos pré-treinados

Top-1 é a acurácia de validação no ImageNet-1k de results-imagenet.csv no tamanho de avaliação listado, - se o peso não tiver resultado no ImageNet-1k (por exemplo, pesos de pré-treinamento ou de imagem-texto). Classes é o tamanho do classificador pré-treinado, nenhum para pesos sem um.

Os pesos são agrupados por origem: o artigo ou origem indicado na configuração pré-treinada, caso contrário, uma organização do Hub diferente de timm, caso contrário, a primeira parte da tag pré-treinada (architecture.tag). As origens com um único peso são listadas em other.

Qwen/Qwen-Drive-1.0-4B

Origem: huggingface.co/Qwen/Qwen-Drive-1.0-4B

Qwen/Qwen3-VL-235B-A22B-Instruct

Origem: huggingface.co/Qwen/Qwen3-VL-235B-A22B-Instruct

Qwen/Qwen3-VL-30B-A3B-Instruct

Origem: huggingface.co/Qwen/Qwen3-VL-30B-A3B-Instruct

Qwen/Qwen3-VL-32B-Instruct

Origem: huggingface.co/Qwen/Qwen3-VL-32B-Instruct

Qwen/Qwen3-VL-4B-Instruct

Origem: huggingface.co/Qwen/Qwen3-VL-4B-Instruct

Qwen/Qwen3-VL-8B-Instruct

Origem: huggingface.co/Qwen/Qwen3-VL-8B-Instruct

Qwen/Qwen3.5-0.8B

Origem: huggingface.co/Qwen/Qwen3.5-0.8B

Qwen/Qwen3.5-27B

Origem: huggingface.co/Qwen/Qwen3.5-27B

Qwen/Qwen3.5-2B

Origem: huggingface.co/Qwen/Qwen3.5-2B

Qwen/Qwen3.5-4B

Origem: huggingface.co/Qwen/Qwen3.5-4B

Qwen/Qwen3.5-9B

Origem: huggingface.co/Qwen/Qwen3.5-9B

Qwen/Qwen3.8-27B

Origem: huggingface.co/Qwen/Qwen3.8-27B

Qwen/Qwen3.8-Flash-Next

Origem: huggingface.co/Qwen/Qwen3.8-Flash-Next