DeepSeek ViT

Categoría: Codificador · Código: timm/models/deepseek_vit.py · Arquitecturas: 3 · Pesos preentrenados: 6 (0 con resultados en ImageNet-1k)

El codificador de visión de los modelos multimodales DeepSeek-V4 / V4.1, un ViT con pre-norm, RMSNorm, un MLP SwiGLU y RoPE 2D axial como único codificado de posición. Las variantes de clasificador añaden pooling y una cabeza lineal, mientras que las variantes _enc conservan el proyector nativo que mapea los tokens al ancho del modelo de lenguaje.

Papers

• DeepSeek-V4.1-Flash: Llevando al límite la compresión de la caché KV

Uso

Consulte la Introducción rápida para cargar pesos preentrenados, preprocesar imágenes y realizar el ajuste fino, y Extracción de características para usar los modelos como columnas verticales.

>>> import timm
>>> model = timm.create_model('deepseek_vit_412m.deepseek_v4_1_flash', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Soporte de la API de modelos

✓ compatible, ✓ (cuadrado) funciona solo con tamaños cuadrados, ✗ no compatible, – no necesario (el modelo ya acepta cualquier tamaño de entrada). Verificado ejecutando cada función en un modelo inicializado aleatoriamente (DeepseekVitClassifier con deepseek_vit_412m en 252, DeepseekVitEncoder con deepseek_vit_412m_enc en 252); se espera que otras arquitecturas de la misma clase se comporten de la misma manera. Consulte la página Model API para más detalles.

Arquitecturas

Los GMAC y el número de parámetros corresponden al tamaño de entrada y al clasificador predeterminados de cada arquitectura, según los resultados de las pruebas de rendimiento.

Pesos preentrenados

Top-1 es la precisión de validación en ImageNet-1k desde results-imagenet.csv en el tamaño de evaluación indicado, - si el peso no tiene un resultado de ImageNet-1k (p. ej. pesos de preentrenamiento o de imagen-texto). Classes es el tamaño del clasificador preentrenado, ninguno para pesos sin uno.

Los pesos se agrupan por origen: el artículo o procedencia indicado en la configuración preentrenada, en su defecto una organización del Hub distinta de timm, y si no, la primera parte de la etiqueta preentrenada (architecture.tag). Los orígenes con un solo peso se listan bajo other.

deepseek-ai/DeepSeek-V4-Flash-Vision-Exp

Origen: huggingface.co/deepseek-ai/DeepSeek-V4-Flash-Vision-Exp

deepseek-ai/DeepSeek-V4.1-Flash

Origen: huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash