SwiftFormer

Categoría: Eficiente/Móvil · Código: timm/models/swiftformer.py · Arquitecturas: 4 · Pesos preentrenados: 4 (4 con resultados en ImageNet-1k)

SwiftFormer reemplaza las multiplicaciones de matrices cuadráticas de la autoatención con una atención aditiva eficiente, para aplicaciones de visión en tiempo real en dispositivos móviles.

Papers

• SwiftFormer: atención aditiva eficiente para aplicaciones de visión en tiempo real en móviles basadas en Transformers

Uso

Consulte la Introducción rápida para cargar pesos preentrenados, preprocesar imágenes y realizar el ajuste fino, y Extracción de características para usar los modelos como columnas verticales.

>>> import timm
>>> model = timm.create_model('swiftformer_l3.dist_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Soporte de la API de modelos

✓ compatible, ✓ (cuadrado) funciona solo con tamaños cuadrados, ✗ no compatible, – no necesario (el modelo ya acepta cualquier tamaño de entrada). Verificado ejecutando cada función en un modelo inicializado aleatoriamente (SwiftFormer con swiftformer_xs en 224), se espera que otras arquitecturas de la misma clase se comporten de la misma manera. Consulte la página Model API para obtener más detalles.

Arquitecturas

Los GMAC y el número de parámetros corresponden al tamaño de entrada y al clasificador predeterminados de cada arquitectura, según los resultados de las pruebas de rendimiento.

Pesos preentrenados

Top-1 es la precisión de validación en ImageNet-1k desde results-imagenet.csv en el tamaño de evaluación indicado, - si el peso no tiene un resultado de ImageNet-1k (p. ej. pesos de preentrenamiento o de imagen-texto). Classes es el tamaño del clasificador preentrenado, ninguno para pesos sin uno.

Cita

@InProceedings{Shaker_2023_ICCV,
    author    = {Shaker, Abdelrahman and Maaz, Muhammad and Rasheed, Hanoona and Khan, Salman and Yang, Ming-Hsuan and Khan, Fahad Shahbaz},
    title     = {SwiftFormer: Efficient Additive Attention for Transformer-based Real-time Mobile Vision Applications},
    booktitle = {Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV)},
    year      = {2023},
}