LowFormer

Kategori: Efficient/Mobile · Kode: timm/models/lowformer.py · Arsitektur: 8 · Bobot terlatih: 7 (0 dengan hasil ImageNet-1k)

LowFormer adalah backbone transformer konvolusional yang dirancang untuk efisiensi perangkat keras (mengukur throughput dan latensi, bukan MACs). Varian GPU edge E1 / E2 / E3 berasal dari ekstensi jurnal.

Makalah

LowFormer: Desain Efisien Perangkat Keras untuk Tulang Punggung Transformer Konvolusional
Di Luar MACs: Desain Arsitektur Efisien Perangkat Keras untuk Tulang Punggung Visi

Penggunaan

Lihat Quickstart untuk memuat bobot terlatih, prapemrosesan gambar, dan penyesuaian halus, serta Ekstraksi Fitur untuk menggunakan model sebagai tulang punggung.

>>> import timm
>>> model = timm.create_model('lowformer_b0.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Dukungan API Model

Fitur	`LowFormer`
feature maps `features_only=True`	✓ (strides 4, 8, 16, 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
Ukuran input apa pun, tidak perlu perubahan	✓
`set_input_size()`	–
`dynamic_img_size=True`	–
`set_grad_checkpointing()`	✓
Penurunan LR per lapisan (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ didukung, ✓ (persegi) hanya berfungsi untuk ukuran persegi, ✗ tidak didukung, – tidak diperlukan (model sudah menerima ukuran input apa pun). Diperiksa dengan menjalankan setiap fitur pada model yang diinisialisasi secara acak (LowFormer dengan lowformer_b0 pada 224), arsitektur lain dari kelas yang sama diharapkan berperilaku sama. Lihat halaman Model API untuk detailnya.

Arsitektur

Arsitektur	Parameter (M)	GMACs	Ukuran input	Bobot terlatih
`lowformer_b0`	14.10	-	224	1
`lowformer_b1`	17.94	-	224	1
`lowformer_b2`	44.99	-	224	0
`lowformer_b3`	57.09	-	224	1
`lowformer_b15`	33.98	-	224	1
`lowformer_e1`	18.90	-	224	1
`lowformer_e2`	22.75	-	224	1
`lowformer_e3`	41.32	-	224	1

GMACs dan jumlah parameter adalah untuk ukuran input dan klasifer default dari setiap arsitektur, dari hasil benchmark.

Bobot terlatih

Top-1 adalah akurasi validasi ImageNet-1k dari results-imagenet.csv pada ukuran eval yang tercantum, - jika bobot tidak memiliki hasil ImageNet-1k (misalnya bobot pretraining atau image-text). Classes adalah ukuran dari classifier pretrained, none untuk bobot yang tidak memilikinya.

Bobot	Ukuran input	Top-1 (%)	Ukuran evaluasi	Kelas	Lisensi	Hub
`lowformer_b0.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_b1.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_b3.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_b15.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_e1.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_e2.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_e3.in1k`	224	-	-	1000	apache-2.0	timm

Sitasi

@article{Nottebaum2024LowFormerHE,
  title={LowFormer: Hardware Efficient Design for Convolutional Transformer Backbones},
  author={Moritz Nottebaum and Matteo Dunnhofer and Christian Micheloni},
  journal={2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)},
  year={2024},
  pages={7008-7018},
}

@article{Nottebaum2026BeyondMACs,
  author  = {Nottebaum, Moritz and Dunnhofer, Matteo and Micheloni, Christian},
  title   = {Beyond {MAC}s: Hardware Efficient Architecture Design for Vision Backbones},
  journal = {International Journal of Computer Vision},
  year    = {2026},
  volume  = {134},
  number  = {6},
  pages   = {295},
  doi     = {10.1007/s11263-026-02873-5},
  url     = {https://doi.org/10.1007/s11263-026-02873-5}
}

Update on GitHub