timm documentation
LowFormer
LowFormer
Kategori: Efficient/Mobile · Kod: timm/models/lowformer.py · Mimariler: 8 · Önceden eğitilmiş ağırlıklar: 7 (0 tanesi ImageNet-1k sonuçlarıyla)
LowFormer, donanım verimliliği (MAC yerine ölçülen throughput ve gecikme) için tasarlanmış konvolüsyonel bir transformer omurgasıdır. E1 / E2 / E3 kenar GPU varyantları dergi uzantısından gelmektedir.
Makaleler
- LowFormer: Konvolüsyonlu Transformer Omurgaları İçin Donanım Verimli Tasarım
- MAC'lerin Ötesinde: Görüntü Omurgaları İçin Donanım Verimli Mimari Tasarımı
Kullanım
Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.
>>> import timm
>>> model = timm.create_model('lowformer_b0.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)Model API desteği
✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (LowFormer için lowformer_b0 224 boyutunda), aynı sınıfın diğer mimarilerinin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.
Mimariler
| Mimari | Parametreler (M) | GMAC'lar | Girdi boyutu | Önceden eğitilmiş ağırlıklar |
|---|---|---|---|---|
lowformer_b0 | 14.10 | - | 224 | 1 |
lowformer_b1 | 17.94 | - | 224 | 1 |
lowformer_b2 | 44.99 | - | 224 | 0 |
lowformer_b3 | 57.09 | - | 224 | 1 |
lowformer_b15 | 33.98 | - | 224 | 1 |
lowformer_e1 | 18.90 | - | 224 | 1 |
lowformer_e2 | 22.75 | - | 224 | 1 |
lowformer_e3 | 41.32 | - | 224 | 1 |
GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.
Önceden eğitilmiş ağırlıklar
Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.
| Ağırlık | Girdi boyutu | En iyi 1 (%) | Değerlendirme boyutu | Sınıflar | Lisans | Hub |
|---|---|---|---|---|---|---|
lowformer_b0.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
lowformer_b1.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
lowformer_b3.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
lowformer_b15.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
lowformer_e1.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
lowformer_e2.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
lowformer_e3.in1k | 224 | - | - | 1000 | apache-2.0 | timm |
Atıf
@article{Nottebaum2024LowFormerHE,
title={LowFormer: Hardware Efficient Design for Convolutional Transformer Backbones},
author={Moritz Nottebaum and Matteo Dunnhofer and Christian Micheloni},
journal={2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)},
year={2024},
pages={7008-7018},
}
@article{Nottebaum2026BeyondMACs,
author = {Nottebaum, Moritz and Dunnhofer, Matteo and Micheloni, Christian},
title = {Beyond {MAC}s: Hardware Efficient Architecture Design for Vision Backbones},
journal = {International Journal of Computer Vision},
year = {2026},
volume = {134},
number = {6},
pages = {295},
doi = {10.1007/s11263-026-02873-5},
url = {https://doi.org/10.1007/s11263-026-02873-5}
}