timm documentation

iFormer

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

iFormer

カテゴリ: Efficient/Mobile · コード: timm/models/iformer.py · アーキテクチャ: 9 · 事前学習済み重み: 8 (ImageNet-1kの結果付き: 0)

iFormerは、モバイルアプリケーション向けに、後段のステージで高速な畳み込みネットワークと単一ヘッドモジュレーションアテンション(SHMA)を統合しています。

論文

使用方法

事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。

>>> import timm
>>> model = timm.create_model('iformer_h.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

モデルAPIのサポート

機能IFormer
features_only=True 特徴マップ✓ (ストライド 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
入力サイズは任意で、変更は不要です✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
レイヤーごとのLR減衰(group_matcher())✓
reset_classifier()✓

✓ 対応、✓ (square) 正方形サイズのみ対応、✗ 非対応、– 不要(モデルはすでに任意の入力サイズを受け入れる)。各機能をランダムに初期化されたモデル(IFormer、iformer_t、224)で実行して確認しています。同じクラスの他のアーキテクチャも同様に動作すると予想されます。詳細はModel APIページを参照してください。

アーキテクチャ

アーキテクチャパラメータ数 (M)GMACs入力サイズ事前学習済み重み
iformer_h99.60-2241
iformer_l14.78-2241
iformer_l224.52-2240
iformer_l2_distilled25.03-2241
iformer_l_distilled15.17-2241
iformer_m8.91-2241
iformer_m_distilled9.29-2241
iformer_s6.56-2241
iformer_t2.89-2241

GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。

事前学習済み重み

Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み(例: プリトレーニング用または画像-テキスト用重み)を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。

重み入力サイズTop-1 (%)評価サイズクラスライセンスHub
iformer_h.in1k224--1000mittimm
iformer_l.in1k224--1000mittimm
iformer_l2_distilled.in1k224--1000mittimm
iformer_l_distilled.in1k224--1000mittimm
iformer_m.in1k224--1000mittimm
iformer_m_distilled.in1k224--1000mittimm
iformer_s.in1k224--1000mittimm
iformer_t.in1k224--1000mittimm

引用

@inproceedings{zheng2025iformer,
  title={iformer: Integrating convnet and transformer for mobile application},
  author={Zheng, Chuanyang},
  booktitle={International Conference on Learning Representations},
  volume={2025},
  pages={22947--22961},
  year={2025}
}
Update on GitHub