timm documentation
BYOANet(BoTNet、HaloNet、LambdaNet)
BYOANet(BoTNet、HaloNet、LambdaNet)
カテゴリ: ハイブリッド · コード: timm/models/byoanet.py · アーキテクチャ: 15 · 事前学習済み重み: 13 (ImageNet-1kの結果付き13)
ByobNetブロック/ステージ設定システムで構築され、ResNetスタイルのステージに自己アテンション(または類似)レイヤーを配置するネットワーク: Bottleneck Transformers (BoTNet)、HaloNets、Lambda ResNets。モジュールのドキュメント文字列では、これらの定義は実験的であると明記されています。
論文
- 視覚認識のためのボトルネックTransformer
- LambdaNetworks: 注意機構なしで長距離相互作用をモデル化
- パラメータ効率の高いビジュアルバックボーンのためのローカル自己注意のスケーリング
使用方法
事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。
>>> import timm
>>> model = timm.create_model('halonet50ts.a1h_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)モデルAPIのサポート
✓ 対応、✓ (square) 正方形サイズのみ対応、✗ 非対応、– 不要(モデルは任意の入力サイズを既に受け付ける)。各機能をランダム初期化されたモデル(ByobNet、halonet_h1、256)で実行して確認しています。同じクラスの他のアーキテクチャも同様に動作すると考えられます。詳細はModel APIページを参照してください。
アーキテクチャ
| アーキテクチャ | パラメータ数 (M) | GMACs | 入力サイズ | 事前学習済み重み |
|---|---|---|---|---|
botnet26t_256 | 12.49 | 3.32 | 256 | 1 |
botnet50ts_256 | 22.74 | 5.54 | 256 | 0 |
eca_botnext26ts_256 | 10.59 | 2.46 | 256 | 1 |
eca_halonext26ts | 10.76 | 2.44 | 256 | 1 |
halo2botnet50ts_256 | 22.64 | 5.02 | 256 | 1 |
halonet26t | 12.48 | 3.19 | 256 | 1 |
halonet50ts | 22.73 | 5.30 | 256 | 1 |
halonet_h1 | 8.10 | 3.00 | 256 | 0 |
haloregnetz_b | 11.68 | 1.97 | 224 | 1 |
lambda_resnet26rpt_256 | 10.99 | 3.16 | 256 | 1 |
lambda_resnet26t | 10.96 | 3.02 | 256 | 1 |
lambda_resnet50ts | 21.54 | 5.07 | 256 | 1 |
lamhalobotnet50ts_256 | 22.57 | 5.02 | 256 | 1 |
sebotnet33ts_256 | 13.70 | 3.89 | 256 | 1 |
sehalonet33ts | 13.69 | 3.55 | 256 | 1 |
GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。
事前学習済み重み
Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み(例: プリトレーニング用または画像-テキスト用重み)を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。
重みはソースごとにグループ化されます。ソースは、事前学習設定で指定されている論文または出典、それ以外の場合はtimm以外の Hub 組織、さらにそれ以外の場合は事前学習タグの最初の部分(architecture.tag)です。重みが 1 つしかないソースは、other にリストされます。
a1h タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
halo2botnet50ts_256.a1h_in1k | 256 | 82.084 | 256 | 1000 | apache-2.0 | timm |
halonet26t.a1h_in1k | 256 | 79.134 | 256 | 1000 | apache-2.0 | timm |
halonet50ts.a1h_in1k | 256 | 81.640 | 256 | 1000 | apache-2.0 | timm |
lambda_resnet50ts.a1h_in1k | 256 | 81.184 | 256 | 1000 | apache-2.0 | timm |
lamhalobotnet50ts_256.a1h_in1k | 256 | 81.552 | 256 | 1000 | apache-2.0 | timm |
sebotnet33ts_256.a1h_in1k | 256 | 81.156 | 256 | 1000 | apache-2.0 | timm |
タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
botnet26t_256.c1_in1k | 256 | 79.256 | 256 | 1000 | apache-2.0 | timm |
eca_botnext26ts_256.c1_in1k | 256 | 79.262 | 256 | 1000 | apache-2.0 | timm |
eca_halonext26ts.c1_in1k | 256 | 79.518 | 256 | 1000 | apache-2.0 | timm |
lambda_resnet26rpt_256.c1_in1k | 256 | 78.960 | 256 | 1000 | apache-2.0 | timm |
lambda_resnet26t.c1_in1k | 256 | 79.126 | 256 | 1000 | apache-2.0 | timm |
その他
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
haloregnetz_b.ra3_in1k | 224 | 81.058 | 224 | 1000 | apache-2.0 | timm |
sehalonet33ts.ra2_in1k | 256 | 80.976 | 256 | 1000 | apache-2.0 | timm |