timm documentation
EVA
EVA
カテゴリ: ViT · コード: timm/models/eva.py · アーキテクチャ: 65 · 事前学習済み重み: 83 (ImageNet-1kの結果を含む28)
Eva クラスを共有する EVA および EVA-02 Vision Transformer、その他の ViT 変種で、回転位置埋め込み (RoPE)、SwiGLU MLP、関連する追加機能を使用します。このモジュールには、Perception Encoder (PE)、ROPE-ViT、DINOv3、LingBot-Vision、Sapiens2 モデル、および RoPE を備えた timm のオリジナル ViT 設定も含まれます。
論文
- EVA: 大規模なマスク付き視覚表現学習の限界を探る
- EVA-02: ネオンジェネシスの視覚的表現
- EVA-CLIP: 大規模CLIPのための改善された学習手法
- Perception Encoder: 最良の視覚埋め込みはネットワークの出力には存在しない
- Vision Transformer向けのRotary Position Embedding
- DINOv3
- 密な空間知覚のためのビジョン事前学習
- Sapiens2
使用方法
事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。
>>> import timm
>>> model = timm.create_model('eva02_small_patch14_336.mim_in22k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)モデルAPIのサポート
✓ 対応、✓ (square) 正方形サイズのみ動作、✗ 非対応、– 不要(モデルはすでに任意の入力サイズを受け入れる)。ランダム初期化されたモデル(Eva の vit_tiny_patch16_dinov3_qkvb、256)で各機能を実行して確認しました。同じクラスの他のアーキテクチャも同様に動作すると考えられます。詳細は Model API ページを参照してください。
アーキテクチャ
| アーキテクチャ | パラメータ数 (M) | GMACs | 入力サイズ | 事前学習済み重み |
|---|---|---|---|---|
eva02_base_patch14_224 | 85.76 | 23.22 | 224 | 1 |
eva02_base_patch14_448 | 87.12 | 107.11 | 448 | 3 |
eva02_base_patch16_clip_224 | 86.26 | 17.62 | 224 | 1 |
eva02_enormous_patch14_clip_224 | 4350.56 | 1132.46 | 224 | 2 |
eva02_large_patch14_224 | 303.27 | 81.15 | 224 | 2 |
eva02_large_patch14_448 | 305.08 | 362.33 | 448 | 6 |
eva02_large_patch14_clip_224 | 304.11 | 81.18 | 224 | 1 |
eva02_large_patch14_clip_336 | 304.43 | 191.34 | 336 | 1 |
eva02_small_patch14_224 | 21.62 | 6.14 | 224 | 1 |
eva02_small_patch14_336 | 22.13 | 15.48 | 336 | 1 |
eva02_tiny_patch14_224 | 5.50 | 1.70 | 224 | 1 |
eva02_tiny_patch14_336 | 5.76 | 4.68 | 336 | 1 |
eva_giant_patch14_224 | 1012.56 | 267.18 | 224 | 1 |
eva_giant_patch14_336 | 1013.01 | 620.64 | 336 | 2 |
eva_giant_patch14_560 | 1014.45 | 1906.76 | 560 | 1 |
eva_giant_patch14_clip_224 | 1012.59 | 267.18 | 224 | 2 |
vit_5b_patch16_sapiens2 | 5066.90 | - | 1024x768 | 1 |
vit_7b_patch16_dinov3 | 6716.03 | 1775.10 | 256 | 2 |
vit_base_patch16_dinov3 | 85.64 | 23.60 | 256 | 1 |
vit_base_patch16_dinov3_qkvb | 85.66 | 23.60 | 256 | 2 |
vit_base_patch16_lingbot | 85.66 | - | 512 | 1 |
vit_base_patch16_rope_224 | 86.43 | 17.58 | 224 | 1 |
vit_base_patch16_rope_ape_224 | 86.59 | 17.58 | 224 | 1 |
vit_base_patch16_rope_mixed_224 | 86.44 | 17.58 | 224 | 1 |
vit_base_patch16_rope_mixed_ape_224 | 86.59 | 17.58 | 224 | 1 |
vit_base_patch16_rope_reg1_gap_256 | 86.43 | 23.22 | 256 | 1 |
vit_base_patch16_sapiens2 | 113.99 | - | 1024x768 | 1 |
vit_betwixt_patch16_rope_reg4_gap_256 | 60.23 | 16.52 | 256 | 1 |
vit_giant_patch16_lingbot | 1134.47 | - | 512 | 1 |
vit_giant_patch16_sapiens2 | 1455.47 | - | 1024x768 | 1 |
vit_huge_patch16_sapiens2 | 814.28 | - | 1024x768 | 1 |
vit_huge_plus_patch16_dinov3 | 840.51 | 224.88 | 256 | 1 |
vit_huge_plus_patch16_dinov3_qkvb | 840.59 | 224.88 | 256 | 1 |
vit_large_patch16_dinov3 | 303.08 | 82.43 | 256 | 2 |
vit_large_patch16_dinov3_qkvb | 303.13 | 82.43 | 256 | 2 |
vit_large_patch16_lingbot | 303.13 | - | 512 | 1 |
vit_large_patch16_rope_224 | 304.17 | 61.60 | 224 | 1 |
vit_large_patch16_rope_ape_224 | 304.37 | 61.60 | 224 | 1 |
vit_large_patch16_rope_mixed_224 | 304.20 | 61.60 | 224 | 1 |
vit_large_patch16_rope_mixed_ape_224 | 304.40 | 61.60 | 224 | 1 |
vit_large_patch16_sapiens2 | 395.45 | - | 1024x768 | 1 |
vit_medium_patch16_rope_reg1_gap_256 | 38.74 | 10.63 | 256 | 1 |
vit_mediumd_patch16_rope_reg1_gap_256 | 63.95 | 17.65 | 256 | 1 |
vit_pe_core_base_patch16_224 | 93.67 | 17.82 | 224 | 1 |
vit_pe_core_gigantic_patch14_448 | 1882.03 | 2060.12 | 448 | 1 |
vit_pe_core_large_patch14_336 | 317.15 | 192.33 | 336 | 1 |
vit_pe_core_small_patch16_384 | 23.78 | 15.69 | 384 | 1 |
vit_pe_core_tiny_patch16_384 | 6.14 | 4.74 | 384 | 1 |
vit_pe_lang_gigantic_patch14_448 | 1740.92 | 1931.99 | 448 | 2 |
vit_pe_lang_large_patch14_448 | 291.42 | 346.99 | 448 | 2 |
vit_pe_spatial_base_patch16_512 | 86.43 | 107.13 | 512 | 1 |
vit_pe_spatial_gigantic_patch14_448 | 1851.89 | 2055.25 | 448 | 1 |
vit_pe_spatial_large_patch14_448 | 303.96 | 362.05 | 448 | 1 |
vit_pe_spatial_small_patch16_512 | 21.98 | 31.80 | 512 | 1 |
vit_pe_spatial_tiny_patch16_512 | 5.68 | 10.46 | 512 | 1 |
vit_small_patch16_dinov3 | 21.59 | 6.26 | 256 | 1 |
vit_small_patch16_dinov3_qkvb | 21.60 | 6.26 | 256 | 2 |
vit_small_patch16_lingbot | 21.60 | - | 512 | 1 |
vit_small_patch16_rope_224 | 21.98 | 4.61 | 224 | 1 |
vit_small_patch16_rope_ape_224 | 22.06 | 4.61 | 224 | 1 |
vit_small_patch16_rope_mixed_224 | 21.99 | 4.61 | 224 | 1 |
vit_small_patch16_rope_mixed_ape_224 | 22.06 | 4.61 | 224 | 1 |
vit_small_plus_patch16_dinov3 | 28.68 | 8.11 | 256 | 1 |
vit_small_plus_patch16_dinov3_qkvb | 28.69 | 8.11 | 256 | 1 |
vit_tiny_patch16_dinov3_qkvb | 5.49 | - | 256 | 1 |
GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。
事前学習済み重み
Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み(例: プリトレーニング用または画像-テキスト用重み)を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。
重みはソースごとにグループ化されます。ソースは、事前学習設定で指定されている論文または出典、それ以外の場合はtimm以外の Hub 組織、さらにそれ以外の場合は事前学習タグの最初の部分(architecture.tag)です。重みが 1 つしかないソースは、other にリストされます。
mim タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
eva02_base_patch14_224.mim_in22k | 224 | - | - | なし | mit | timm |
eva02_base_patch14_448.mim_in22k_ft_in1k | 448 | 88.262 | 448 | 1000 | mit | timm |
eva02_base_patch14_448.mim_in22k_ft_in22k | 448 | - | - | 21841 | mit | timm |
eva02_base_patch14_448.mim_in22k_ft_in22k_in1k | 448 | 88.678 | 448 | 1000 | mit | timm |
eva02_large_patch14_224.mim_in22k | 224 | - | - | なし | mit | timm |
eva02_large_patch14_224.mim_m38m | 224 | - | - | なし | mit | timm |
eva02_large_patch14_448.mim_in22k_ft_in1k | 448 | 89.634 | 448 | 1000 | mit | timm |
eva02_large_patch14_448.mim_in22k_ft_in22k | 448 | - | - | 21841 | mit | timm |
eva02_large_patch14_448.mim_in22k_ft_in22k_in1k | 448 | 89.956 | 448 | 1000 | mit | timm |
eva02_large_patch14_448.mim_m38m_ft_in1k | 448 | 89.550 | 448 | 1000 | mit | timm |
eva02_large_patch14_448.mim_m38m_ft_in22k | 448 | - | - | 21841 | mit | timm |
eva02_large_patch14_448.mim_m38m_ft_in22k_in1k | 448 | 90.056 | 448 | 1000 | mit | timm |
eva02_small_patch14_224.mim_in22k | 224 | - | - | なし | mit | timm |
eva02_small_patch14_336.mim_in22k_ft_in1k | 336 | 85.770 | 336 | 1000 | mit | timm |
eva02_tiny_patch14_224.mim_in22k | 224 | - | - | なし | mit | timm |
eva02_tiny_patch14_336.mim_in22k_ft_in1k | 336 | 80.648 | 336 | 1000 | mit | timm |
fb タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_pe_core_base_patch16_224.fb | 224 | - | - | 1024 | apache-2.0 | timm |
vit_pe_core_gigantic_patch14_448.fb | 448 | - | - | 1280 | apache-2.0 | timm |
vit_pe_core_large_patch14_336.fb | 336 | - | - | 1024 | apache-2.0 | timm |
vit_pe_core_small_patch16_384.fb | 384 | - | - | 512 | apache-2.0 | timm |
vit_pe_core_tiny_patch16_384.fb | 384 | - | - | 512 | apache-2.0 | timm |
vit_pe_lang_gigantic_patch14_448.fb | 448 | - | - | なし | apache-2.0 | timm |
vit_pe_lang_gigantic_patch14_448.fb_tiling | 448 | - | - | なし | apache-2.0 | timm |
vit_pe_lang_large_patch14_448.fb | 448 | - | - | なし | apache-2.0 | timm |
vit_pe_lang_large_patch14_448.fb_tiling | 448 | - | - | なし | apache-2.0 | timm |
vit_pe_spatial_base_patch16_512.fb | 512 | - | - | なし | apache-2.0 | timm |
vit_pe_spatial_gigantic_patch14_448.fb | 448 | - | - | なし | apache-2.0 | timm |
vit_pe_spatial_large_patch14_448.fb | 448 | - | - | なし | apache-2.0 | timm |
vit_pe_spatial_small_patch16_512.fb | 512 | - | - | なし | apache-2.0 | timm |
vit_pe_spatial_tiny_patch16_512.fb | 512 | - | - | なし | apache-2.0 | timm |
naver タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_base_patch16_rope_224.naver_in1k | 224 | 83.714 | 224 | 1000 | apache-2.0 | timm |
vit_base_patch16_rope_ape_224.naver_in1k | 224 | 83.780 | 224 | 1000 | apache-2.0 | timm |
vit_base_patch16_rope_mixed_224.naver_in1k | 224 | 83.806 | 224 | 1000 | apache-2.0 | timm |
vit_base_patch16_rope_mixed_ape_224.naver_in1k | 224 | 83.898 | 224 | 1000 | apache-2.0 | timm |
vit_large_patch16_rope_224.naver_in1k | 224 | 84.646 | 224 | 1000 | apache-2.0 | timm |
vit_large_patch16_rope_ape_224.naver_in1k | 224 | 84.660 | 224 | 1000 | apache-2.0 | timm |
vit_large_patch16_rope_mixed_224.naver_in1k | 224 | 84.840 | 224 | 1000 | apache-2.0 | timm |
vit_large_patch16_rope_mixed_ape_224.naver_in1k | 224 | 84.846 | 224 | 1000 | apache-2.0 | timm |
vit_small_patch16_rope_224.naver_in1k | 224 | 81.222 | 224 | 1000 | apache-2.0 | timm |
vit_small_patch16_rope_ape_224.naver_in1k | 224 | 81.016 | 224 | 1000 | apache-2.0 | timm |
vit_small_patch16_rope_mixed_224.naver_in1k | 224 | 81.252 | 224 | 1000 | apache-2.0 | timm |
vit_small_patch16_rope_mixed_ape_224.naver_in1k | 224 | 80.974 | 224 | 1000 | apache-2.0 | timm |
lvd1689m タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_7b_patch16_dinov3.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_base_patch16_dinov3.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_base_patch16_dinov3_qkvb.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_huge_plus_patch16_dinov3.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_huge_plus_patch16_dinov3_qkvb.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_large_patch16_dinov3.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_large_patch16_dinov3_qkvb.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_small_patch16_dinov3.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_small_patch16_dinov3_qkvb.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_small_plus_patch16_dinov3.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
vit_small_plus_patch16_dinov3_qkvb.lvd1689m | 256 | - | - | なし | dinov3-license | timm |
Sapiens2
事前学習済み設定はSapiens2を参照しています。
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_5b_patch16_sapiens2.fb | 1024x768 | - | - | なし | sapiens2-license | timm |
vit_base_patch16_sapiens2.fb | 1024x768 | - | - | なし | sapiens2-license | timm |
vit_giant_patch16_sapiens2.fb | 1024x768 | - | - | なし | sapiens2-license | timm |
vit_huge_patch16_sapiens2.fb | 1024x768 | - | - | なし | sapiens2-license | timm |
vit_large_patch16_sapiens2.fb | 1024x768 | - | - | なし | sapiens2-license | timm |
merged2b タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
eva02_base_patch16_clip_224.merged2b | 224 | - | - | 512 | mit | timm |
eva02_large_patch14_clip_224.merged2b | 224 | - | - | 768 | mit | timm |
eva02_large_patch14_clip_336.merged2b | 336 | - | - | 768 | mit | timm |
eva_giant_patch14_clip_224.merged2b | 224 | - | - | 1024 | mit | timm |
sbb タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_base_patch16_rope_reg1_gap_256.sbb_in1k | 256 | 83.872 | 256 | 1000 | mit | timm |
vit_betwixt_patch16_rope_reg4_gap_256.sbb_in1k | 256 | 83.906 | 256 | 1000 | mit | timm |
vit_medium_patch16_rope_reg1_gap_256.sbb_in1k | 256 | 83.810 | 256 | 1000 | mit | timm |
vit_mediumd_patch16_rope_reg1_gap_256.sbb_in1k | 256 | 84.316 | 256 | 1000 | mit | timm |
密な空間知覚のためのビジョン事前学習
事前学習済み設定はVision Pretraining for Dense Spatial Perceptionを参照しています。
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_base_patch16_lingbot.robbyant | 512 | - | - | なし | apache-2.0 | belfner/vit_base_patch16_lingbot.robbyant |
vit_giant_patch16_lingbot.robbyant | 512 | - | - | なし | apache-2.0 | belfner/vit_giant_patch16_lingbot.robbyant |
vit_large_patch16_lingbot.robbyant | 512 | - | - | なし | apache-2.0 | belfner/vit_large_patch16_lingbot.robbyant |
vit_small_patch16_lingbot.robbyant | 512 | - | - | なし | apache-2.0 | belfner/vit_small_patch16_lingbot.robbyant |
eupe タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_base_patch16_dinov3_qkvb.eupe_lvd1689m | 256 | - | - | なし | fair-noncommercial-research-license | timm |
vit_small_patch16_dinov3_qkvb.eupe_lvd1689m | 256 | - | - | なし | fair-noncommercial-research-license | timm |
vit_tiny_patch16_dinov3_qkvb.eupe_lvd1689m | 256 | - | - | なし | fair-noncommercial-research-license | timm |
sat493m タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
vit_7b_patch16_dinov3.sat493m | 256 | - | - | なし | dinov3-license | timm |
vit_large_patch16_dinov3.sat493m | 256 | - | - | なし | dinov3-license | timm |
vit_large_patch16_dinov3_qkvb.sat493m | 256 | - | - | なし | dinov3-license | timm |
クリップタグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
eva_giant_patch14_224.clip_ft_in1k | 224 | 88.896 | 224 | 1000 | mit | timm |
eva_giant_patch14_336.clip_ft_in1k | 336 | 89.462 | 336 | 1000 | mit | timm |
laion2b タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
eva02_enormous_patch14_clip_224.laion2b | 224 | - | - | 1024 | mit | timm |
eva02_enormous_patch14_clip_224.laion2b_plus | 224 | - | - | 1024 | mit | timm |
m30m タグ
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
eva_giant_patch14_336.m30m_ft_in22k_in1k | 336 | 89.566 | 336 | 1000 | mit | timm |
eva_giant_patch14_560.m30m_ft_in22k_in1k | 560 | 89.790 | 560 | 1000 | mit | timm |
その他
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
eva_giant_patch14_clip_224.laion400m | 224 | - | - | 1024 | mit | timm |
引用
@article{EVA,
title={EVA: Exploring the Limits of Masked Visual Representation Learning at Scale},
author={Fang, Yuxin and Wang, Wen and Xie, Binhui and Sun, Quan and Wu, Ledell and Wang, Xinggang and Huang,
Tiejun and Wang, Xinlong and Cao, Yue},
journal={arXiv preprint arXiv:2211.07636},
year={2022}
}
@article{EVA02,
title={EVA-02: A Visual Representation for Neon Genesis},
author={Fang, Yuxin and Sun, Quan and Wang, Xinggang and Huang, Tiejun and Wang, Xinlong and Cao, Yue},
journal={arXiv preprint arXiv:2303.11331},
year={2023}
}
@article{bolya2025perception,
title={Perception encoder: The best visual embeddings are not at the output of the network},
author={Bolya, Daniel and Huang, Po-Yao and Sun, Peize and Cho, Jang Hyun and Madotto, Andrea and Wei, Chen and Ma,
Tengyu and Zhi, Jiale and Rajasegaran, Jathushan and Rasheed, Hanoona and others},
journal={arXiv preprint arXiv:2504.13181},
year={2025}
}
@inproceedings{heo2024rotary,
title={Rotary position embedding for vision transformer},
author={Heo, Byeongho and Park, Song and Han, Dongyoon and Yun, Sangdoo},
booktitle={European Conference on Computer Vision},
pages={289--305},
year={2024},
organization={Springer}
}
@article{simeoni2025dinov3,
title={{DINOv3}},
author={Sim{'e}oni, Oriane and Vo, Huy V. and Seitzer, Maximilian and Baldassarre, Federico and Oquab, Maxime
and Jose, Cijo and Khalidov, Vasil and Szafraniec, Marc and Yi, Seungeun and Ramamonjisoa, Micha{"e}l
and Massa, Francisco and Haziza, Daniel and Wehrstedt, Luca and Wang, Jianyuan and Darcet, Timoth{'e}e
and Moutakanni, Th{'e}o and Sentana, Leonel and Roberts, Claire and Vedaldi, Andrea and Tolan, Jamie
and Brandt, John and Couprie, Camille and Mairal, Julien and J{'e}gou, Herv{'e} and Labatut, Patrick
and Bojanowski, Piotr},
year={2025},
eprint={2508.10104},
url={https://arxiv.org/abs/2508.10104},
}
@article{lingbot-vision2026,
title={Vision Pretraining for Dense Spatial Perception},
author={Fu, Zelin and Tan, Bin and Sun, Changjiang and Liu, Shaohui and Zheng, Kecheng and Xu, Yinghao
and Zhu, Xing and Shen, Yujun and Xue, Nan},
journal={arXiv preprint arXiv:2607.05247},
year={2026}
}
@article{khirodkarsapiens2,
title={Sapiens2},
author={Khirodkar, Rawal and Wen, He and Martinez, Julieta and Dong, Yuan and Su, Zhaoen and Saito, Shunsuke},
journal={arXiv preprint arXiv:2604.21681},
year={2026}
}