timm documentation

MambaOut

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MambaOut

카테고리: CNN · 코드: timm/models/mambaout.py · 아키텍처: 11 · 프리트레인드 가중치: 12 (ImageNet-1k 결과가 포함된 11개)

MambaOut은 상태 공간 모델(SSM) 토크 믹서가 없는 Mamba 블록과 Gated CNN 블록을 적층하여, 이미지 분류에 SSM이 필요한지 여부를 테스트합니다.

논문

사용

사전 학습된 가중치 로드, 이미지 전처리 및 파인튜닝에 대해서는 Quickstart를, 모델을 백본으로 사용하는 방법에 대해서는 Feature Extraction을 참고하세요.

>>> import timm
>>> model = timm.create_model('mambaout_tiny.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

모델 API 지원

기능MambaOut
features_only=True feature map✓ (strides 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
입력 크기 무관, 변경 불필요✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
레이어별 LR 감쇠(group_matcher())✓
reset_classifier()✓

✓ 지원됨, ✓ (square) 정사각형 크기만 지원됨, ✗ 미지원, – 필요 없음(모델이 이미 모든 입력 크기를 허용함). 무작위로 초기화된 모델(MambaOut을 mambaout_femto 224로)에서 각 기능을 실행하여 확인했습니다. 같은 클래스의 다른 아키텍처도 동일한 동작을 하는 것으로 예상됩니다. 자세한 내용은 Model API 페이지를 참조하세요.

아키텍처

아키텍처매개변수 (M)GMAC입력 크기사전 학습된 가중치
mambaout_base84.8115.832241
mambaout_base_plus_rw101.6619.192243
mambaout_base_short_rw88.8316.312241
mambaout_base_tall_rw86.4816.152241
mambaout_base_wide_rw94.4517.782241
mambaout_femto7.301.162241
mambaout_kobe9.141.522241
mambaout_small48.498.962241
mambaout_small_rw48.508.962241
mambaout_tiny26.554.492241
test_mambaout0.450.031600

GMACs와 매개변수 수는 각 아키텍처의 기본 입력 크기 및 분류기에 대한 값이며, 벤치마크 결과에서 가져왔습니다.

사전 학습된 가중치

Top-1은 results-imagenet.csv에 나열된 평가 크기에서 측정된 ImageNet-1k 검증 정확도입니다. - 가중치에 ImageNet-1k 결과가 없는 경우(예: 사전 학습 또는 이미지-텍스트 가중치)에는 표시하지 않습니다. Classes는 사전 학습된 분류기의 크기를 나타내며, 분류기가 없는 가중치의 경우 none입니다.

가중치입력 크기Top-1(%)평가 크기클래스라이선스Hub
mambaout_base.in1k224 (테스트 288)84.7302881000apache-2.0timm
mambaout_base_plus_rw.sw_e150_in12k224 (테스트 288)--11821apache-2.0timm
mambaout_base_plus_rw.sw_e150_in12k_ft_in1k224 (테스트 288)86.9162881000apache-2.0timm
mambaout_base_plus_rw.sw_e150_r384_in12k_ft_in1k38487.5083841000apache-2.0timm
mambaout_base_short_rw.sw_e500_in1k224 (테스트 288)84.8422881000apache-2.0timm
mambaout_base_tall_rw.sw_e500_in1k224 (테스트 288)84.9882881000apache-2.0timm
mambaout_base_wide_rw.sw_e500_in1k224 (테스트 288)84.9662881000apache-2.0timm
mambaout_femto.in1k224 (테스트 288)79.9122881000apache-2.0timm
mambaout_kobe.in1k224 (테스트 288)81.0642881000apache-2.0timm
mambaout_small.in1k224 (테스트 288)84.5122881000apache-2.0timm
mambaout_small_rw.sw_e450_in1k224 (테스트 288)84.6042881000apache-2.0timm
mambaout_tiny.in1k224 (테스트 288)83.4522881000apache-2.0timm
Update on GitHub