timm documentation

EfficientViT (MIT)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

EfficientViT (MIT)

Thể loại: Efficient/Mobile · Code: timm/models/efficientvit_mit.py · Kiến trúc: 7 · Trọng số tiền huấn luyện: 19 (19 có kết quả ImageNet-1k)

EfficientViT từ MIT Han Lab, một bộ khung thị giác cho nhận diện độ phân giải cao, tính toán thấp, sử dụng chú ý tuyến tính đa tỷ lệ.

Bài báo

Cách sử dụng

Xem Quickstart để tải trọng số được huấn luyện trước, tiền xử lý ảnh và tinh chỉnh, và Feature Extraction để sử dụng các mô hình làm bộ xương sống.

>>> import timm
>>> model = timm.create_model('efficientvit_b2.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Hỗ trợ API mô hình

Tính năngEfficientVitEfficientVitLarge
bản đồ đặc trưng features_only=True✓ (các bước nhảy 4, 8, 16, 32)✓ (các bước nhảy 4, 8, 16, 32)
forward_intermediates()✓✓
prune_intermediate_layers()✓✓
Bất kỳ kích thước đầu vào nào, không cần thay đổi✓✓
set_input_size()––
dynamic_img_size=True––
set_grad_checkpointing()✓✓
Suy giảm LR theo lớp (group_matcher())✓✓
reset_classifier()✓✓

✓ được hỗ trợ, ✓ (vuông) chỉ hoạt động với kích thước vuông, ✗ không được hỗ trợ, – không cần thiết (mô hình đã chấp nhận bất kỳ kích thước đầu vào nào). Được kiểm tra bằng cách chạy từng tính năng trên một mô hình được khởi tạo ngẫu nhiên (EfficientVit với efficientvit_b0 ở 224, EfficientVitLarge với efficientvit_l1 ở 224), các kiến trúc khác cùng lớp được kỳ vọng sẽ hoạt động tương tự. Xem trang Model API để biết chi tiết.

Kiến trúc

Kiến trúcLớpSố tham số (M)GMACsKích thước đầu vàoTrọng số được huấn luyện trước
efficientvit_b0EfficientVit3.410.102241
efficientvit_b1EfficientVit9.100.532243
efficientvit_b2EfficientVit24.331.602243
efficientvit_b3EfficientVit48.653.992243
efficientvit_l1EfficientVitLarge52.655.272241
efficientvit_l2EfficientVitLarge63.716.972244
efficientvit_l3EfficientVitLarge246.0427.622244

GMACs và số lượng tham số được tính cho kích thước đầu vào và bộ phân loại mặc định của mỗi kiến trúc, từ kết quả benchmark.

Trọng số được huấn luyện trước

Top-1 là độ chính xác kiểm tra trên ImageNet-1k từ results-imagenet.csv ở kích thước eval được liệt kê, - nếu trọng số không có kết quả ImageNet-1k (ví dụ trọng số pretraining hoặc image-text). Classes là kích thước của bộ phân loại được huấn luyện trước, không có đối với các trọng số không có bộ phân loại.

Trọng sốKích thước đầu vàoTop-1 (%)Kích thước đánh giáCác lớpGiấy phépHub
efficientvit_b0.r224_in1k22471.4082241000apache-2.0timm
efficientvit_b1.r224_in1k22479.2542241000apache-2.0timm
efficientvit_b1.r256_in1k25679.7342561000apache-2.0timm
efficientvit_b1.r288_in1k28880.3222881000apache-2.0timm
efficientvit_b2.r224_in1k22482.1622241000apache-2.0timm
efficientvit_b2.r256_in1k25682.7122561000apache-2.0timm
efficientvit_b2.r288_in1k28883.0782881000apache-2.0timm
efficientvit_b3.r224_in1k22483.4442241000apache-2.0timm
efficientvit_b3.r256_in1k25683.7822561000apache-2.0timm
efficientvit_b3.r288_in1k28884.1622881000apache-2.0timm
efficientvit_l1.r224_in1k22484.4642241000apache-2.0timm
efficientvit_l2.r224_in1k22485.0462241000apache-2.0timm
efficientvit_l2.r256_in1k25685.3802561000apache-2.0timm
efficientvit_l2.r288_in1k28885.6142881000apache-2.0timm
efficientvit_l2.r384_in1k38485.9843841000apache-2.0timm
efficientvit_l3.r224_in1k22485.8102241000apache-2.0timm
efficientvit_l3.r256_in1k25685.9522561000apache-2.0timm
efficientvit_l3.r320_in1k32086.2303201000apache-2.0timm
efficientvit_l3.r384_in1k38486.3963841000apache-2.0timm
Update on GitHub