timm documentation

ResNetV2 (BiT)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

ResNetV2 (BiT)

Thể loại: CNN · Code: timm/models/resnetv2.py · Kiến trúc: 20 · Trọng số tiền huấn luyện: 24 (18 có kết quả trên ImageNet-1k)

ResNet (v2) với kích hoạt trước (pre-activation), sử dụng Group Normalization và Weight Standardization như trong Big Transfer (BiT), kèm theo trọng số BiT gốc. Cũng hỗ trợ biến thể không có kích hoạt trước (non pre-activation) được dùng làm bộ khung (backbone) của Vision Transformer lai (hybrid).

Bài báo

Cách sử dụng

Xem Quickstart để tải trọng số được huấn luyện trước, tiền xử lý ảnh và tinh chỉnh, và Feature Extraction để sử dụng các mô hình làm bộ xương sống.

>>> import timm
>>> model = timm.create_model('resnetv2_50.a1h_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Hỗ trợ API mô hình

Tính năngResNetV2
bản đồ đặc trưng features_only=True✓ (các bước nhảy 2, 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Bất kỳ kích thước đầu vào nào, không cần thay đổi✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Suy giảm LR theo lớp (group_matcher())✓
reset_classifier()✓

✓ được hỗ trợ, ✓ (vuông) chỉ hoạt động với kích thước vuông, ✗ không được hỗ trợ, – không cần thiết (mô hình đã chấp nhận bất kỳ kích thước đầu vào nào). Được kiểm tra bằng cách chạy từng tính năng trên một mô hình được khởi tạo ngẫu nhiên (ResNetV2 với resnetv2_18 ở 224), các kiến trúc khác cùng lớp được kỳ vọng sẽ hoạt động tương tự. Xem trang Model API để biết chi tiết.

Kiến trúc

Kiến trúcSố tham số (M)GMACsKích thước đầu vàoTrọng số được huấn luyện trước
resnetv2_1811.691.822241
resnetv2_18d11.712.062241
resnetv2_3421.803.672241
resnetv2_34d21.823.912242
resnetv2_5025.554.112241
resnetv2_50d25.574.352240
resnetv2_50d_evos25.594.332241
resnetv2_50d_frn25.594.332240
resnetv2_50d_gn25.574.382241
resnetv2_50t25.574.322240
resnetv2_50x1_bit25.554.232243
resnetv2_50x3_bit217.32145.704482
resnetv2_10144.547.832241
resnetv2_101d44.568.072240
resnetv2_101x1_bit44.5431.654482
resnetv2_101x3_bit387.93280.334482
resnetv2_15260.1911.552240
resnetv2_152d60.2011.802240
resnetv2_152x2_bit236.3446.952244
resnetv2_152x4_bit936.53844.844802

GMACs và số lượng tham số được tính cho kích thước đầu vào và bộ phân loại mặc định của mỗi kiến trúc, từ kết quả benchmark.

Trọng số được huấn luyện trước

Top-1 là độ chính xác kiểm tra trên ImageNet-1k từ results-imagenet.csv ở kích thước eval được liệt kê, - nếu trọng số không có kết quả ImageNet-1k (ví dụ trọng số pretraining hoặc image-text). Classes là kích thước của bộ phân loại được huấn luyện trước, không có đối với các trọng số không có bộ phân loại.

Trọng số được nhóm theo nguồn: bài báo hoặc nguồn gốc được nêu trong cấu hình tiền huấn luyện, nếu không thì một tổ chức Hub khác với timm, nếu không thì phần đầu của thẻ tiền huấn luyện (architecture.tag). Các nguồn chỉ có một trọng số được liệt kê dưới other.

goog tags

Trọng sốKích thước đầu vàoTop-1 (%)Kích thước đánh giáCác lớpGiấy phépHub
resnetv2_50x1_bit.goog_distilled_in1k22482.8202241000apache-2.0timm
resnetv2_50x1_bit.goog_in21k224--21843apache-2.0timm
resnetv2_50x1_bit.goog_in21k_ft_in1k44880.3864481000apache-2.0timm
resnetv2_50x3_bit.goog_in21k224--21843apache-2.0timm
resnetv2_50x3_bit.goog_in21k_ft_in1k44883.9824481000apache-2.0timm
resnetv2_101x1_bit.goog_in21k224--21843apache-2.0timm
resnetv2_101x1_bit.goog_in21k_ft_in1k44882.3324481000apache-2.0timm
resnetv2_101x3_bit.goog_in21k224--21843apache-2.0timm
resnetv2_101x3_bit.goog_in21k_ft_in1k44884.4304481000apache-2.0timm
resnetv2_152x2_bit.goog_in21k224--21843apache-2.0timm
resnetv2_152x2_bit.goog_in21k_ft_in1k44884.4684481000apache-2.0timm
resnetv2_152x2_bit.goog_teacher_in21k_ft_in1k22482.9182241000apache-2.0timm
resnetv2_152x2_bit.goog_teacher_in21k_ft_in1k_38438483.8583841000apache-2.0timm
resnetv2_152x4_bit.goog_in21k224--21843apache-2.0timm
resnetv2_152x4_bit.goog_in21k_ft_in1k48084.9364801000apache-2.0timm

ra4 tags

Trọng sốKích thước đầu vàoTop-1 (%)Kích thước đánh giáCác lớpGiấy phépHub
resnetv2_18.ra4_e3600_r224_in1k224 (test 288)75.3642881000apache-2.0timm
resnetv2_18d.ra4_e3600_r224_in1k224 (test 288)76.0582881000apache-2.0timm
resnetv2_34.ra4_e3600_r224_in1k224 (test 288)79.0702881000apache-2.0timm
resnetv2_34d.ra4_e3600_r224_in1k224 (test 288)79.6142881000apache-2.0timm
resnetv2_34d.ra4_e3600_r384_in1k384 (test 448)80.4304481000apache-2.0timm

a1h tags

Trọng sốKích thước đầu vàoTop-1 (%)Kích thước đánh giáCác lớpGiấy phépHub
resnetv2_50.a1h_in1k224 (test 288)81.4062881000apache-2.0timm
resnetv2_101.a1h_in1k224 (test 288)83.0022881000apache-2.0timm

ah tags

Trọng sốKích thước đầu vàoTop-1 (%)Kích thước đánh giáCác lớpGiấy phépHub
resnetv2_50d_evos.ah_in1k224 (test 288)82.0242881000apache-2.0timm
resnetv2_50d_gn.ah_in1k224 (test 288)81.9602881000apache-2.0timm
Update on GitHub