timm documentation
ResNetV2 (BiT)
ResNetV2 (BiT)
Thể loại: CNN · Code: timm/models/resnetv2.py · Kiến trúc: 20 · Trọng số tiền huấn luyện: 24 (18 có kết quả trên ImageNet-1k)
ResNet (v2) với kích hoạt trước (pre-activation), sử dụng Group Normalization và Weight Standardization như trong Big Transfer (BiT), kèm theo trọng số BiT gốc. Cũng hỗ trợ biến thể không có kích hoạt trước (non pre-activation) được dùng làm bộ khung (backbone) của Vision Transformer lai (hybrid).
Bài báo
- Big Transfer (BiT): Học biểu diễn thị giác tổng quát
- Một hình ảnh đáng giá 16x16 từ: Transformers cho nhận dạng hình ảnh ở quy mô lớn
- Chưng cất tri thức: Một người thầy giỏi phải kiên nhẫn và nhất quán
- Các ánh xạ đồng nhất trong mạng dư sâu
Cách sử dụng
Xem Quickstart để tải trọng số được huấn luyện trước, tiền xử lý ảnh và tinh chỉnh, và Feature Extraction để sử dụng các mô hình làm bộ xương sống.
>>> import timm
>>> model = timm.create_model('resnetv2_50.a1h_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)Hỗ trợ API mô hình
✓ được hỗ trợ, ✓ (vuông) chỉ hoạt động với kích thước vuông, ✗ không được hỗ trợ, – không cần thiết (mô hình đã chấp nhận bất kỳ kích thước đầu vào nào). Được kiểm tra bằng cách chạy từng tính năng trên một mô hình được khởi tạo ngẫu nhiên (ResNetV2 với resnetv2_18 ở 224), các kiến trúc khác cùng lớp được kỳ vọng sẽ hoạt động tương tự. Xem trang Model API để biết chi tiết.
Kiến trúc
| Kiến trúc | Số tham số (M) | GMACs | Kích thước đầu vào | Trọng số được huấn luyện trước |
|---|---|---|---|---|
resnetv2_18 | 11.69 | 1.82 | 224 | 1 |
resnetv2_18d | 11.71 | 2.06 | 224 | 1 |
resnetv2_34 | 21.80 | 3.67 | 224 | 1 |
resnetv2_34d | 21.82 | 3.91 | 224 | 2 |
resnetv2_50 | 25.55 | 4.11 | 224 | 1 |
resnetv2_50d | 25.57 | 4.35 | 224 | 0 |
resnetv2_50d_evos | 25.59 | 4.33 | 224 | 1 |
resnetv2_50d_frn | 25.59 | 4.33 | 224 | 0 |
resnetv2_50d_gn | 25.57 | 4.38 | 224 | 1 |
resnetv2_50t | 25.57 | 4.32 | 224 | 0 |
resnetv2_50x1_bit | 25.55 | 4.23 | 224 | 3 |
resnetv2_50x3_bit | 217.32 | 145.70 | 448 | 2 |
resnetv2_101 | 44.54 | 7.83 | 224 | 1 |
resnetv2_101d | 44.56 | 8.07 | 224 | 0 |
resnetv2_101x1_bit | 44.54 | 31.65 | 448 | 2 |
resnetv2_101x3_bit | 387.93 | 280.33 | 448 | 2 |
resnetv2_152 | 60.19 | 11.55 | 224 | 0 |
resnetv2_152d | 60.20 | 11.80 | 224 | 0 |
resnetv2_152x2_bit | 236.34 | 46.95 | 224 | 4 |
resnetv2_152x4_bit | 936.53 | 844.84 | 480 | 2 |
GMACs và số lượng tham số được tính cho kích thước đầu vào và bộ phân loại mặc định của mỗi kiến trúc, từ kết quả benchmark.
Trọng số được huấn luyện trước
Top-1 là độ chính xác kiểm tra trên ImageNet-1k từ results-imagenet.csv ở kích thước eval được liệt kê, - nếu trọng số không có kết quả ImageNet-1k (ví dụ trọng số pretraining hoặc image-text). Classes là kích thước của bộ phân loại được huấn luyện trước, không có đối với các trọng số không có bộ phân loại.
Trọng số được nhóm theo nguồn: bài báo hoặc nguồn gốc được nêu trong cấu hình tiền huấn luyện, nếu không thì một tổ chức Hub khác với timm, nếu không thì phần đầu của thẻ tiền huấn luyện (architecture.tag). Các nguồn chỉ có một trọng số được liệt kê dưới
other.
goog tags
| Trọng số | Kích thước đầu vào | Top-1 (%) | Kích thước đánh giá | Các lớp | Giấy phép | Hub |
|---|---|---|---|---|---|---|
resnetv2_50x1_bit.goog_distilled_in1k | 224 | 82.820 | 224 | 1000 | apache-2.0 | timm |
resnetv2_50x1_bit.goog_in21k | 224 | - | - | 21843 | apache-2.0 | timm |
resnetv2_50x1_bit.goog_in21k_ft_in1k | 448 | 80.386 | 448 | 1000 | apache-2.0 | timm |
resnetv2_50x3_bit.goog_in21k | 224 | - | - | 21843 | apache-2.0 | timm |
resnetv2_50x3_bit.goog_in21k_ft_in1k | 448 | 83.982 | 448 | 1000 | apache-2.0 | timm |
resnetv2_101x1_bit.goog_in21k | 224 | - | - | 21843 | apache-2.0 | timm |
resnetv2_101x1_bit.goog_in21k_ft_in1k | 448 | 82.332 | 448 | 1000 | apache-2.0 | timm |
resnetv2_101x3_bit.goog_in21k | 224 | - | - | 21843 | apache-2.0 | timm |
resnetv2_101x3_bit.goog_in21k_ft_in1k | 448 | 84.430 | 448 | 1000 | apache-2.0 | timm |
resnetv2_152x2_bit.goog_in21k | 224 | - | - | 21843 | apache-2.0 | timm |
resnetv2_152x2_bit.goog_in21k_ft_in1k | 448 | 84.468 | 448 | 1000 | apache-2.0 | timm |
resnetv2_152x2_bit.goog_teacher_in21k_ft_in1k | 224 | 82.918 | 224 | 1000 | apache-2.0 | timm |
resnetv2_152x2_bit.goog_teacher_in21k_ft_in1k_384 | 384 | 83.858 | 384 | 1000 | apache-2.0 | timm |
resnetv2_152x4_bit.goog_in21k | 224 | - | - | 21843 | apache-2.0 | timm |
resnetv2_152x4_bit.goog_in21k_ft_in1k | 480 | 84.936 | 480 | 1000 | apache-2.0 | timm |
ra4 tags
| Trọng số | Kích thước đầu vào | Top-1 (%) | Kích thước đánh giá | Các lớp | Giấy phép | Hub |
|---|---|---|---|---|---|---|
resnetv2_18.ra4_e3600_r224_in1k | 224 (test 288) | 75.364 | 288 | 1000 | apache-2.0 | timm |
resnetv2_18d.ra4_e3600_r224_in1k | 224 (test 288) | 76.058 | 288 | 1000 | apache-2.0 | timm |
resnetv2_34.ra4_e3600_r224_in1k | 224 (test 288) | 79.070 | 288 | 1000 | apache-2.0 | timm |
resnetv2_34d.ra4_e3600_r224_in1k | 224 (test 288) | 79.614 | 288 | 1000 | apache-2.0 | timm |
resnetv2_34d.ra4_e3600_r384_in1k | 384 (test 448) | 80.430 | 448 | 1000 | apache-2.0 | timm |
a1h tags
| Trọng số | Kích thước đầu vào | Top-1 (%) | Kích thước đánh giá | Các lớp | Giấy phép | Hub |
|---|---|---|---|---|---|---|
resnetv2_50.a1h_in1k | 224 (test 288) | 81.406 | 288 | 1000 | apache-2.0 | timm |
resnetv2_101.a1h_in1k | 224 (test 288) | 83.002 | 288 | 1000 | apache-2.0 | timm |
ah tags
| Trọng số | Kích thước đầu vào | Top-1 (%) | Kích thước đánh giá | Các lớp | Giấy phép | Hub |
|---|---|---|---|---|---|---|
resnetv2_50d_evos.ah_in1k | 224 (test 288) | 82.024 | 288 | 1000 | apache-2.0 | timm |
resnetv2_50d_gn.ah_in1k | 224 (test 288) | 81.960 | 288 | 1000 | apache-2.0 | timm |