BYOANet (BoTNet, HaloNet, LambdaNet)

Thể loại: Hybrid · Mã: timm/models/byoanet.py · Kiến trúc: 15 · Trọng số tiền huấn luyện: 13 (13 có kết quả ImageNet-1k)

Các mạng được xây dựng bằng hệ thống cấu hình khối/giai đoạn ByobNet mà đặt các lớp self-attention (hoặc tương tự) trong các giai đoạn kiểu ResNet: Bottleneck Transformers (BoTNet), HaloNets và Lambda ResNets. Docstring của module đánh dấu các định nghĩa này là thử nghiệm.

Bài báo

Cách sử dụng

Xem Quickstart để tải trọng số được huấn luyện trước, tiền xử lý ảnh và tinh chỉnh, và Feature Extraction để sử dụng các mô hình làm bộ xương sống.

>>> import timm
>>> model = timm.create_model('halonet50ts.a1h_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Hỗ trợ API mô hình

Tính năng	`ByobNet`
bản đồ đặc trưng `features_only=True`	✓ (các bước nhảy 2, 4, 8, 16, 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
Bất kỳ kích thước đầu vào nào, không cần thay đổi	✗
`set_input_size()`	✗
`dynamic_img_size=True`	✗
`set_grad_checkpointing()`	✓
Suy giảm LR theo lớp (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ được hỗ trợ, ✓ (vuông) chỉ hoạt động với kích thước vuông, ✗ không được hỗ trợ, – không cần thiết (mô hình đã chấp nhận bất kỳ kích thước đầu vào nào). Được kiểm tra bằng cách chạy từng tính năng trên một mô hình được khởi tạo ngẫu nhiên (ByobNet với halonet_h1 ở 256), các kiến trúc khác cùng lớp được kỳ vọng sẽ hoạt động tương tự. Xem trang Model API để biết chi tiết.

Kiến trúc

Kiến trúc	Số tham số (M)	GMACs	Kích thước đầu vào	Trọng số được huấn luyện trước
`botnet26t_256`	12.49	3.32	256	1
`botnet50ts_256`	22.74	5.54	256	0
`eca_botnext26ts_256`	10.59	2.46	256	1
`eca_halonext26ts`	10.76	2.44	256	1
`halo2botnet50ts_256`	22.64	5.02	256	1
`halonet26t`	12.48	3.19	256	1
`halonet50ts`	22.73	5.30	256	1
`halonet_h1`	8.10	3.00	256	0
`haloregnetz_b`	11.68	1.97	224	1
`lambda_resnet26rpt_256`	10.99	3.16	256	1
`lambda_resnet26t`	10.96	3.02	256	1
`lambda_resnet50ts`	21.54	5.07	256	1
`lamhalobotnet50ts_256`	22.57	5.02	256	1
`sebotnet33ts_256`	13.70	3.89	256	1
`sehalonet33ts`	13.69	3.55	256	1

GMACs và số lượng tham số được tính cho kích thước đầu vào và bộ phân loại mặc định của mỗi kiến trúc, từ kết quả benchmark.

Trọng số được huấn luyện trước

Top-1 là độ chính xác kiểm tra trên ImageNet-1k từ results-imagenet.csv ở kích thước eval được liệt kê, - nếu trọng số không có kết quả ImageNet-1k (ví dụ trọng số pretraining hoặc image-text). Classes là kích thước của bộ phân loại được huấn luyện trước, không có đối với các trọng số không có bộ phân loại.

Trọng số được nhóm theo nguồn: bài báo hoặc nguồn gốc được nêu trong cấu hình tiền huấn luyện, nếu không thì một tổ chức Hub khác với timm, nếu không thì phần đầu của thẻ tiền huấn luyện (architecture.tag). Các nguồn chỉ có một trọng số được liệt kê dưới other.

a1h tags

Trọng số	Kích thước đầu vào	Top-1 (%)	Kích thước đánh giá	Các lớp	Giấy phép	Hub
`halo2botnet50ts_256.a1h_in1k`	256	82.084	256	1000	apache-2.0	timm
`halonet26t.a1h_in1k`	256	79.134	256	1000	apache-2.0	timm
`halonet50ts.a1h_in1k`	256	81.640	256	1000	apache-2.0	timm
`lambda_resnet50ts.a1h_in1k`	256	81.184	256	1000	apache-2.0	timm
`lamhalobotnet50ts_256.a1h_in1k`	256	81.552	256	1000	apache-2.0	timm
`sebotnet33ts_256.a1h_in1k`	256	81.156	256	1000	apache-2.0	timm

c1 thẻ

Trọng số	Kích thước đầu vào	Top-1 (%)	Kích thước đánh giá	Các lớp	Giấy phép	Hub
`botnet26t_256.c1_in1k`	256	79.256	256	1000	apache-2.0	timm
`eca_botnext26ts_256.c1_in1k`	256	79.262	256	1000	apache-2.0	timm
`eca_halonext26ts.c1_in1k`	256	79.518	256	1000	apache-2.0	timm
`lambda_resnet26rpt_256.c1_in1k`	256	78.960	256	1000	apache-2.0	timm
`lambda_resnet26t.c1_in1k`	256	79.126	256	1000	apache-2.0	timm

Khác

Trọng số	Kích thước đầu vào	Top-1 (%)	Kích thước đánh giá	Các lớp	Giấy phép	Hub
`haloregnetz_b.ra3_in1k`	224	81.058	224	1000	apache-2.0	timm
`sehalonet33ts.ra2_in1k`	256	80.976	256	1000	apache-2.0	timm

Update on GitHub