timm documentation
PVTv2
PVTv2
الفئة: ViT · الكود: timm/models/pvt_v2.py · الهندسات: 7 · الأوزان المُسبقة التدريب: 7 (7 منها بنتائج على ImageNet-1k)
Pyramid Vision Transformer v2، وهو محوّل هرمي مع انتباه اختزال مكاني (خطي في النسخة _li)، وتضمينات رقعات متداخلة وطبقات تغذية أمامية تلافيفية.
الأوراق البحثية
الاستخدام
راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.
>>> import timm
>>> model = timm.create_model('pvt_v2_b2.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)دعم واجهة برمجة التطبيقات للنماذج
| ميزة | PyramidVisionTransformerV2 |
|---|---|
خرائط الميزات features_only=True | ✓ (خطوات 4، 8، 16، 32) |
forward_intermediates() | ✓ |
prune_intermediate_layers() | ✓ |
| أي حجم إدخال، دون الحاجة إلى أي تغييرات | ✓ |
set_input_size() | – |
dynamic_img_size=True | – |
set_grad_checkpointing() | ✓ |
تلاشي معدل التعلم على مستوى الطبقات (group_matcher()) | ✓ |
reset_classifier() | ✓ |
✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيأ عشوائياً (PyramidVisionTransformerV2 مع pvt_v2_b0 عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة واجهة برمجة النموذج للتفاصيل.
البنى
| البنية | المعاملات (مليون) | GMACs | حجم الإدخال | الأوزان المُسبقة التدريب |
|---|---|---|---|---|
pvt_v2_b0 | 3.67 | 0.57 | 224 | 1 |
pvt_v2_b1 | 14.01 | 2.12 | 224 | 1 |
pvt_v2_b2 | 25.36 | 4.05 | 224 | 1 |
pvt_v2_b2_li | 22.55 | 3.91 | 224 | 1 |
pvt_v2_b3 | 45.24 | 6.92 | 224 | 1 |
pvt_v2_b4 | 62.56 | 10.14 | 224 | 1 |
pvt_v2_b5 | 81.96 | 11.76 | 224 | 1 |
تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.
الأوزان المُسبقة التدريب
Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.
| الوزن | حجم الإدخال | أعلى 1 (%) | حجم التقييم | فئات | رخصة | المركز |
|---|---|---|---|---|---|---|
pvt_v2_b0.in1k | 224 | 70.654 | 224 | 1000 | apache-2.0 | timm |
pvt_v2_b1.in1k | 224 | 78.698 | 224 | 1000 | apache-2.0 | timm |
pvt_v2_b2.in1k | 224 | 82.062 | 224 | 1000 | apache-2.0 | timm |
pvt_v2_b2_li.in1k | 224 | 82.200 | 224 | 1000 | apache-2.0 | timm |
pvt_v2_b3.in1k | 224 | 83.120 | 224 | 1000 | apache-2.0 | timm |
pvt_v2_b4.in1k | 224 | 83.710 | 224 | 1000 | apache-2.0 | timm |
pvt_v2_b5.in1k | 224 | 83.760 | 224 | 1000 | apache-2.0 | timm |
الاستشهاد
@misc{wang2021pvtv2,
title={PVTv2: Improved Baselines with Pyramid Vision Transformer},
author={Wenhai Wang and Enze Xie and Xiang Li and Deng-Ping Fan and Kaitao Song and Ding Liang and
Tong Lu and Ping Luo and Ling Shao},
year={2021},
eprint={2106.13797},
archivePrefix={arXiv},
primaryClass={cs.CV}
}