timm documentation

PVTv2

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

PVTv2

الفئة: ViT · الكود: timm/models/pvt_v2.py · الهندسات: 7 · الأوزان المُسبقة التدريب: 7 (7 منها بنتائج على ImageNet-1k)

Pyramid Vision Transformer v2، وهو محوّل هرمي مع انتباه اختزال مكاني (خطي في النسخة _li)، وتضمينات رقعات متداخلة وطبقات تغذية أمامية تلافيفية.

الأوراق البحثية

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('pvt_v2_b2.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

ميزةPyramidVisionTransformerV2
خرائط الميزات features_only=True✓ (خطوات 4، 8، 16، 32)
forward_intermediates()✓
prune_intermediate_layers()✓
أي حجم إدخال، دون الحاجة إلى أي تغييرات✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
تلاشي معدل التعلم على مستوى الطبقات (group_matcher())✓
reset_classifier()✓

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيأ عشوائياً (PyramidVisionTransformerV2 مع pvt_v2_b0 عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة واجهة برمجة النموذج للتفاصيل.

البنى

البنيةالمعاملات (مليون)GMACsحجم الإدخالالأوزان المُسبقة التدريب
pvt_v2_b03.670.572241
pvt_v2_b114.012.122241
pvt_v2_b225.364.052241
pvt_v2_b2_li22.553.912241
pvt_v2_b345.246.922241
pvt_v2_b462.5610.142241
pvt_v2_b581.9611.762241

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.

الوزنحجم الإدخالأعلى 1 (%)حجم التقييمفئاترخصةالمركز
pvt_v2_b0.in1k22470.6542241000apache-2.0timm
pvt_v2_b1.in1k22478.6982241000apache-2.0timm
pvt_v2_b2.in1k22482.0622241000apache-2.0timm
pvt_v2_b2_li.in1k22482.2002241000apache-2.0timm
pvt_v2_b3.in1k22483.1202241000apache-2.0timm
pvt_v2_b4.in1k22483.7102241000apache-2.0timm
pvt_v2_b5.in1k22483.7602241000apache-2.0timm

الاستشهاد

@misc{wang2021pvtv2,
      title={PVTv2: Improved Baselines with Pyramid Vision Transformer},
      author={Wenhai Wang and Enze Xie and Xiang Li and Deng-Ping Fan and Kaitao Song and Ding Liang and
        Tong Lu and Ping Luo and Ling Shao},
      year={2021},
      eprint={2106.13797},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}
Update on GitHub