timm documentation

CoaT

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

CoaT

الفئة: هجينة · الكود: timm/models/coat.py · الهندسات: 8 · الأوزان المُسبقة التدريب: 8 (8 منها بنتائج على ImageNet-1k)

تستخدم محولات الصور الانتباهية التلافيفية متعددة المقاييس (CoaT) انتباهًا مُفكَّكًا مع ترميزات موضع نسبي مبنية على الالتفاف، وآلية مقاييس مشتركة تتبادل المعلومات بين كتل متوازية على مقاييس مختلفة.

الأوراق البحثية

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('coat_small.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

ميزةCoaT
خرائط الميزات features_only=True✓ (خطوات 4، 8، 16، 32)
forward_intermediates()✓
prune_intermediate_layers()✓
أي حجم إدخال، دون الحاجة إلى أي تغييرات✗
set_input_size()✗
dynamic_img_size=True✗
set_grad_checkpointing()✗
تلاشي معدل التعلم على مستوى الطبقات (group_matcher())✓
reset_classifier()✓

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيأ عشوائياً (CoaT مع coat_tiny عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة Model API للتفاصيل.

البنى

البنيةالمعاملات (مليون)GMACsحجم الإدخالالأوزان المُسبقة التدريب
coat_lite_medium44.579.812241
coat_lite_medium_38444.5728.733841
coat_lite_mini11.012.002241
coat_lite_small19.843.962241
coat_lite_tiny5.721.602241
coat_mini10.346.822241
coat_small21.6912.612241
coat_tiny5.504.352241

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.

الوزنحجم الإدخالأعلى 1 (%)حجم التقييمفئاترخصةالمركز
coat_lite_medium.in1k22483.6022241000apache-2.0timm
coat_lite_medium_384.in1k38484.8903841000apache-2.0timm
coat_lite_mini.in1k22479.1042241000apache-2.0timm
coat_lite_small.in1k22482.3042241000apache-2.0timm
coat_lite_tiny.in1k22477.5482241000apache-2.0timm
coat_mini.in1k22481.3202241000apache-2.0timm
coat_small.in1k22482.3782241000apache-2.0timm
coat_tiny.in1k22478.4422241000apache-2.0timm
Update on GitHub