TinyViT

الفئة: هجينة · الكود: timm/models/tiny_vit.py · الهندسات: 5 · الأوزان المُسبقة التدريب: 11 (8 منها بنتائج على ImageNet-1k)

TinyViT هو عائلة من محولات الرؤية الهرمية الصغيرة (مرحلة أولى تجميعية، ثم انتباه نافذة محلية)، تم تدريبها مسبقًا عن طريق التقطير السريع من نماذج معلمة كبيرة.

الأوراق البحثية

• تايني فيت: تقطير ما قبل التدريب السريع لتحويلات الرؤية الصغيرة

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('tiny_vit_21m_512.dist_in22k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيأ عشوائياً (TinyVit مع tiny_vit_5m_224 عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة واجهة برمجة النموذج للتفاصيل.

البنى

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.