timm documentation

NFNet

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

NFNet

Категория: CNN · Код: timm/models/nfnet.py · Архитектуры: 36 · Предобученные веса: 14 (14 с результатами на ImageNet-1k)

Сети Normalization-Free, обучаемые без батч-нормализации с использованием масштабированной стандартизации весов: модели NFNet (с адаптивным обрезанием градиентов), NF-RegNet и pre-activation NF-ResNet.

Статьи

Использование

См. раздел Быстрый старт для загрузки предобученных весов, предобработки изображений и дообучения, а также раздел Извлечение признаков для использования моделей в качестве базовых архитектур.

>>> import timm
>>> model = timm.create_model('nf_resnet50.ra2_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Поддержка Model API

ВозможностьNormFreeNet
карты признаков features_only=True✓ (шаги 2, 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Любой размер входных данных, изменения не требуются✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Послойное затухание LR (group_matcher())✓
reset_classifier()✓

✓ поддерживается, ✓ (квадрат) работает только для квадратных размеров, ✗ не поддерживается, – не требуется (модель уже принимает входные данные любого размера). Проверено путём запуска каждой функции на случайно инициализированной модели (NormFreeNet с nf_regnet_b0 при 192); ожидается, что другие архитектуры того же класса будут вести себя аналогично. Подробности см. на странице Model API.

Архитектуры

АрхитектураПараметры (млн)GMACsРазмер входных данныхПредобученные веса
dm_nfnet_f071.497.211921
dm_nfnet_f1132.6317.872241
dm_nfnet_f2193.7833.762561
dm_nfnet_f3254.9268.773201
dm_nfnet_f4316.07122.143841
dm_nfnet_f5377.21170.714161
dm_nfnet_f6438.36229.704481
eca_nfnet_l024.144.352241
eca_nfnet_l141.419.622561
eca_nfnet_l256.7220.953201
eca_nfnet_l372.0432.573520
nf_ecaresnet2616.002.412240
nf_ecaresnet5025.564.212240
nf_ecaresnet10144.558.012240
nf_regnet_b08.760.371920
nf_regnet_b110.220.822561
nf_regnet_b214.310.972400
nf_regnet_b318.591.672880
nf_regnet_b430.213.293200
nf_regnet_b549.747.953840
nf_resnet2616.002.412240
nf_resnet5025.565.462561
nf_resnet10144.558.012240
nf_seresnet2617.402.412240
nf_seresnet5028.094.212240
nf_seresnet10149.338.022240
nfnet_f071.497.211920
nfnet_f1132.6317.872240
nfnet_f2193.7833.762560
nfnet_f3254.9268.773200
nfnet_f4316.07122.143840
nfnet_f5377.21170.714160
nfnet_f6438.36229.704480
nfnet_f7499.50300.084800
nfnet_l035.074.362241
test_nfnet0.380.291601

GMACs и количество параметров указаны для размера входных данных и классификатора по умолчанию для каждой архитектуры, согласно результатам бенчмарков.

Предобученные веса

Top-1 — это точность на валидационном наборе ImageNet-1k из results-imagenet.csv для указанного размера оценки, - если для весов нет результата ImageNet-1k (например, веса для предобучения или изображения-текст). Classes — размер предобученного классификатора, none для весов без классификатора.

Веса группируются по источнику: статья или происхождение, указанные в конфигурации предобученной модели, иначе организация на Hugging Face, отличная от timm, иначе первая часть тега предобученной модели (architecture.tag). Источники с одним весом перечислены в разделе other.

dm tags

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
dm_nfnet_f0.dm_in1k192 (тест 256)83.4682561000apache-2.0timm
dm_nfnet_f1.dm_in1k224 (тест 320)84.7003201000apache-2.0timm
dm_nfnet_f2.dm_in1k256 (тест 352)85.1843521000apache-2.0timm
dm_nfnet_f3.dm_in1k320 (тест 416)85.6764161000apache-2.0timm
dm_nfnet_f4.dm_in1k384 (тест 512)85.8385121000apache-2.0timm
dm_nfnet_f5.dm_in1k416 (тест 544)86.1025441000apache-2.0timm
dm_nfnet_f6.dm_in1k448 (тест 576)86.3645761000apache-2.0timm

ra2 теги

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
eca_nfnet_l0.ra2_in1k224 (тест 288)82.5902881000apache-2.0timm
eca_nfnet_l1.ra2_in1k256 (тест 320)84.0623201000apache-2.0timm
nf_regnet_b1.ra2_in1k256 (тест 288)79.3682881000apache-2.0timm
nf_resnet50.ra2_in1k256 (тест 288)80.6582881000apache-2.0timm
nfnet_l0.ra2_in1k224 (тест 288)82.7662881000apache-2.0timm

Другое

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
eca_nfnet_l2.ra3_in1k320 (тест 384)84.7103841000apache-2.0timm
test_nfnet.r160_in1k16047.6341601000apache-2.0timm
Update on GitHub