Transformers documentation

ResNet

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.2).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Bu model 2015-12-10 tarihinde HF papers'ta yayımlanmış ve 2022-03-14 tarihinde Hugging Face Transformers'a katkıda bulunmuştur.

ResNet

Genel Bakış

ResNet modeli, Kaiming He, Xiangyu Zhang, Shaoqing Ren ve Jian Sun tarafından Deep Residual Learning for Image Recognition makalesinde önerilmiştir. Uygulamamız, Nvidia tarafından yapılan küçük değişiklikleri takip eder; örneğin, downsampling için stride=2 değerini ilk 1x1 katmanında değil, bottleneck’ün 3x3 conv katmanında uygularız. Bu yapı genel olarak “ResNet v1.5” olarak bilinir.

ResNet, artımsal bağlantılar (residual connections) tanıttı; bu bağlantılar, daha önce görülmemiş sayıda katmana (1000'e kadar) sahip ağların eğitilmesine olanak tanır. ResNet, 2015 ILSVRC & COCO yarışmasını kazanarak derin bilgisayarlı görüde önemli bir kilometre taşı olmuştur.

Makalenin özeti aşağıdaki gibidir:

Daha derin sinir ağları eğitilmesi daha zor olan yapılardır. Daha önce kullanılanlardan çok daha derin ağların eğitimini kolaylaştırmak için bir kalıntı öğrenme çerçevesi sunuyoruz. Katmanları, referanssız işlevler öğrenmek yerine, katman girdilerine referansla kalıntı işlevleri öğrenmek olarak açıkça yeniden formüle ediyoruz. Bu kalıntı ağlarının optimize edilmesinin daha kolay olduğunu ve derinlikte önemli ölçüde artış sağlandığında doğruluk kazanabildiğini gösteren kapsamlı ampirik kanıtlar sunuyoruz. ImageNet veri setinde, VGG ağlarından 8 kat daha derin ancak hâlâ daha düşük karmaşıklığa sahip, derinliği 152 katmana kadar çıkan kalıntı ağlarını değerlendiriyoruz. Bu kalıntı ağlarının bir ensemble'ı, ImageNet test setinde %3,57 hata oranına ulaşıyor. Bu sonuç, ILSVRC 2015 sınıflandırma görevinde 1. sırayı kazandı. Ayrıca CIFAR-10 üzerinde 100 ve 1000 katman için analiz sunuyoruz. Temsillerin derinliği, birçok görsel tanıma görevi için merkezi bir öneme sahiptir. Yalnızca son derece derin temsillerimiz sayesinde, COCO nesne algılama veri setinde %28'lik bir göreli iyileşme elde ediyoruz. Derin kalıntı ağları, ILSVRC & COCO 2015 yarışmalarına yaptığımız gönderimlerin temelini oluşturuyor; bu yarışmalarda ImageNet algılama, ImageNet konumlandırma, COCO algılama ve COCO segmentasyon görevlerinde de 1. sırayı kazandık.

Aşağıdaki şekil, ResNet mimarisini göstermektedir. orijinal makale'den alınmıştır.

Bu model Francesco tarafından katkıda bulunmuştur. Orijinal kod burada bulunabilir.

Kaynaklar

ResNet ile başlamanıza yardımcı olmak için resmi Hugging Face ve topluluk (🌎 ile belirtilen) kaynaklarının listesi.

Image Classification

Buraya bir kaynak eklemek isterseniz, bir Pull Request açmaktan çekinmeyin; inceleyeceğiz! Kaynağın, mevcut bir kaynağı tekrarlamak yerine ideal olarak yeni bir şeyi göstermesi beklenir.

ResNetConfig

sınıf transformers.ResNetConfig

< >

( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonenum_channels: int = 3embedding_size: int = 64hidden_sizes: list[int] | tuple[int, ...] | None = (256, 512, 1024, 2048)depths: list[int] | tuple[int, ...] | None = (3, 4, 6, 3)layer_type: str = 'bottleneck'hidden_act: str = 'relu'downsample_in_first_stage: bool = Falsedownsample_in_bottleneck: bool = False )

Parametreler

  • num_channels (int, isteğe bağlı, varsayılan 3) — Giriş kanal sayısı.
  • embedding_size (int, isteğe bağlı, varsayılan 64) — Gömme ve gizli durumların boyutluluğu.
  • hidden_sizes (Union[list[int], tuple[int, ...]], isteğe bağlı, varsayılan (256, 512, 1024, 2048)) — Modelin her aşamasındaki boyut (gizli boyut).
  • depths (Union[list[int], tuple[int, ...]], isteğe bağlı, varsayılan (3, 4, 6, 3)) — Transformer'daki her katmanın derinliği.
  • layer_type (str, isteğe bağlı, varsayılan "bottleneck") — Kullanılacak katman; daha küçük modellerde (resnet-18 veya resnet-34 gibi) "basic", daha büyük modellerde (resnet-50 ve üzeri gibi) ise "bottleneck" olabilir.
  • hidden_act (str, isteğe bağlı, varsayılan relu) — Çözücüdeki doğrusal olmayan aktivasyon fonksiyonu (fonksiyon veya dize). Örneğin, "gelu", "relu", "silu" vb.
  • downsample_in_first_stage (bool, isteğe bağlı, varsayılan False) — True ise, ilk aşama girdileri 2 stride kullanarak küçültür.
  • downsample_in_bottleneck (bool, isteğe bağlı, varsayılan False) — True ise, ResNetBottleNeckLayer'daki ilk 1x1 conv, girdileri stride değeri 2 olacak şekilde küçültür.

Bu, bir ResNetModel yapılandırmasını depolamak için kullanılan yapılandırma sınıfıdır. Belirtilen argümanlara göre bir Resnet modelinin örneklenmesi ve model mimarisinin tanımlanması için kullanılır. Varsayılan değerlerle bir yapılandırma örneklendiğinde, microsoft/resnet-50 ile benzer bir yapılandırma elde edilir.

Yapılandırma nesneleri PreTrainedConfig sınıfından devralır ve model çıktılarını kontrol etmek için kullanılabilir. Daha fazla bilgi için PreTrainedConfig belgesini okuyun.

Örnek:

>>> from transformers import ResNetConfig, ResNetModel

>>> # Initializing a ResNet resnet-50 style configuration
>>> configuration = ResNetConfig()

>>> # Initializing a model (with random weights) from the resnet-50 style configuration
>>> model = ResNetModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

validate_layer_type

< >

( )

layer_types'in doğru şekilde tanımlandığından emin olun.

ResNetModel

sınıf transformers.ResNetModel

< >

( config: ResNetConfig )

Parametreler

  • config (ResNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.

Üzerinde herhangi bir özel başlık olmadan ham gizli durumları (hidden-states) üreten çıplak Resnet Modeli.

Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.

Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.

forward

< >

( pixel_values: Tensoroutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → BaseModelOutputWithPoolingAndNoAttention or tuple(torch.Tensor)

Parametreler

  • pixel_values (torch.Tensor, şekli (batch_size, num_channels, image_size, image_size)) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri ConvNextImageProcessor kullanılarak elde edilebilir. Ayrıntılar için ConvNextImageProcessor.call() adresine bakın (processor_class, görüntü işleme için ConvNextImageProcessor kullanır).
  • output_hidden_states (bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındaki hidden_states bölümüne bakın.
  • return_dict (bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?

Dönüş değeri

BaseModelOutputWithPoolingAndNoAttention veya tuple(torch.Tensor)

BaseModelOutputWithPoolingAndNoAttention veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (ResNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.

ResNetModel forward metodu, __call__ özel metodunu geçersiz kılar.

İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine Module örneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.

  • last_hidden_state (torch.Tensor, şekli (batch_size, num_channels, height, width)) — Modelin son katmanının çıktısındaki gizli durumlar dizisi.

  • pooler_output (torch.Tensor, şekli (batch_size, hidden_size)) — Uzamsal boyutlar üzerinde bir havuzlama işleminden sonra son katman gizli durumu.

  • hidden_states (tuple(torch.Tensor), isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (modelin bir gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için birer tane) içeren, (batch_size, num_channels, height, width) biçiminde bir demet.

    Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.

Örnek:

ResNetForImageClassification

sınıf transformers.ResNetForImageClassification

< >

( config: ResNetConfig )

Parametreler

  • config (ResNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.

Üstünde bir görüntü sınıflandırma başlığı (havuzlanmış özelliklerin üzerinde doğrusal bir katman) bulunan ResNet modeli, örneğin ImageNet için.

Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.

Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → ImageClassifierOutputWithNoAttention or tuple(torch.Tensor)

Parametreler

  • pixel_values (torch.Tensor, şekli (batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri ConvNextImageProcessor kullanılarak elde edilebilir. Ayrıntılar için ConvNextImageProcessor.call() bölümüne bakın (processor_class, görüntüleri işlemek için ConvNextImageProcessor kullanır).
  • labels (torch.LongTensor, şekli (batch_size,), isteğe bağlı) — Görüntü sınıflandırma/geri dönüşüm kaybını hesaplamak için etiketler. Endeksler [0, ..., config.num_labels - 1] aralığında olmalıdır. config.num_labels > 1 ise bir sınıflandırma kaybı (Cross-Entropy) hesaplanır.
  • output_hidden_states (bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındaki hidden_states bölümüne bakın.
  • return_dict (bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?

Dönüş değeri

ImageClassifierOutputWithNoAttention veya tuple(torch.Tensor)

A ImageClassifierOutputWithNoAttention veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (ResNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.

ResNetForImageClassification forward metodu, __call__ özel metodunu geçersiz kılar.

İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine Module örneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.

  • loss (torch.Tensor, şekli (1,), isteğe bağlı, labels sağlandığında döndürülür) — Sınıflandırma (config.num_labels==1 ise regresyon) kaybı.
  • logits (torch.Tensor, şekli (batch_size, config.num_labels)) — Sınıflandırma (veya config.num_labels==1 ise regresyon) puanları (SoftMax öncesi).
  • hidden_states (tuple(torch.Tensor), isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (modelin bir gömme katmanı varsa gömme katmanının çıktısı için bir tane + her aşamanın çıktısı için birer tane) içeren bir tuple, şekli (batch_size, num_channels, height, width). Modelin her aşamanın çıktısındaki gizli durumları (aynı zamanda özellik haritaları olarak da adlandırılır).

Örnek:

>>> from transformers import AutoImageProcessor, ResNetForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/resnet-50")
>>> model = ResNetForImageClassification.from_pretrained("microsoft/resnet-50")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...
Update on GitHub