Ortam değişkenleri

Boolean değişkenler, büyük/küçük harf farkı gözetmeksizin 1, on, yes veya true değerlerini kabul eder. Bunların dışındaki her şey, ayarlanmamış değerler dahil, false olarak değerlendirilir.

Bu değişkenlerin çoğu, Transformers içe aktarıldığında bir kez okunur. Bunları Python'u başlatmadan önce kabuğunuzda (shell) ayarlayın ya da içe aktarma işleminden önce os.environ ile belirleyin. Sonradan yapılan değişikliklerin hiçbir etkisi yoktur.

TRANSFORMERS_VERBOSITY=info python run.py

Önbellekleme ve Hub erişimi, HF_* değişkenleri gibi huggingface_hub tarafından yönetilen HF_HOME ve HF_HUB_OFFLINE gibi değişkenlerle yapılandırılır. Çevrimdışı iş akışı için Installation bölümüne bakın.

Kayıt Tutma

Transformers, warning seviyesinde günlük tutar. Logging, logging.set_verbosity() dahil olmak üzere eşdeğer Python API'sini belgelemektedir.

Değişken	Değerler	Açıklama
`TRANSFORMERS_VERBOSITY`	`detail`, `debug`, `info`, `warning`, `error`, `critical`	Kütüphane günlük seviyesi. `detail`, `debug` ile eşleşir ve her mesaja dosya adını ve satır numarasını ekler. Tanınmayan bir değer uyarı verir ve `warning` değerine geri düşer.
`TRANSFORMERS_NO_ADVISORY_WARNINGS`	boolean	Sorun belirtmeyen en iyi uygulama ipuçları olan uyarı bildirimlerini sessize alır.

Model yükleme

Checkpoint parçaları varsayılan olarak paralel yüklenir.

Değişken	Değerler	Açıklama
`HF_DEACTIVATE_ASYNC_LOAD`	boolean	Parçaları (shards) bir iş parçacığı havuzu yerine ana iş parçacığında yükler. Daha yavaştır, ancak tepe bellek kullanımı hakkında akıl yürürken daha kolaydır. `device_map` diske aktarma (offload) yaptığında veya uçuşta (on the fly) nicelleştirme (quantization) yapıldığında yükleme zaten ardışık (sequential) olduğundan, bu ayar yalnızca aksi halde paralel olan yüklemeleri etkiler.
`DISABLE_SAFETENSORS_CONVERSION`	boolean	Sadece PyTorch `.bin` ağırlıkları içeren bir depoyu, Hub dönüşüm botundan safetensors sürümü istemeden durdurur. Bu isteğin gecikme ve ağ kararsızlığına yol açtığı CI ortamlarında ayarlanmaya değer.

Çekirdekler ve arka uçlar

kernels yüklendiğinde ve donanım bunları desteklediğinde, optimize edilmiş çekirdekler Hub'dan indirilir. Sayısal bir farkı veya bir çökme olayını izole etmek için bunları devre dışı bırakın.

Değişken	Değerler	Açıklama
`USE_HUB_KERNELS`	boolean, varsayılan olarak etkin	Referans uygulamalarına geri düşmek için false değerine ayarlayın.
`TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR`	`1`	İnce taneli FP8 kuantizasyonunda FP8 doğrusal katmanlar için DeepGEMM yerine Triton yedeğini zorlar.
`TRANSFORMERS_DISABLE_TORCH_CHECK`	`1`	İçe aktarma sırasında minimum PyTorch sürüm kontrolünü atlar.
`TRANSFORMERS_SDPA_FORCE_GQA`	`1`	PyTorch SDPA'nın gruplu sorgu dikkati için `enable_gqa=True` kullanmasını zorlar. Aksi takdirde Transformers, `enable_gqa=True` ayarını seçmek ile anahtar/değer başlıklarını tekrarlamak arasında seçim yapar.

TRANSFORMERS_DISABLE_TORCH_CHECK davranışı değiştirmek yerine bir korumayı kaldırır. Desteklenmeyen bir PyTorch sürümünde, net bir mesaj yerine içe aktarma hataları veya sessizce yanlış sonuçlar alırsınız.

Update on GitHub