Transformers documentation
Variables de entorno
Variables de entorno
Las variables booleanas aceptan 1, on, yes o true en cualquier combinación de mayúsculas y minúsculas. Cualquier otro valor, incluido el caso de no estar definido, se interpreta como falso.
La mayoría de estas variables se leen una sola vez, cuando se importa Transformers. Defínelas en tu shell antes de iniciar Python, o con os.environ antes de la importación. Cambiarlas después no tiene efecto.
TRANSFORMERS_VERBOSITY=info python run.py
La configuración de la caché y el acceso al Hub la gestionan las variables HF_* que posee huggingface_hub, como HF_HOME y HF_HUB_OFFLINE. Consulte Installation para el flujo de trabajo sin conexión.
Registro
Transformers registra en warning. Logging documenta la API de Python equivalente, incluida logging.set_verbosity().
| Variable | Valores | Descripción |
|---|---|---|
TRANSFORMERS_VERBOSITY | detail, debug, info, warning, error, critical | Nivel de registro de la biblioteca. detail equivale a debug y añade el nombre del archivo y el número de línea a cada mensaje. Un valor no reconocido emite una advertencia y recurre a warning. |
TRANSFORMERS_NO_ADVISORY_WARNINGS | boolean | Silencia las advertencias informativas, que son sugerencias de buenas prácticas que no indican un problema. |
Carga de modelos
Los fragmentos del checkpoint se cargan en paralelo de forma predeterminada.
| Variable | Valores | Descripción |
|---|---|---|
HF_DEACTIVATE_ASYNC_LOAD | boolean | Carga los fragmentos en el hilo principal en lugar de en un pool de hilos. Es más lento, pero la memoria pico es más fácil de predecir. La carga ya es secuencial cuando device_map descarga en disco o cuando se cuantiza sobre la marcha, por lo que esto solo afecta a las cargas que de otro modo serían paralelas. |
DISABLE_SAFETENSORS_CONVERSION | boolean | Evita que Transformers solicite al bot de conversión del Hub una versión en safetensors de un repositorio que solo incluye pesos de PyTorch .bin. Conviene configurarlo en CI, ya que la solicitud añade latencia y posibles fallos de red. |
Kernels y backends
Los kernels optimizados se descargan desde el Hub cuando kernels está instalado y el hardware los admite. Desactívalos para aislar una diferencia numérica o un error de ejecución.
| Variable | Valores | Descripción |
|---|---|---|
USE_HUB_KERNELS | boolean, habilitado por defecto | Establezca un valor falso para volver a las implementaciones de referencia. |
TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR | 1 | Fuerza el uso de la alternativa de Triton en lugar de DeepGEMM para las capas lineales FP8 en la cuantización FP8 de gran granularidad. |
TRANSFORMERS_DISABLE_TORCH_CHECK | 1 | Omite la comprobación de la versión mínima de PyTorch en la importación. |
TRANSFORMERS_SDPA_FORCE_GQA | 1 | Fuerza a PyTorch SDPA a usar enable_gqa=True para la atención de consultas agrupadas. De lo contrario, Transformers elige entre establecer enable_gqa=True y repetir las cabeceras de clave/valor. |
Update on GitHub
TRANSFORMERS_DISABLE_TORCH_CHECKelimina una salvaguarda en lugar de cambiar el comportamiento. En una versión de PyTorch no compatible, se producen errores de importación o resultados incorrectos de forma silenciosa, en lugar de un mensaje claro.