La inferencia de difusión de 4 bits de Nunchaku ya está disponible en Diffusers

La comunidad de IA de código abierto ha recibido un impulso significativo con la integración de la inferencia de difusión de 4 bits de Nunchaku en la biblioteca Diffusers de Hugging Face. Este desarrollo permite a desarrolladores e investigadores ejecutar modelos de difusión, como Stable Diffusion, utilizando pesos cuantizados de 4 bits directamente dentro del pipeline de Diffusers. Al reducir la huella de memoria y la carga computacional, Nunchaku permite una inferencia más rápida en hardware de consumo sin una pérdida sustancial en la calidad de salida. La integración simplifica el flujo de trabajo para los profesionales de la IA, haciendo que las técnicas avanzadas de cuantización sean más accesibles para la experimentación y el despliegue en entornos con recursos limitados.