L'inférence de diffusion 4 bits Nunchaku désormais disponible dans Diffusers

La communauté open-source de l'IA a reçu un coup de pouce significatif avec l'intégration de l'inférence de diffusion 4 bits de Nunchaku dans la bibliothèque Diffusers de Hugging Face. Cette avancée permet aux développeurs et chercheurs d'exécuter des modèles de diffusion, comme Stable Diffusion, en utilisant des poids quantifiés en 4 bits directement dans le pipeline Diffusers. En réduisant l'empreinte mémoire et la charge de calcul, Nunchaku permet une inférence plus rapide sur du matériel grand public sans perte substantielle de qualité de sortie. L'intégration simplifie le flux de travail pour les praticiens de l'IA, rendant les techniques de quantification avancées plus accessibles pour l'expérimentation et le déploiement dans des environnements aux ressources limitées.