#qlora

LoRA y QLoRA: cómo hacer fine-tuning de LLMs sin necesitar un datacenter

Low-Rank Adaptation permite adaptar modelos grandes a dominios específicos entrenando menos del 1% de sus parámetros. Con QLoRA, cabe en una sola GPU de consumo. Aquí el estado del arte práctico.