overview
O que é o unsloth?
unsloth é um framework de código aberto desenvolvido pela Unsloth que permite a desenvolvedores, profissionais de ML e iniciantes realizar fine-tuning e executar grandes modelos de linguagem localmente. Ele acelera e otimiza significativamente o fine-tuning de LLM, tornando o processo mais rápido e eficiente em termos de memória sem comprometer a precisão. A plataforma, incluindo o Unsloth Studio, é uma biblioteca Python e uma UI web projetada para otimizar o fine-tuning de LLMs como Llama (versões 1, 2, 3), Mistral, Gemma e Phi-3. Isso é alcançado através de derivações matemáticas avançadas, kernels de GPU personalizados escritos na linguagem Triton da OpenAI, e técnicas otimizadas como Flash Attention 2, LoRA e QLoRA.
Desenvolvimentos recentes, a partir de março-abril de 2026, incluem aprimoramentos do Unsloth Studio, como suporte contínuo para Windows CPU/GPU, binários llama.cpp pré-compilados para instalações 6x mais rápidas e tamanhos de instalação 50% menores, e chamadas de ferramentas aprimoradas. O suporte ao Gemma 4 foi atualizado em abril de 2026, com o Unsloth treinando o Gemma 4 aproximadamente 1.5x mais rápido com cerca de 60% menos VRAM do que as configurações tradicionais. Atualizações adicionais em outubro de 2025 introduziram Reinforcement Learning (RL) mais rápido e com uso mais eficiente de memória, com 50% menos VRAM e 10x mais contexto, juntamente com Unsloth Flex Attention para gpt-oss, permitindo mais de 8x mais contexto e mais de 50% menos VRAM.