Что это
Unsloth — открытый фреймворк для дообучения (fine-tuning) и локального запуска больших языковых моделей на обычном железе, включая одну потребительскую видеокарту. Поддерживает более 500 моделей: Llama, Qwen, Gemma, DeepSeek, Mistral, gpt-oss и другие, а также vision- и audio-модели и эмбеддинги. Заявленное ускорение обучения — до 2 раз, экономия видеопамяти — до 70% по сравнению со стандартным fine-tuning, за счёт собственных ядер и оптимизаций для LoRA, QLoRA, полного дообучения, RL и претрейна в 4-bit, 16-bit и FP8.
Есть отдельный веб-интерфейс Unsloth Studio для тренировки моделей без кода: можно скормить PDF, CSV или JSON и получить готовый датасет, следить за loss и загрузкой GPU в реальном времени, а затем экспортировать модель в GGUF, safetensors или сразу под llama.cpp, vLLM, Ollama. Ядро (Unsloth) распространяется под Apache 2.0, Studio — под AGPL-3.0.
Для участника клуба полезен тем, кто хочет дообучить модель под свою задачу (например, узкоспециализированного ассистента для контента или автоматизации) без аренды дорогих облачных GPU-кластеров — обучение реально запустить на своём компьютере или на одной арендованной видеокарте. Подходит и для вайб-кодинга: готовые ноутбуки и CLI ускоряют эксперименты с моделями без глубокого знания ML-инженерии.
Возможности
- Дообучение LoRA, QLoRA, full fine-tuning, RL и претрейн в 4-bit/16-bit/FP8
- Поддержка 500+ моделей: Llama, Qwen, Gemma, DeepSeek, Mistral, gpt-oss и другие
- Заявленное ускорение обучения до 2x и экономия VRAM до 70% на одной GPU
- Веб-интерфейс Unsloth Studio: без кода, датасеты из PDF/CSV/JSON, графики loss и GPU в реальном времени
- Экспорт моделей в GGUF, safetensors, интеграция с llama.cpp, vLLM, Ollama
- Поддержка vision- и audio-моделей, а также дообучения эмбеддингов
- Multi-GPU обучение и OpenAI-совместимый API для инференса
- Открытый код ядра (Apache 2.0), готовые Colab/Jupyter-ноутбуки для быстрого старта
Цена: Ядро Unsloth и Studio доступны бесплатно (open source, Apache 2.0 / AGPL-3.0). Есть платные Pro (быстрее обучение, экономия VRAM, до 8 GPU) и Enterprise (максимальная скорость, мультиузловая поддержка, поддержка клиентов) — цены на сайте не публикуются, предоставляются по запросу
