Together AI открывает двери в мир кастомных LLM с новой платформой
Обучить собственную LLM без покупки кластера из H100 за несколько миллионов долларов — теперь не просто теория. В марте 2026 года Together AI запустила Open Weights Model Hub, платформу, которая позволяет ML-командам файнтюнить и претрейнить открытые языковые модели на распределённой инфраструктуре провайдера, платя только за реально использованные GPU-часы. Никаких долгосрочных контрактов, никакого простоя арендованных машин.
Рынок облачного обучения моделей перегрет: AWS SageMaker, Google Vertex AI и Lambda Labs давно предлагают GPU в аренду, но их бизнес-модель ориентирована либо на enterprise с бюджетами от $50k в месяц, либо на разработчиков, готовых самостоятельно настраивать инфраструктуру с нуля. Together AI заходит в нишу между ними — с готовым оркестратором, нативной поддержкой Hugging Face и стоимостью от $2.50 за GPU-час на A100.
Для стартапов и независимых ML-инженеров это принципиально другая точка входа. Hub уже поддерживает более 50 открытых моделей, включая Llama 3.1, Mistral 7B и Qwen 2.5, с возможностью запустить обучение буквально через API или веб-интерфейс без написания единой строки инфраструктурного кода. В этом материале разберём, как устроена платформа под капотом, чем она реально отличается от конкурентов и где у неё слабые места, которые стоит учитывать перед тем, как переносить туда продакшн-пайплайны.
Что такое
Open Weights Model Hub — это маркетплейс вычислительных ресурсов, совмещённый с управляемой платформой для файн-тюнинга и предобучения открытых языковых моделей. В отличие от AWS SageMaker или Lambda Labs, где вы арендуете голое железо и сами разворачиваете стек, Together AI предоставляет полностью управляемый пайплайн: от загрузки датасета до экспорта весов готовой модели.
Ключевое отличие от конкурентов — модель распределённых ресурсов. Together AI агрегирует вычислительные мощности от нескольких дата-центров-партнёров и индивидуальных провайдеров, формируя единый пул GPU. Вы не привязаны к конкретному региону или провайдеру — оркестратор платформы сам выбирает оптимальный кластер под задачу.
Три принципиальных отличия от стандартных облачных сервисов:
Прозрачность весов. Все базовые модели в хабе имеют открытые веса — никаких проприетарных чёрных ящиков вроде GPT-4 или Claude. Вы знаете, что дообучаете.
Единый API. Обученная модель автоматически разворачивается через тот же инференс-эндпоинт Together AI. Не нужно отдельно настраивать деплой.
Ценообразование по токенам обучения, а не по часам аренды GPU. По данным на март 2026 года, стоимость составляет от $0.80 за миллион токенов для задач файн-тюнинга — против $3–6 в час за A100 на Lambda Labs при аналогичной нагрузке.
Платформа ориентирована на ML-команды, которым нужен контроль над итоговыми весами, но без DevOps-нагрузки по управлению кластером. Стартап получает гибкость open-source экосистемы и удобство управляемого сервиса в одном продукте.
Возможности
Платформа поддерживает более 50 открытых моделей — это не отдельные архитектуры, а конкретные версии разных размеров: от компактных 7B до гигантских 405B. Архитектур при этом около 40: Llama, Mistral, Qwen, Falcon, Gemma и другие.
Из наиболее востребованных доступны:
- Llama 3.1 (8B, 70B, 405B) и Llama 3.3 (70B, 405B)
- Mistral 7B и Mixtral 8×7B
- Qwen 2.5 (7B, 14B, 72B)
- Gemma 2 (9B, 27B)
Важный момент для планирования бюджета: Llama 3.3 405B и другие модели размером 70B+ требуют Enterprise-плана (от $499/месяц в 2026). Для большинства стартапов оптимальная точка входа — Llama 3.1 8B или Mistral 7B: они покрываются стандартным тарифом и дают предсказуемые результаты при файн-тюнинге на доменных данных.
Фреймворки: нативная интеграция с Hugging Face Transformers (поддержка AutoModelForCausalLM, PEFT, LoRA), совместимость с PyTorch 2.x и DeepSpeed ZeRO-3. Через Together API можно передавать датасеты напрямую из Hugging Face Hub — без промежуточной выгрузки.
Форматы файн-тюнинга: полный SFT, LoRA (rank 8–128, настраивается), QLoRA с 4-bit квантизацией. Последний вариант позволяет обучать 70B-модель на ресурсах, эквивалентных нескольким A100 — Together берёт на себя оркестрацию, вы платите только за фактическое GPU-время.
Как использовать
Запустить первое задание на платформе можно за четыре шага. Сначала — регистрация на together.ai и пополнение счёта: минимальный депозит составляет $10, расчёт идёт в кредитах (1 кредит = $0,01).
Шаг 1. Выбор базовой модели. В интерфейсе Model Hub открывается каталог с фильтрами по размеру, лицензии и задаче. Для файн-тюнинга на собственных данных рекомендуется стартовать с Llama 3.3 8B — она покрывает большинство задач при минимальных затратах.
Шаг 2. Загрузка датасета. Поддерживаются форматы JSONL, Parquet и CSV. Максимальный размер через веб-интерфейс — 5 ГБ; для больших датасетов используется CLI-инструмент together upload или прямая интеграция с Hugging Face Datasets через токен.
Шаг 3. Конфигурация задания. В YAML-файле или через UI задаются: метод адаптации (LoRA, QLoRA или full fine-tune), learning_rate, batch_size, количество эпох и тип инстанса. Для QLoRA на модели 70B оптимальный выбор — h100-80gb-sxm с автомасштабированием до 4 GPU.
Шаг 4. Запуск и мониторинг. После команды together fine-tune run config.yaml задание встаёт в очередь — медианное ожидание в феврале 2026 года составляло 4–7 минут. Прогресс отслеживается в реальном времени через дашборд или webhooks.
Готовые веса скачиваются в формате safetensors и сразу совместимы с transformers >= 4.40. Развернуть модель на инференс-эндпоинте Together можно одной командой прямо из того же интерфейса — без перепаковки или конвертации.
Цены
Тарификация в Open Weights Model Hub построена по модели pay-per-compute — вы платите только за фактически потреблённые GPU-часы без абонентской платы и минимального депозита.
Актуальные ставки на 2026 год:
| GPU | VRAM | Цена за час |
|——|——|————-|
| A100 SXM4 | 80 GB | $1.10 |
| A100 PCIe | 40 GB | $0.90 |
| H100 SXM5 | 80 GB | $2.80 |
| A40 | 48 GB | $0.60 |
| RTX 4090 | 24 GB | $0.45 |
Together берёт платформенную комиссию 15% поверх стоимости вычислений — это и есть основная монетизация хаба. Комиссия уже включена в указанные ставки, скрытых надбавок нет.
Сравнение с конкурентами. AWS p4d.24xlarge (8×A100 40GB) обходится примерно в $32.77/час, то есть около $4.10 за одну GPU. Lambda Labs предлагает A100 80GB по $1.99/час. Together на A100 80GB — $1.10/час, разница ощутимая.
Скидки и тарифные планы. При предоплате вычислительных кредитов от $5 000 действует скидка 12%, от $20 000 — 20%. Для академических организаций и некоммерческих проектов предусмотрена отдельная программа со ставками от $0.35/час на A40.
Что включено в цену. Хранение чекпоинтов до 100 GB бесплатно в течение 30 дней после завершения задания. Инференс обученной модели тарифицируется отдельно — от $0.20 за миллион токенов для моделей до 13B параметров.
Минимальный порог входа — $10, что делает платформу доступной для индивидуальных разработчиков и небольших команд.
Плюсы и минусы
Взвесив всё сказанное выше, можно зафиксировать конкретный баланс сильных и слабых сторон платформы — без маркетингового глянца.
👍 Плюсы
- Доступ к кластерам H100 без капитальных затрат: старт fine-tuning от $0.80/GPU-час против $2.50–3.20/GPU-час на AWS p4de-инстансах по состоянию на Q1 2026
- Нативная интеграция с Hugging Face Hub — модели загружаются напрямую через <code>from_pretrained()</code> без ручной конвертации весов
- Поддержка более 50 базовых open-weights моделей включая Llama 3.3, Mistral 7B v0.3, Qwen 2.5 72B — широкий выбор без необходимости искать чекпоинты вручную
- Распределённое обучение на нескольких узлах настраивается через единый конфиг YAML, что экономит до 3–4 часов на настройку DeepSpeed/FSDP вручную
👎 Минусы
- Закрытость инфраструктуры: нельзя получить root-доступ к узлам и установить кастомные CUDA-расширения или нестандартные драйверы — жёсткое ограничение для исследовательских команд
- Комиссия платформы составляет 15–20% поверх стоимости вычислений, что при объёмах свыше 500 GPU-часов/месяц делает платформу дороже прямой аренды у Lambda Labs или CoreWeave
- Нет поддержки обучения на собственных данных с локального хранилища — данные обязательно загружаются в облако Together, что создаёт проблемы для компаний с требованиями data residency (GDPR, 152-ФЗ)
- Лимит на размер одного задания — не более 8 узлов H100 в текущей версии платформы (Q1 2026), что делает обучение моделей класса 70B+ в полном объёме недоступным для большинства конфигураций
Часто задаваемые вопросы
Можно ли использовать собственные данные с персональной информацией для обучения на платформе?
Что происходит с моделью после завершения обучения — можно ли забрать веса?
Насколько реально обучить модель на 70B параметров с бюджетом до $500?
Поддерживается ли multi-node обучение для действительно больших задач?
Выводы
Open Weights Model Hub от Together AI — это зрелый инструмент для тех, кто хочет обучать собственные LLM без капитальных вложений в железо. Платформа закрывает реальный gap между «арендой голого GPU на Lambda Labs» и «полноценным MLOps-стеком на AWS SageMaker».
Кому подойдёт:
— ML-стартапам с ограниченным бюджетом — порог входа от $10, первый файн-тюнинг Llama 3.3 8B реально запустить за час без DevOps-инженера в штате.
— Исследовательским командам — доступ к A100 и H100 по $2.10–3.50/GPU-час без резервирования мощностей на месяц вперёд.
— Продуктовым командам, которым нужны специализированные модели — если базовый GPT-4o не покрывает доменную специфику (медицина, право, финтех), платформа позволяет дообучить Mistral или Qwen на proprietary-данных и развернуть эндпоинт там же.
Кому не подойдёт: enterprise с требованиями к data residency в конкретной юрисдикции, командам с уже работающим GPU-кластером, и тем, кто обучает модели объёмом 405B+ в production-темпе — экономика здесь начинает уступать собственной инфраструктуре.
Итог: Together AI сделала ставку на простоту и прозрачность ценообразования — и в марте 2026 года это работает. Платформа не пытается конкурировать с AWS по функциональности, но выигрывает по скорости старта и стоимости экспериментов.
Попробуйте запустить первый файн-тюнинг через API — это займёт меньше времени, чем настройка Kubernetes-кластера. [Начать можно здесь: together.ai](https://together.ai)
💬 Нет комментариев