SageMaker AI: training sessions для своего пост-тренинга без GPU

Training sessions в SageMaker AI serverless model customization вышли в общую доступность: цикл пост-тренинга и оценка ответов остаются у вас в коде, а GPU, распределённый запуск, восстановление после сбоев и чекпоинты , на стороне AWS. Типы инстансов и distributed-конфиги вручную не собираете. Платформа не зажимает одну технику: SFT, DPO, RLVR, RLAIF, multi-turn RL, LoRA или полный fine-tuning, цепочка через continuous customization. Managed multi-turn RL для агентов уже был; sessions дают свой loss, свои reward signals и стадии RL в одном цикле , без отдельных кластеров под train и inference. Как устроен проход Loop и reward function крутятся в вашем окружении, агент цепляется к тулам или симулятору. Сессия на GPU генерирует ответы сэмплером, считает градиенты и обновляет веса , схема зависит от алгоритма, который вы пишете. В cookbook разбирают Group Relative Policy Optimization (GRPO): на один промпт , несколько ответов, сравнение score, обновление политики. Типичные шаги: sampler выдаёт ответы текущей моделью; reward function оценивает их у вас , verifier, reward model или test harness; по scores тренер вызывает forward_backward() и optim_step() ; sampler подхватывает новые веса, дальше следующий batch. Платите за токены, которые обрабатывает SageMaker; пока batch оценивается в вашем окружении, счётчик не крутится, capacity заранее не бронируете. Данные и чекпоинты лежат в ваших S3 в выбранном регионе, сессия идёт под вашей IAM-ролью, при желании KMS и VPC. Запуск из IDE В GA поддерживаются gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B и Qwen3.8-27B. Cookbook и model customization agent skills ведут через prep данных, выбор техники, обучение, evaluation и deploy; агент заявлен для SageMaker Studio, Kiro, Claude Code, Codex и GitHub Copilot. Можно поставить SageMaker Python SDK на Linux или macOS с Python 3.10, 3.12 и клонировать cookbook. В SageMaker Studio готовое окружение поднимается меньше чем за 20 секунд , notebook, coding agent и skills с cookbook. Источник: Announcing new ways to customize models with SageMaker AI, without managing GPUs .