Bedrock для агентов: не экономия модели, а учёт каждого вызова

У агентного сценария — AI-кодинг-помощник планирует правку, читает файлы, вызывает tools — расход растёт от автономии и размера контекста на шаге, а не от числа реплик пользователя. AWS описала для Amazon Bedrock операционный цикл из пяти этапов: атрибуция каждого доллара, лог каждого запроса, бюджеты, оптимизация дефолтов платформы и регулярный разбор метрик.
FinOps ведут первый и пятый этапы, platform engineering — второй через четвёртый. Без привязки spend к владельцу и без логов «оптимизация модели» превращается в угадайку; средние цифры по индустрии авторы не советуют подставлять — тарифы моделируют в Pricing Calculator, фактическое потребление снимают на втором шаге playbook.
Пять шагов по порядку
- Атрибуция — inference costs автоматически попадают на IAM principal в CUR 2.0; business-теги на principal активируют как cost allocation tags и через 24–48 часов видны в Cost Explorer с префиксом iamPrincipal/.
- Наблюдаемость — invocation logging в CloudWatch или S3; CUR отстаёт примерно на 24 часа, связка CloudWatch и OpenTelemetry может показать траты разработчика за минуты (в посте — разбор Claude Code).
- Контроль бюджета — от пороговых алертов AWS Budgets до IAM deny при превышении лимита через Lambda и DynamoDB.
- Оптимизация — маршрутизация моделей, кэш и лимиты токенов на уровне платформы, а не напоминания «будьте аккуратнее» в каждой команде.
- Операционный review — короткий scorecard и совместный разбор FinOps и платформы.
Где теряется видимость
Частая дыра — LLM-gateway с одной IAM-ролью на всех: весь Bedrock-spend висит на одном ARN. Обход — выдача роли на пользователя через assume role с именем сессии и session tags, кэш credentials до часа: один вызов STS на пользователя в час, не на каждый request. Для вопроса «какой feature сжёг токены» в каждый вызов через converse передают requestMetadata — application, workflow, tenant, agent; схему лучше прошить в общей обёртке SDK или gateway, иначе ключи расползаются по командам.
Для bedrock-runtime авторы рекомендуют IAM principal через session tags как основной путь; application inference profiles и Projects на bedrock-mantle — отдельные механизмы под другие паттерны API.
Источник: Managing Amazon Bedrock costs end to end: A playbook for FinOps and platform teams.