Перейти к содержимому
Экосистема AI Vibe

Новости

Bedrock для агентов: не экономия модели, а учёт каждого вызова

Редакция 31 октября 2026 г.

Схема цикла учёта расходов Amazon Bedrock: атрибуция IAM, логи вызовов, бюджеты и review для агентных workload.

У агентного сценария — AI-кодинг-помощник планирует правку, читает файлы, вызывает tools — расход растёт от автономии и размера контекста на шаге, а не от числа реплик пользователя. AWS описала для Amazon Bedrock операционный цикл из пяти этапов: атрибуция каждого доллара, лог каждого запроса, бюджеты, оптимизация дефолтов платформы и регулярный разбор метрик.

FinOps ведут первый и пятый этапы, platform engineering — второй через четвёртый. Без привязки spend к владельцу и без логов «оптимизация модели» превращается в угадайку; средние цифры по индустрии авторы не советуют подставлять — тарифы моделируют в Pricing Calculator, фактическое потребление снимают на втором шаге playbook.

Пять шагов по порядку

  • Атрибуция — inference costs автоматически попадают на IAM principal в CUR 2.0; business-теги на principal активируют как cost allocation tags и через 24–48 часов видны в Cost Explorer с префиксом iamPrincipal/.
  • Наблюдаемость — invocation logging в CloudWatch или S3; CUR отстаёт примерно на 24 часа, связка CloudWatch и OpenTelemetry может показать траты разработчика за минуты (в посте — разбор Claude Code).
  • Контроль бюджета — от пороговых алертов AWS Budgets до IAM deny при превышении лимита через Lambda и DynamoDB.
  • Оптимизация — маршрутизация моделей, кэш и лимиты токенов на уровне платформы, а не напоминания «будьте аккуратнее» в каждой команде.
  • Операционный review — короткий scorecard и совместный разбор FinOps и платформы.

Где теряется видимость

Частая дыра — LLM-gateway с одной IAM-ролью на всех: весь Bedrock-spend висит на одном ARN. Обход — выдача роли на пользователя через assume role с именем сессии и session tags, кэш credentials до часа: один вызов STS на пользователя в час, не на каждый request. Для вопроса «какой feature сжёг токены» в каждый вызов через converse передают requestMetadata — application, workflow, tenant, agent; схему лучше прошить в общей обёртке SDK или gateway, иначе ключи расползаются по командам.

Для bedrock-runtime авторы рекомендуют IAM principal через session tags как основной путь; application inference profiles и Projects на bedrock-mantle — отдельные механизмы под другие паттерны API.

Источник: Managing Amazon Bedrock costs end to end: A playbook for FinOps and platform teams.