Vercel AI Gateway отдаёт трейсы в Sentry и Braintrust без текста промптов

Если LLM в проде идёт через Vercel AI Gateway, каждый запрос теперь превращается в OpenTelemetry-трейс — отдельный прокси-слой для телеметрии не нужен. Команды Pro и Enterprise могут отправлять трассы через Drains в Sentry, Braintrust, Dash0, Kubiks, Statsig или любой OTLP/HTTP-эндпоинт.

Что внутри трассы

В одном следе виден весь путь запроса:

• маршрутизация модели и провайдера
• fallback и попытки ретрая
• токены и стоимость
• время до первого токена, длительность и статус ответа
• проект, деплой, API-ключ, окружение и кастомные теги

Текст промптов и ответов в drain не попадает — только метаданные. Sampling задаёт, какую долю трафика уводить в каждый drain.

Цена и подключение

Трейсы AI Gateway стоят $0.05 за 1000 успешных доставок в каждый drain плюс стандартный тариф Drains — $0.50 за гигабайт. Запрос считается один раз при успешной доставке, даже если шлюз обращался к провайдеру несколько раз; неудачные доставки не тарифицируются. Trace Drain подключается в настройках Drains команды.

Источник: Export AI Gateway traces with Vercel Drains.