Kimi K3 на Amazon Bedrock: миллион токенов и кэш для длинного кодинга

Kimi K3 от Moonshot AI доступна на Amazon Bedrock: AWS добавила первую открытую модель на платформе с явным кэшем префикса промпта. Окно , до 1 млн токенов, есть нативный vision; удобно для длинных сессий с репозиторием, документами и картинками. Moonshot называет Kimi K3 своей сильнейшей open-моделью: 2,8 трлн параметров и примерно в 2,5 раза выше эффективность масштабирования, чем у Kimi K2. Кэш префикса В агентских сценариях часто уходит один и тот же хвост промпта: правила репо, описания тулов, справочники. Явное кэширование помечает конец переиспользуемого блока через prompt_cache_breakpoint в OpenAI-совместимом API; режим explicit включают в extra_body с prompt_cache_options . breakpoint , после не менее 1024 токенов статичного префикса; запись в кэш дороже обычного входа, но префикс живёт минимум 30 минут; попадание в кэш снижает цену входных токенов и не съедает лимит input-tokens-per-minute. Регионы и вызов Из кода модель зовут через bedrock-runtime : Responses и Chat Completions в стиле OpenAI, плюс Invoke и Converse. Для нагрузок без жёсткой привязки к региону AWS советует профиль global.moonshotai.kimi-k3 , примерно на 10% дешевле географического; для резидентности данных в США , us.moonshotai.kimi-k3 . В примере из блога авторизация через aws-bedrock-token-generator и OpenAI SDK на Python 3.10+. OpenCode и Hermes Вместо прямых вызовов API Kimi K3 можно подключить в OpenCode: в opencode.json провайдер amazon-bedrock с регионом и AWS-профилем, модель amazon-bedrock/global.moonshotai.kimi-k3 , переключение , команда /models . Для не-кодинговых сценариев в посте показывают Hermes Agent с выбором Kimi K3 в списке Bedrock-моделей. Инференс идёт в границе данных AWS, промпты не уходят провайдеру модели на обучение; zero data retention включён по умолчанию. Источник: Introducing Kimi K3 on Amazon Bedrock .