Перейти к содержимому
Экосистема AI Vibe

Новости

Guardrails режут по смыслу: AWS о восьми практиках Denied Topics

Редакция 16 ноября 2026 г.

Семантический guardrail в чат-боте банка отсекает инвестсовет, но ошибочно блокирует вопрос о зачислении зарплаты на счёт.

В Amazon Bedrock Guardrails тема Denied Topics режет запросы по смыслу, а не по списку слов — широкое имя вроде Finance может зарубить нормальный вопрос про direct deposit. AWS показала на вымышленном AnyCompany Bank, как за две недели до запуска чат-бота в мобильном и веб-приложении четыре черновика — Finance, Legal, Fraud и Competitors — начали резать легитимные вопросы про ипотеку, скимминг карты и сравнение продуктов конкурентов.

В Standard tier тема складывается из имени, определения и до пяти примеров: guardrail оценивает их одним блоком. Имя до 100 символов, определение до 1000 (практичный диапазон 100–300), каждый пример до 100 символов, в одном guardrail до 30 тем. Итог при этом не полностью детерминирован — даже вылизанный черновик не гарантирует одинаковый ответ на каждом вводе.

Где ломается черновик

  • Домен вместо намерения — тема про Finance, Legal или Compensation цепляет запросы «рядом по смыслу», а не те, что вы хотели запретить.
  • Списки ключевых слов — определение из invest, portfolio, stock промахивается по другим формулировкам и срабатывает на случайные совпадения.
  • Примеры не задают границ — пять перефразировок одной мысли не помогают; страны, продукты и бренды в примерах раздувают контекст темы.
  • Пересекающиеся темы — схожие определения конкурируют за один ввод и вместе блокируют то, что по отдельности прошло бы.

Восемь практик на кейсе банка

  • Фреймить тему вокруг намерения пользователя: в must-block AnyCompany Bank — персональные инвестрекомендации и jailbreak, в must-pass — баланс, переводы и обучающие вопросы вроде «что такое депозитный сертификат».
  • Имя темы — конкретное действие на 2–5 слов: Finance становится Investment Recommendations, Legal — Litigation and Non-Servicing Legal Advice, Fraud — Fraud Investigation Requests.
  • Определение открывать действием — Asking for…, Requests for…, а не Related to finance; объекты называть конкретно: отдельные акции, облигации, ETF, а не financial products.
  • Разводить похожие темы деталями в определении, чтобы они не мешали друг другу.

У AnyCompany Bank ассистент отвечает про счета, выписки, переводы, карты и ипотеку и эскалирует человеку смену счёта, диспуты и отчёты о мошенничестве. Переименование Fraud в Fraud Investigation Requests оставляет клиенту сообщить о скимминге, но не даёт боту «расследовать» претензию самому — граница в формулировке намерения, а не в слове «мошенничество» в шапке темы.

Источник: Best practices for writing Denied Topics in Amazon Bedrock Guardrails.