Abnormal AI: песочница Code Interpreter на миллиардах писем в день

В продакшне Abnormal AI миллиарды писем в день, а самые упорные кейсы — десятки тысяч суточно — уходят не в чат, а в песочницу. Команда встроила Amazon Bedrock AgentCore Code Interpreter: агент в изолированной MicroVM пишет скрипт на лету и решает, блокировать письмо или нет, ещё до инбокса.

Сервис защищает больше 25% компаний из Fortune 500. В разработке у Abnormal 80% изменений в коде проходят через агента, а 40% целиком собирает фоновый помощник — без ручной доводки. Тот же принцип — вычислительный буфер рядом с рассуждением — только в security-runtime, а не в IDE.

Три яруса вместо одного аналитика

Поток разделён на три уровня. Первый — эвристики и лёгкие классификаторы на миллиарды сообщений. Второй — ML-модели на миллионы неуверенных кейсов. Третий — агенты с Code Interpreter: threat intelligence, подсчёты и проверки в песочнице там, где раньше подключали человека.

Batch-аналитик раз в неделю гоняет около 100 заданий: ищет паттерны в ошибках классификации и генерирует черновики эвристик для первого яруса. Сессии MicroVM длятся от 30 минут до суток — можно сохранить состояние в файлы, обучить модель снаружи и вернуться за обработкой результата.

Изолированная среда

Code Interpreter отдаётся как API: агент сам выбирает момент для команд, загрузки файлов и выдачи ответа. Сессии по умолчанию живут 15 минут, максимум — 8 часов. Через API напрямую — до 100 МБ данных, для тяжёлых наборов подключают S3.

Внутри уже есть Python и Node.js с библиотеками для статистики; логи уходят в CloudWatch и CloudTrail. Abnormal включила режим песочницы без выхода в интернет: среда детерминирована, утечку threat intelligence через prompt injection режут на сетевом уровне. Сверху — свой изолированный каркас агента.

Четыре практики из кейса

• Свобода, не сценарий. Лёгкий каркас с принципами работает лучше жёсткого пошагового workflow.
• Буфер для любого агента. Security-агенту нужны подсчёты и агрегация — не только кодеру.
• Верификаторы в песочнице. Юнит-тесты, линтер и интеграционные прогоны до финального ответа.
• Файлы как чекпоинт. Долгое обучение модели выносят наружу, состояние пишут в файлы и возвращаются в Code Interpreter.

Источник: Abnormal AI: Amazon Bedrock AgentCore for agentic email security at scale.