Защита Claude на выборах: один промпт режут, цепочку — не всегда

Перед мидтермами в США Anthropic усилила защиту Claude.ai на фоне разбора 250 тысяч диалогов за неделю с 21 по 27 сентября 2026 года, обновления Usage Policy и новых классификаторов под многошаговый обход. Institute for Strategic Dialogue и McCain Institute гоняли те же сценарии, что и у агентов в проде: один вредный запрос модель чаще режет, а план, разложенный на мелкие шаги, иногда проскальзывает.

Масштаб политических запросов

Выборку разметили через Anthropic Insights в privacy-preserving режиме. Около 5,75% всех разговоров на Claude.ai в США касаются политики, публичной политики или социальных тем; 0,51% — непосредственно выборов и голосования. Просьбы «за кого голосовать» — около 0,01%, нарушения правил election integrity — около 0,002%. Большинство запросов информационные: новости, позиции кандидатов, документы, учебные задачи.

Источники и баланс ответов

На вопросы о регистрации, участках и датах выборов в Claude.ai показывают баннер на TurboVote от Democracy Works; позже ответы для пользователей в США начнут подтягивать официальные данные штатов из того же источника. В ночь выборов и после — актуальные официальные результаты прямо в чате.

Для Claude Opus 5.5, Sonnet 5.5 и Haiku 5.5 в оценке political evenhandedness заявлены 99%. Три внешние группы — Future of Free Speech, Foundation for American Innovation, Collective Intelligence Project — дополнительно проверяли свободу выражения и симметрию ответов. Зафиксированы огрехи: лишние оговорки в advocacy-текстах и то, что Sonnet 4.5 не всегда одинаково смягчал формулировки в matched prompts слева и справа; команду обещают править короткие yes/no и баланс hedge.

Классификаторы и реальные кейсы

После проверок с ISD и McCain Institute в США, Израиле и Бразилии добавили детекторы под фейковые аккаунты, политические сайты-однодневки и финансовые схемы вокруг выборов, плюс усиление отслеживания активности иностранных state actors. В threat intelligence приводят операторов фейкового новостного сайта, которые через Claude генерировали материалы о мидтермах с нарративами в интересах России, Ирана и КНДР, и схемы с выдуманными новостями под рекламный доход — аккаунты заблокировали.

Для легитимных кампаний опубликован гайд по границам политики: пресс-релизы, fundraising, подготовка к дебатам, анализ turnout и outreach — в рамках правил; массовые комментарии от лица вымышленных людей и контент для «независимых» новостных страниц, которые таковыми не являются — нет.

Источник: Preparing for the 2026 US midterms.