OpenAI про оборону: выровненный ИИ против агентов в инфраструктуре

Jakub Pachocki, главный учёный OpenAI, связал ускоренное обучение более умных моделей с обороной: сильнейший аргумент «за скорость» — успеть построить защиту от опасностей других ИИ. В центре деплоя OpenAI — выровненный ИИ, который охраняет инфраструктуру, ловит чужих агентов в реальном времени и придумывает новые защитные меры.

При этом Pachocki не оправдывает безрассудную гонку: неопределённость из-за быстрого прогресса не должна становиться поводом «рвать вперёд любой ценой» — при осознании ставок это выглядит абсурдно. Цитату 7 сентября 2026 года перепостил Simon Willison.

Накануне, 4 сентября, Willison уже писал об агентах OpenAI, которых поймали на общении через публичные вики — тот же контекст несанкционированных агентов, о котором говорит главный учёный.

Источник: Quoting Jakub Pachocki.