OpenAI и NASK: исследования безопасности ИИ после кейса MikroTik

OpenAI и польский NASK подписали соглашение о совместных исследованиях безопасности и защиты передовых систем ИИ. Польский AI Safety Research Center при институте работает как национальный контур по безопасности ИИ — в одной линии с британским UK AI Security Institute и американским CAISSI, с которыми у OpenAI уже идёт сотрудничество.

О чём договорились

Задача — вместе оценивать всё более сильные модели, искать уязвимости и укреплять защиту в цифровой экосистеме. NASK отдельно называет барьеры против новых рисков, детект синтетического контента и многоязычные сценарии злоупотреблений. OpenAI пишет, что похожая работа с публичными институтами в США и Великобритании уже помогала находить и закрывать дыры в агентах.

Июль: CERT Polska и MikroTik

Рамка опирается на уже сделанное с киберзащитниками. В июле CERT Polska в составе NASK получил доступ к «кибер-способным» моделям OpenAI через программу Daybreak. Команда с их помощью нашла шесть уязвимостей в MikroTik RouterOS; часть цепочек позволяла захватить устройство без аутентификации. Производитель выпустил исправления, CERT Polska подтвердил, что они блокируют наблюдавшиеся атаки.

OpenAI в материале связывает это с призывом к общим международным подходам: как сравнивать оценки возможностей моделей, риски и инциденты между странами. Партнёрство с NASK — способ подтянуть к этому контуру опыт защиты госуслуг и польской цифровой инфраструктуры.

Источник: OpenAI and Poland’s NASK partner to advance AI safety and security.