OpenAI запустила Safety Bug Bounty за находки по безопасности ИИ

OpenAI анонсировала программу Safety Bug Bounty — баг-баунти, нацеленный на поиск уязвимостей и сценариев злоупотребления в контексте безопасности искусственного интеллекта. В зоне внимания — в том числе риски, связанные с агентскими системами, prompt injection и нежелательной эксфильтрацией данных.

Для разработчиков и инди-хакеров, которые внедряют модели и агентов в код и инфраструктуру, это полезный маркер: вендор явно выделяет классы угроз, за которые готовы платить за ответственное раскрытие. Имеет смысл следить за условиями программы, если вы проектируете границы инструментов агента, защиту от инъекций и контроль утечек чувствительной информации.

Источник: Introducing the OpenAI Safety Bug Bounty program