Factory на Next.js: миллионы запросов и Droids вместо инфра-команды

Factory развернула весь облачный бэкенд на одном Next.js в Vercel — отдельная инфра-команда так и не появилась. Десятки миллионов запросов в сутки, p95 около 350 мс.

Клиентское API живёт в API routes, авторизация и роутинг — в middleware, webhook-обработчики и log drain крутятся в том же приложении. Когда платформа росла от простого веб-приложения до enterprise с десятками тысяч инженеров, новые нагрузки не требовали новых сервисов: подкручивали только лимиты памяти и длительность функций.

Без холодного старта

Fluid compute держит функции тёплыми между запросами и снимает штраф serverless на API, где важна латентность. За три года рост прошёл без типичного overhead масштабирования облака.

Droids вместо очереди в инженерию

Запрос на внутренний дашборд или клиентский прототип раньше отрывал людей от продукта. Сейлзы и solution-архитекторы теперь запускают Droids из Factory Desktop App или CLI — агенты через API Vercel сам настраивают сборку и деплой.

• Десятки деплоев в день по всей команде.
• Аналитические дашборды из внутренних баз.
• Кастомные демо под клиента за минуты.
• Утилиты для разовых внутренних workflow.

Инженеры задают guardrails и ревьюят рискованные решения — рутину забирают агенты.

Боты после открытой регистрации

Когда Factory открыла self-serve, пришли боты: фейковые аккаунты и трафик с плохих IP. Vercel Observability показывает, что бьёт в API; Web Application Firewall блокирует атаки правилами на уровне маршрутов, rate limiting и DDoS-защита работают под капотом.

Внутренние автоматизации через Droids — будущие фичи продукта, прогнанные на своей инфраструктуре. Factory основана в 2023 году: Matan Grinberg и Eno Reyes.

Источник: How Factory scaled its cloud backend to tens of millions of daily requests on Vercel.