Interfaze: 50 млн запросов в месяц на Vercel без отдельного бэкенда

Interfaze прогоняет через API на Vercel около 50 миллионов запросов в месяц: фронт и бэкенд в одной кодовой базе, отдельный серверный контур команде не поднимали. Основатель Yoeven Khemlani строит модели под детерминированную работу , OCR, детекция объектов, скрапинг, speech-to-text, классификация документов. Если попросить chat-модель сумму на инвойсе, часто получите число без привязки к странице; у Interfaze в ответе ещё bounding box и confidence score, результат можно перепроверить, а промпты остаются привычными. Бэкенд рядом с фронтом Каждый вызов API , serverless-функция в том же репозитории, что и интерфейс. Сгенерированный моделью код исполняют в Vercel Sandbox в изоляции. По словам команды, для этого не понадобилась отдельная инфраструктура. Где держат нагрузку Fluid compute , тяжёлый скрапинг на Puppeteer укладывается в лимиты памяти и таймаута без кастомных воркеров; масштабирование идёт за трафиком. AI Gateway , при сбое или лимите у провайдера запросы автоматически уходят к следующему; можно выбрать, кто отдаёт конкретную open-source модель, и сравнить качество на одном ворклоаде. Workflow SDK , lifecycle-письма по использованию API: какой эндпоинт дергали, объём, сравнение с первой неделей; шаг может «замолчать» на месяцы и продолжиться с тем же состоянием. Preview deployments , у каждой версии модели свой URL и свои логи, ошибку сразу видно по релизу; сборка на Vercel около трёх минут, узкое место , выкладка весов на GPU. Недавно вышел Interfaze 1 Lite , open-weight модель под одну GPU через тот же API. Следующий шаг , gateway для веб-поиска по тому же принципу, что AI Gateway для LLM: один API, провайдер поиска на выбор разработчика. Источник: How Interfaze serves 50 million requests a month on Vercel .