Replit: как за 10 недель починили латентность и вебсокеты

В сентябре Replit запустил спринт по упрощению и стабилизации платформы. «Лучше всего резать лишнее, когда всё ещё растёшь», — сказал Amjad. Десять недель спустя команда подвела итоги.

В конце сентября латентность Replit выросла до неприемлемых значений: медианный запрос к сайту мог занимать до 10 секунд. Legacy-продукт Classroom создал нагрузку, которая перегрузила систему. Команда добавила followers для Postgres, разрешила экспорт классов в Teams for Education, но этого не хватило. Решение: равномерно распределить подключения Postgres по всем follower-базам, закешировать часто запрашиваемые объекты и ввести rate limits. С тех пор латентность стала «плоской и скучной» — в хорошем смысле.

Отдельно занялись вебсокетами: при открытии repl браузер подключается к контейнеру. Раньше успешность подключения не измеряли. В сентябре — 97% успеха (1 из 33 попыток проваливалась). Сейчас — 99,5% (1 из 200). Для инди-хакеров, которые зависят от облачных IDE, это важно.

Источник: Replit Blog — How Far We've Come