Papers with Code: гибридный поиск на 110 000 статей

На Papers with Code поиск по более чем 110 000 статей из arXiv: гибрид полнотекст PostgreSQL, семантика через pgvector и слияние рангов алгоритмом RRF. Hugging Face разобрала, как развести тяжёлую офлайн-работу и быстрый онлайн-путь, чтобы и люди на сайте, и агенты через pwc search не зависали на холодном сервисе.

Офлайн-корпус и живой запрос

Дорогие пакетные эмбеддинги уходят в Jobs, артефакты лежат в Storage Buckets. На пути пользовательского запроса остаётся только векторизовать текст через Inference Endpoint. Эндпоинт может масштабироваться до нуля, поэтому холодный старт здесь часть дизайна, а не редкий сбой.

Если сервис не успевает за секунду, занят или отвечает с ошибкой, семантическая ветка отключается сразу. Выдача идёт по полнотексту, без ожидания GPU.

Три сервиса Hugging Face

• Jobs: burstable GPU для эмбеддинга всего корпуса; на пилоте L4 выдавал около 75 статей в секунду.
• Storage Buckets: S3-подобное хранилище между снимком БД, экспериментами и воркерами; в Job монтируется через hf-mount.
• Inference Endpoints: низколатентные эмбеддинги для живых запросов и инкрементальных обновлений.

Один контракт на всю цепочку

Продакшн на Qwen/Qwen3-Embedding-0.6B с зафиксированной ревизией: 256-мерные L2-нормализованные векторы. Каждая статья кодируется как нормализованный заголовок и абстракт; для документов и запросов используют разные промпты модели. На пилоте из 5000 статей HNSW-индекс дал Recall@20 = 0,9955 при p50 1,31 мс и занял примерно 27% объёма таблицы относительно 1024-мерной версии.

Клиент запроса держит таймаут в одну секунду, лимит параллелизма, кэш по хэшу и circuit breaker после серии сбоев; в логи уходит только отпечаток, не сырой текст. Новое поколение индекса активируют атомарно, после проверки манифестов и checksum.

Источник: How Hugging Face Inference Endpoints, Jobs, and Buckets Power Search on Papers with Code.