WandBot: как Weights & Biases собрали RAG-бота для своих доков

Weights & Biases — платформа для ML-экспериментов, которой пользуются почти все крупные LLM-лаборатории. Чтобы ускорить онбординг и закрывать продвинутые вопросы, команда W&B собрала WandBot — бота для ответов на вопросы по документации, исходникам wandb и примерам кода.

Под капотом: llama-index для RAG и GPT-4 для генерации ответов. Получается не просто поиск по доке, а контекстные ответы с привязкой к коду и примерам. Подход применим и для своих внутренних баз знаний — если есть структурированная документация, RAG-бот заметно сокращает время на поддержку.

Подробности реализации — в гостевом посте на блоге Replit.