Галлюцинации вместо классификации: теги без огромного словаря

На блоге Simon Willison 1 856 тегов — в промпт со списком «выбери подходящие» они не влезают, а неразмеченных постов ещё много. Doug Turnbull предлагает другой ход: модель придумывает метки без словаря, а векторный поиск находит ближайшие реальные теги из корпуса.

Идея в названии поста — «Don't classify. Hallucinate!»: не классифицировать по готовому списку, а дать модели выдумать метку в нужном формате. Эмбеддинги потом сопоставляют «фантазию» с уже существующими тегами — мост между воображением модели и реальным словарём из почти двух тысяч меток.

Как выглядит промпт

В примере Turnbull для e-commerce модель строит иерархические пути по образцу существующих — без перечисления всего словаря. Несколько строк показывают форму меток:

• Furniture / Living Room Furniture / Coffee Tables & End Tables / Coffee Tables
• Décor & Pillows / Decorative Pillows & Blankets / Throw Pillows
• Kitchen & Tabletop / Kitchen Organization / Food Storage & Canisters

На запрос «brown coffee table» модель возвращает классификацию в том же духе. Поиск по эмбеддингам подтягивает ближайшие реальные категории — тот же пайплайн работает для старых постов без тегов.

Источник: Don't classify. Hallucinate!.