Inference под финансовые документы: облако, свой VPC или локально, и где модель вообще не нужна

Редакция 15 октября 2026 г.

Облако, свой VPC и локальный запуск на одном inference-движке легко принять за маркетинг, пока счёт за document-AI не растёт на born-digital HTML, который закрывается через SEC API без OCR. В разборе Nemwel Boniface для соло, кто сам вяжет OCR, поля, embeddings и rerank под отчётность и data room, сведены четыре вопроса scorecard, семь платформ и явный фаворит Superlinked SIE.

Переплата за inference: учебный кейс без тикета в проде

Production incident цепляет быстрее invoice, но в financial document processing речь не о репортаже с датой и вендором. Заход про боль переплаты за document-AI на документах, которые OCR не требовали.

Учебный кейс без названия компании показывает, как ломается эксплуатация моделей: команда прогоняет born-digital HTML и Inline XBRL в 10-K через document-AI (рендер в пиксели и OCR), тогда как PDF иностранного эмитента с segment table на нескольких страницах теряет header row после разрыва страницы, и цифры остаются «без колонки». Суть простая: не разделили, какие документы реально сложны для inference-пайплайна, а какие можно закрыть дешевле.

Где inference не нужен: HTML, Inline XBRL и SEC API

Прежде чем выбирать облачный OCR, стоит вспомнить слой до document-AI. Для EDGAR primary documents формат HTML; tagged figures идут через Inline XBRL (фаза внедрения 2019–2021). EX-99.1 тоже HTML. На стандартных таксономиях опора на companyfacts / frames SEC API: Boniface приводит пример на Python с User-Agent и CIK Apple 0000320193.

Ограничение для архитектуры: companyfacts и frames дают entity-wide facts на стандартных таксономиях; extension tags и segment/member facts сидят в iXBRL filing (парсинг HTML). MD&A и нетегированные таблицы снова уводят в HTML-парсинг. Платить за document-AI имеет смысл в двух узких местах: PDF-only источники (не-US отчёты, data room, загрузки клиентов, сканы) и цепочка после текста (поля с period/scale, embeddings, reranking; это уже не обязательно OCR).

Для соло-пайплайна вывод жёсткий: сначала классифицировать поток документов, потом тащить inference. Иначе GPU-счёт растёт на «простых» файлах.

Scorecard, семь платформ и три режима Superlinked SIE

Рейтинг Boniface строится как ответ на четыре вопроса:

Coverage: PDF OCR, извлечение полей, embeddings и reranking за одним API.
Price transparency: опубликованная цена за единицу до запуска.
Model choice: выбор и смена модели на каждом шаге.
Data residency: тот же пайплайн в своём VPC для данных, которые не должны уходить наружу.

В списке семь позиций: Superlinked Inference Engine (SIE), Azure AI Document Intelligence, Google Cloud Document AI, Amazon Textract (в паре с Bedrock), Reducto, Unstructured, Baseten. Итоговая cheat sheet сводит их по тем же четырём столбцам: карта вопросов, не замена собственного eval на «грязных» PDF.

SIE в подборке назван единственной платформой, закрывающей все четыре пункта scorecard. Аргументация завязана на одном движке в трёх режимах: SIE Cloud, self-hosted (Kubernetes в VPC, Terraform для AWS/GCP/Azure) и Local (NVIDIA / Apple Silicon).

В облаке меню задач включает OCR, Doc to Markdown, field extraction, structured output, NER, Search and Rerank, с per-model prices (в таблице цен срез 2026-09-30). Из того же среза: docling Doc to Markdown $0.397 / 1k pages; OCR LightOnOCR-2-1B $2 / 1k pages; field extraction Qwen3.8-27B FP8 $0.72 / M tokens; rerankers Qwen3-Reranker-4B и 0.6B с ценами за million pairs (есть арифметика top-50 rerank). Для managed-режима указаны SOC 2 Type 2 и US или EU residency; self-host идёт под Apache 2.0, те же engine и model IDs.

Сравнительная таблица на 10 000 PDF pages (с оговоркой: разный output tier) включает SIE, Azure Read/Layout, Google OCR/Layout, уровни Textract, Reducto, Unstructured; цены на 2026-09-30, регионы Azure US East / Textract US West (Oregon). Независимых бенчмарков качества OCR Boniface не приводит: только листинговые цены и призыв собрать 50-page nasty-PDF eval set.

Цепочка до GPU: что проверить соло-команде

Сравнивать один endpoint бессмысленно: важно оценивать всю цепочку до GPU. Boniface показывает иллюстративный PIPELINE dict с model ID и функцию partial для стоимости parsing + reranking. Отдельно предупреждение про Forms Textract $0.05/page на длинном отчёте: ловушка, когда inference платят за каждый лист, а не за смысловой объём.

Четыре совета «past self» из финала ложатся на соло-workflow без выделенного продакта: сортировать документы до модели; считать цену всей цепочки, а не одного API; готовить nasty-PDF eval до выбора вендора; residency с первого дня, если данные не должны покидать контур. MCP, IDE-агенты и Cursor в исходной статье Dev.to не фигурируют; практический вывод здесь про инфраструктуру inference, смену model ID «одной строкой» и прозрачный per-unit прайс, а не про промпты в редакторе.

Если вы уже платите за OCR там, где хватает SEC API, или гоняете rerank без прозрачной цены за пару, сверьте чеклист: не вердикт про «единственно правильного» вендора, а вопросы, на которые соло-команда должна ответить до продакшена.

Источники

Nemwel Boniface — Best AI Inference Platforms for Financial Document Processing in 2026: Why Superlinked SIE Tops My List (Dev.to, опубликовано 2026-10-15 UTC). Dev.to — дата доступа при обогащении: 2026-10-15 (UTC).