Как распознавать PDF и сканы локально, без отправки файлов в облако
Раздел: Документы и OCR.
Документ в формате PDF не всегда содержит готовый текст. В одном файле может быть текстовый слой, в другом — только изображения страниц, в третьем — их сочетание. Перед выбором OCR полезно понять, что находится внутри документа: обычное извлечение текста и визуальное распознавание решают разные задачи.
Подготовьте небольшой образец
Выберите несколько характерных страниц: обычный текст, таблицу, страницу с колонками и изображение, если они есть. Слишком большой файл затрудняет первый тест и увеличивает расход ресурсов. Проверьте ориентацию страниц, читаемость и отсутствие повреждений.
Если текст уже корректно выделяется в PDF, повторное визуальное распознавание может не понадобиться для простой задачи. Но для сохранения структуры, таблиц и сложной вёрстки могут потребоваться дополнительные этапы обработки.
Как выбрать способ распознавания
В AI Server Manager используйте предусмотренный для документов сценарий и подходящий плагин, например AiSharkOCR, если он установлен и доступен. Проверьте, через какой движок запускается модель. Вариант GGUF и вариант для vLLM требуют разных файлов и окружения.
Для мультимодального GGUF может понадобиться отдельный mmproj-проектор. Его совместимость, точность и выбранный backend проверяются отдельно от основного файла. Нельзя заменить один проектор другим только по совпадению расширения.
Проверка GPU и точности
На модифицированной CMP 50HX 20 ГБ и AMD MI50 не переносите без проверки BF16-настройки с другого оборудования. При наличии нескольких вариантов убедитесь, какой файл действительно выбран: имя BF16 или F16 в журнале помогает заметить ошибочную загрузку.
Для vLLM важна не только точность. В окружении движка должны быть доступны необходимые процессоры вывода и библиотеки OCR-модели. Ошибку «No module named ...» не исправить увеличением лимита видеопамяти или изменением числа карт.
Первый запуск по шагам
- Скачайте поддерживаемую модель и дополнительные компоненты.
- Проверьте параметры запуска, устройство и выбранные файлы.
- Дождитесь готовности модели и выполните обработку подготовленного образца.
- Сравните распознанный текст с изображениями страниц.
- Проверьте порядок колонок, заголовки, числа и строки таблиц.
- Только после этого обрабатывайте полный документ или партию файлов.
Для первой диагностики отключите необязательные последующие этапы. Иначе ошибку распознавания будет сложно отличить от ошибки экспорта или дополнительного анализа текста.
Почему проверка человеком необходима
Правдоподобная расшифровка может содержать пропущенную строку, перепутанный столбец или заменённую цифру. Особенно важно проверять суммы, даты, номера документов и единицы измерения. Если дальнейшая LLM делает сводку, она не должна считаться подтверждением точности OCR: ошибка исходного текста может просто перейти в ответ.
Как сохранить локальный характер обработки
Проверьте адреса подключённых моделей и внешних API, расположение временных файлов и результатов, права пользователей и резервное копирование. Сам факт установки панели на своём сервере не доказывает, что каждый включённый плагин работает без внешней сети.
Для ошибок сохраняйте версию модели, выбранный файл, backend и первую содержательную строку журнала. В обращение за помощью отправляйте обезличенный пример, а не весь конфиденциальный документ.
Продолжение: плагины и документы, выбор модели и устранение ошибок.
О материале
Материал подготовлен с помощью ИИ с проверкой по пользовательскому руководству панели и указанным справочным источникам. Параметры и доступные функции зависят от версии установленной сборки; приведённые примеры не являются результатами отдельного бенчмарка.