AI Server Manager 1.0.32 — архитектура чата и поддержка GPU

Версионный архив AI Server Manager: версия 1.0.32 обновила внутреннюю архитектуру чата и механизмы установки.

Меньше тяжёлой работы в браузере

Нормализация истории, оценка контекста и сжатие переписки перенесены на backend. Сообщения хранятся построчно, миграция выполняется в фоне, а агент сам обновляет проекцию своего ответа. Для Code Preview используется единый API снимка и изменений рабочего проекта.

Добавлены кеширование количества токенов и защита от гонки между миграцией старой истории и добавлением новых сообщений. Авария фонового agent-run завершается статусом failed вместо бесконечного ожидания.

OCR и аппаратные профили

Улучшена передача ошибок AiSharkOCR, появился автоматический AMD-профиль llama.cpp. Для MI50/gfx906 добавлены ROCm 6.3.3 и профили запуска Qwen на нескольких GPU; Vulkan сохранён как отдельный вариант.

В исторической версии также были отдельные варианты llama-cpp-cmp50 и vllm-cmp50. В последующих версиях эти старые варианты удалены: для новой установки не следует искать их в актуальном списке движков. Используйте современные профили обычного vLLM и llama.cpp.

Сохранность данных при обновлении

Уточнена работа с текущим и прежним расположением постоянного хранилища данных. Production-контейнер не должен молча создавать пустую базу вместо отсутствующего volume, а установщик сохраняет резервную копию при обновлении. Пароль первого администратора выводится заметным блоком.

Каталог и сборка

Поиск адаптирован к небольшим экранам, обновлён OpenAPI ModelScope. Добавлены повторы Docker-сборок при временных TLS/token-ошибках registry; собственные сборки переведены на Go 1.26.6 и Alpine 3.24.

Аппаратные профили относятся к состоянию проекта на момент этой версии; актуальные ограничения смотрите в выбранном образе и настройках запуска.