AI Server Manager 1.0.35 — SDNQ, пресеты CMP170 и безопасность

Версионный архив AI Server Manager: версия 1.0.35 объединяет развитие генеративных движков, настройки GPU и большой набор исправлений безопасности.

Готовность модели, а не только открытый порт

SDNQ использует выбранную локальную папку, проверяет компоненты и шарды и загружает веса при запуске. Готовность HTTP API отделена от готовности модели: ошибка загрузки не должна выглядеть как успешный запуск. Исправлены MCP-конфигурация, сохранённые логи и асинхронные задания видео.

Пресеты CMP170 и attention

Добавлены варианты MiniMax H3 с FlashAttention 2: одна GPU, две GPU с отдельным энкодером и одна GPU с CPU offload. Для SDNQ предусмотрен SageAttention 2 на Ampere/SM80 с численной проверкой при старте и SDPA fallback для неподдерживаемых операций.

В окне запуска разделены выбор семейства GPU и список подходящих пресетов. Длинные названия получили широкое поле. Фильтр пресетов не заменяет назначение конкретных физических видеокарт.

Ускорение не обещается по названию backend: в приведённом замере FLUX.2 Klein на CMP170HX, 1024×1024 и 8 шагах FA2 и SDPA показали практически одинаковое время — 3,253 и 3,255 секунды. Это результат одного сценария, а не всех моделей.

Установка и помощь пользователю

Установщик выбирает vLLM 0.31 для SM80 и новее; для Turing/SM75 остаётся стабильный профиль 0.21, а 0.23 предлагается вручную как тестовый. Добавлены пошаговое обучение и справка подключения к API с примерами LLM/Vision, ASR/TTS, изображений, видео, 3D, OCR и MCP.

Сессии, плагины и файлы

Браузерные WS/SSE используют одноразовые билеты вместо JWT в адресе. Усилены проверки текущих прав, изоляция чатов и ключей по владельцу, защита вложений и очистка приватных кешей при смене пользователя. Для Hugging Face README, поиска и файлов ограничены запросы и размеры ответов.

Server Messenger синхронизирует общее состояние между пользователями. Ошибка подключения к настроенному PostgreSQL больше не приводит к молчаливому переключению на другую SQLite-базу. Исправлено пополнение баланса по привязке проверенной лицензии.

3D, сцены и дополнительные плагины

Развиваются экспериментальные Mira-Scene и TRELLIS.2 AMD/MI50. Для сцен есть выбор открытой геометрии или приближённой оболочки комнаты, этапы, история и экспорт GLB. Полная аппаратная проверка этих режимов отмечена в истории как незавершённая. Интеграция AniGen удалена без удаления пользовательских результатов и весов.

Pearl Mining получил выбор Pearl Miner/RGMiner, отдельные версии и проверку официальных бинарников. Для детектора объектов добавлена справка по COCO-датасетам и дообучению.

Экспериментальные профили требуют проверки на конкретном оборудовании. В этой версии также отмечались нерешённые вопросы AI-ботов Messenger; общий план улучшений не объявляется завершённым.