Мониторинг и уведомления — руководство AI Server Manager
Все разделы руководства · Плагины и документы
Как читать GPU, RAM и диск, находить причину задержки и проверять события.
Руководство для ветки 1.0.36. Доступность функций зависит от установленной сборки, оборудования, лицензии и прав пользователя.
Что показывает главная панель
На дашборде доступны показатели сервера и управляемых моделей: CPU, оперативная память, GPU, видеопамять и диск. Состав показателей зависит от оборудования и драйвера.
Если температура, мощность или имя устройства не определены, это не означает, что реальное значение равно нулю. Проверьте доступность оборудования и при необходимости обратитесь к администратору.
Память и вычислительная нагрузка
Запущенная модель может занимать много видеопамяти в ожидании запроса. И наоборот, высокая нагрузка на GPU не обязана сопровождаться заполнением всей памяти. Назначенные модели смотрите на карточках запуска, а текущие ресурсы — на графиках.
Временные паузы возможны при чтении весов, подготовке текста, прогреве, декодировании и переносе данных между GPU и RAM. Оценивать скорость только по одному проценту загрузки некорректно.
Что проверить, если стало медленно
- Посмотрите, не работает ли другая тяжёлая модель или очередь.
- Проверьте свободную RAM, видеопамять и диск.
- Откройте консоль нужной модели и этап текущего задания.
- Сравните разрешение, контекст, шаги и режим offload с прошлым тестом.
- Повторите небольшой пример с теми же настройками, когда сервер свободен.
Первый запрос после запуска может быть медленнее последующих из-за прогрева. Для честного сравнения используйте одинаковые входные данные и параметры.
Уведомления и журнал
Проверяйте источник, время и текст события. Сохраните безопасный текст ошибки и сведения о модели перед обращением в поддержку. Не прикладывайте полный конфигурационный файл с паролями.
После обновления особенно важны сообщения об успешном запуске новой версии или откате. Если действие не подтверждено, сверяйте фактический статус, а не только исчезновение уведомления.
Дополнительные узлы
Если администратор подключил другие серверы, раздел узлов показывает доступные данные этих устройств. Это не означает автоматического объединения их GPU и оперативной памяти для любого задания.
Важные результаты и отчёты сохраняйте отдельно: журнал и история метрик могут иметь ограниченный срок хранения.
---
Назад: Плагины и документы · Далее: Настройки, лицензия и обновление