Каталог и скачивание моделей — руководство AI Server Manager
Все разделы руководства · Начало работы
Как выбрать модель по задаче и видеокарте, скачать веса и проверить загрузку.
Руководство для ветки 1.0.36. Доступность функций зависит от установленной сборки, оборудования, лицензии и прав пользователя.
Выберите задачу
В каталоге модели разделены по назначению: LLM, изображения, видео, аудио и 3D. Для чата нужна текстовая модель, а для генерации ролика — видеомодель: одна карточка не заменяет все виды моделей.
Для поддерживаемых видеокарт каталог может показывать рекомендации, например для NVIDIA CMP 170HX, CMP 50HX или AMD Instinct MI50. Проверьте, что видеокарта определена верно. Рекомендация для другой карты не означает совместимость с вашей.
Как скачать модель
- Откройте нужную категорию и выберите рекомендованную карточку или поиск.
- Прочитайте описание, требования к памяти, совместимый движок и пометки о проверке.
- Выберите вариант весов, если карточка предлагает несколько вариантов.
- Убедитесь, что на диске достаточно места для полного комплекта.
- Нажмите кнопку скачивания один раз и проверьте загрузку в разделе «Запуск».
- После завершения откройте настройки появившейся модели.
Размер скачивания — не точная оценка требуемой видеопамяти. Для работы могут понадобиться дополнительная память под контекст, временные данные и обработку изображения или видео.
Форматы и полные комплекты
GGUF обычно выбирают для llama.cpp; Hipfire использует свои совместимые форматы. Для генераторов SDNQ нужен полный поддерживаемый комплект, а не один случайный файл трансформера. Выбирайте движок, указанный в карточке.
Если для работы с изображениями у LLM нужен дополнительный проектор, скачайте совместимый файл вместе с моделью. Не удаляйте референсные веса видеомодели, если планируете режимы с изображением или звуком.
Доступ к закрытым загрузкам
Некоторые авторы требуют принять условия на странице модели и предоставить токен своего аккаунта. Выполните оба условия. Токен вводите только в предназначенном для него поле панели; не вставляйте его в название модели или текст ошибки.
Если скачивание кажется зависшим
Проверьте имя текущего файла, скорость, свободное место и журнал загрузки. При переходе между файлами скорость может меняться. Для больших комплектов небольшие служебные файлы тоже являются частью загрузки.
Если результат запроса неизвестен, сначала проверьте уже существующую загрузку. Не нажимайте скачивание много раз подряд. «Синхронизация с диском» полезна для моделей, скопированных на сервер другим способом, но не заменяет исправление незавершённого скачивания.
Что означает пометка «Экспериментально»
Пресет подготовлен для проверки, но успешный запуск, скорость или качество на вашей конфигурации не гарантированы. Начните с небольшого задания и не заменяйте им единственную рабочую конфигурацию.
---
Назад: Начало работы · Далее: Запуск и остановка моделей