Model Chat Testbench

init

host-

GPU-

vLLM-

RAG-

preflight-

routes-

Площадка

Маршрут и модель

Сначала профиль и endpoint, затем плагин, модель и её текущий маршрут.

Endpoint

not checked

Плагин

Модель

service: -

Benchmark tokens

benchmark history: -

Промпт и проверки

Параметры ответа, системный промпт и быстрые сценарии проверки собраны рядом.

RAG profile

Temperature

Max tokens

System prompt

Быстрые проверки

Сравнение

Фото-модели

Отдельный блок для выбора image-модели, запуска endpoint и быстрого переключения между реализмом, аниме и редактированием.

image: -

Быстрый выбор

Для генерации фото сначала выберите image-модель и нажмите Start. Если модель уже на диске, но endpoint не запущен, здесь это будет видно сразу.

Медиа-инструменты

Аудио и vision отделены от фото, чтобы рабочие сценарии не смешивались.

Аудиофайл

Language

Task

Изображение

Фото workflow

Пресеты, параметры генерации и галерея сведены в один рабочий контур.

Готовые сценарии

Image model

Mode

Quality

Size

Guidance

Steps

Seed

Negative prompt

Исходное фото

Маска

Strength

Brush

Mask mode

Реестр и загрузка

Операции с моделями и библиотека image-моделей вынесены в отдельную группу.

Модели и Реестр

ID / имя

Плагин

Формат

Файл

URL или путь сервера

idle

Библиотека image-моделей

Карточки показывают, что есть в реестре, что выбрано сейчас и что можно запустить для фото.

Обзор

Загрузка состояния платформы

Собираем статус endpoint'ов, моделей и сервисов.

Библиотека image-моделей

Обзор

Сводка

Текущая модель

Что работает сейчас