overview
Проверяем состояние…
—
—
ошибок
Метрики
Всего запросов
—
Ошибки
—
Доля ошибок
—
Всего токенов
—
Кешировано токенов
—
попадания в кеш
Попадания в кеш
—
Токенов рассужд.
—
AI аналитик
AI аналитик
Модель: —
Активность
Запросы по времени
Запросы и ошибки по периодам
Модели и провайдеры
Модели
Загрузка…
Провайдеры
Загрузка…
Эндпоинты
Использование по эндпоинтам
Загрузка…
Ошибки
Сообщения об ошибках
Загрузка…
Задержка
Производительность по эндпоинтам
Агрегаты отдельно по типам запросов, без смешивания chat,
embeddings и audio
Загрузка…
requests
| Время | Статус | Провайдер | Модель | Задержка | Задержка Up. | Ток/сек | Токены | Промпт | Ответ | Кеш | Рассужд. | HTTP | Up. HTTP | Проект | Ключ |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Загрузка… | |||||||||||||||
traces
Группировка LLM-вызовов по session/trace/task
Трассировки
Загрузка…
Загрузка…
Выберите трассировку
Timeline LLM-запросов
Выберите трассировку слева.
nodes
Узлы
Состояние агентов и llama.cpp
Загрузка…
Выберите узел
Назначения, конфиг и последние события
Выберите узел из списка слева.
Выберите узел
models.ini
История на узле
Команды
Выберите узел
События
Выберите узел
models
Хранилище: —
Новая GGUF модель
Загрузите файл или укажите прямую ссылку на .gguf (Hugging Face и др.).
Название и ключ заполнятся автоматически.
Список моделей
Кликните по модели, чтобы посмотреть детали.
Загрузка…
pools
Ручное управление балансировкой по узлам
Пулы моделей
Включенный пул использует только отмеченные ниже узлы. Если пул выключен,
модель обслуживается старым маршрутом из providers.yaml.
Загрузка…
песочница
Быстрый запрос к модели из админки
Запрос
Ответ
Ответ появится здесь
administrators
Добавить администратора
Список администраторов
| Имя пользователя | Роль | Статус | Создан | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
settings
Проекты и API-ключи
Проекты
| Название | Описание | Статус | Тела запросов | Создан | Действия |
|---|---|---|---|---|---|
| Загрузка… | |||||
API-ключи
Выберите проект
Новый ключ
| Название | Префикс | Статус | Использован | Создан | Действия |
|---|---|---|---|---|---|
| Выберите проект | |||||
Маршрутизация провайдеров
Провайдеры
Внешние OpenAI-совместимые серверы
| Название | Базовый URL | Таймаут | Действия |
|---|---|---|---|
| Загрузка… | |||
Маршруты моделей
Публичные имена, сопоставленные с внешними
| Публичная модель | Провайдер | Внешняя | Возможности | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
AI аналитик
Модель ассистента
Выберите публичную модель для анализа метрик