overview
Проверяем состояние…
—
—
ошибок
Метрики
Всего запросов
—
Ошибки
—
Доля ошибок
—
Всего токенов
—
Кешировано токенов
—
попадания в кеш
Попадания в кеш
—
Токенов рассужд.
—
AI аналитик
AI аналитик
Модель: —
Активность
Запросы по времени
Запросы и ошибки по периодам
Модели и провайдеры
Модели
Загрузка…
Провайдеры
Загрузка…
Эндпоинты
Использование по эндпоинтам
Загрузка…
Ошибки
Сообщения об ошибках
Загрузка…
Задержка
Производительность по эндпоинтам
Агрегаты отдельно по типам запросов, без смешивания chat,
embeddings и audio
Загрузка…
requests
| Время | Статус | Провайдер | Модель | Задержка | Задержка Up. | Ток/сек | Токены | Промпт | Ответ | Кеш | Рассужд. | HTTP | Up. HTTP | Проект | Ключ |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Загрузка… | |||||||||||||||
Страница 1
models
Хранилище: —
Новая GGUF модель
Загрузите файл или укажите прямую ссылку на .gguf (Hugging Face и др.).
Название и ключ заполнятся автоматически.
Список моделей
Кликните по модели, чтобы посмотреть детали.
Загрузка…
pools
Ручное управление балансировкой по узлам
Пулы моделей
Включенный пул использует только отмеченные ниже узлы. Если пул выключен,
модель обслуживается старым маршрутом из providers.yaml.
Загрузка…
песочница
Быстрый запрос к модели из админки
Запрос
Ответ
Ответ появится здесь
administrators
Добавить администратора
Список администраторов
| Имя пользователя | Роль | Статус | Создан | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
status
Публичная страница: /status ↗
Отображаемые API-модели
Модели на странице статуса
Показываем метрики за последний час. Выберите модели, видимые всем посетителям.
settings
Проекты и API-ключи
Проекты
| Название | Описание | Статус | Тела запросов | Создан | Действия |
|---|---|---|---|---|---|
| Загрузка… | |||||
API-ключи
Выберите проект
Новый ключ
| Название | Префикс | Статус | Использован | Создан | Действия |
|---|---|---|---|---|---|
| Выберите проект | |||||
Маршрутизация провайдеров
Провайдеры
Внешние OpenAI-совместимые серверы
| Название | Базовый URL | Таймаут | Действия |
|---|---|---|---|
| Загрузка… | |||
Маршруты моделей
Публичные имена, сопоставленные с внешними
| Публичная модель | Провайдер | Внешняя | Возможности | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
Балансировка
Лимиты маршрутизации
Очередь запросов и circuit breaker. Применяется Core в течение минуты, без перезапуска
Состояние маршрутов
Текущая нагрузка Core: запросы в работе, отказы 429, circuit breaker
—
| Маршрут | В работе | Ошибок подряд | Breaker |
|---|---|---|---|
| Загрузка… | |||
AI аналитик
Модель ассистента
Выберите публичную модель для анализа метрик