overview
Метрики
Всего запросов
—
Ошибки
—
Доля ошибок
—
Всего токенов
—
Кешировано токенов
—
попадания в кеш
Попадания в кеш
—
Токенов рассужд.
—
Активность
Запросы по времени
Запросы и ошибки по периодам
Модели и провайдеры
Модели
Загрузка…
Провайдеры
Загрузка…
Эндпоинты
Использование по эндпоинтам
Загрузка…
Ошибки
По статусу
Загрузка…
По типу ошибки
Загрузка…
Задержка
Производительность по эндпоинтам
Агрегаты отдельно по типам запросов, без смешивания chat,
embeddings и audio
Загрузка…
requests
| Время | Статус | Провайдер | Модель | Задержка | Задержка Up. | Ток/сек | Токены | Промпт | Ответ | Кеш | Рассужд. | HTTP | Up. HTTP | Проект | Ключ |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Загрузка… | |||||||||||||||
nodes
Узлы
Состояние агентов и llama.cpp
Загрузка…
Выберите узел
Назначения, конфиг и последние события
Выберите узел из списка слева.
Выберите узел
Дополнительный models.ini
История на узле
Команды
Выберите узел
События
Выберите узел
models
Хранилище: —
Новая GGUF модель
Выберите файл. Название и ключ заполнятся автоматически.
Список моделей
Кликните по модели, чтобы посмотреть детали.
Загрузка…
settings
Проекты и API-ключи
Проекты
| Название | Описание | Статус | Создан | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
API-ключи
Выберите проект
Новый ключ
| Название | Префикс | Статус | Использован | Создан | Действия |
|---|---|---|---|---|---|
| Выберите проект | |||||
Маршрутизация провайдеров
Провайдеры
Внешние OpenAI-совместимые серверы
| Название | Базовый URL | Таймаут | Действия |
|---|---|---|---|
| Загрузка… | |||
Маршруты моделей
Публичные имена, сопоставленные с внешними
| Публичная модель | Провайдер | Внешняя | Возможности | Действия |
|---|---|---|---|---|
| Загрузка… | ||||