{% extends "base.html" %} {% block title %}LLM目录配置 - 机器人管理后台{% endblock %} {% block content %}
LLM Catalog

LLM目录配置

按 Provider 模板、Dify 应用、Scene 绑定三层维护,并结合最近窗口运行分析判断哪条 AI 路由更慢、更容易失败。

刷新 保存配置

AI运行分析

基于统一 LLM 客户端最近窗口埋点做被动观测,不额外发起探活请求。

窗口容量:{% raw %}{{ runtimeAnalytics.overview.window_size || 0 }}{% endraw %} 默认场景:{% raw %}{{ runtimeAnalytics.overview.default_scene || '-' }}{% endraw %} 默认目标:{% raw %}{{ runtimeAnalytics.overview.default_backend || '-' }}{% endraw %}
最近调用
{% raw %}{{ runtimeAnalytics.overview.total_calls || 0 }}{% endraw %}
成功 {% raw %}{{ runtimeAnalytics.overview.success_calls || 0 }}{% endraw %} / 失败 {% raw %}{{ runtimeAnalytics.overview.failed_calls || 0 }}{% endraw %}
成功率
{% raw %}{{ formatPercent(runtimeAnalytics.overview.success_rate) }}{% endraw %}
按最近窗口实时汇总
平均耗时
{% raw %}{{ formatLatency(runtimeAnalytics.overview.avg_latency_ms) }}{% endraw %}
用于快速识别慢场景
路由规模
{% raw %}{{ runtimeAnalytics.overview.scene_count || 0 }}{% endraw %}
场景数 / 目标数 {% raw %}{{ runtimeAnalytics.overview.target_count || 0 }}{% endraw %}
{% raw %}{{ statusText(runtimeAnalytics.overview.status) }}{% endraw %} {% raw %}{{ runtimeAnalytics.overview.summary || '最近窗口内暂无统一 LLM 调用记录' }}{% endraw %}
Provider 模板:{% raw %}{{ runtimeAnalytics.overview.provider_count || 0 }}{% endraw %} 最近场景:{% raw %}{{ runtimeAnalytics.overview.last_call.scene || '-' }}{% endraw %} 最近后端:{% raw %}{{ runtimeAnalytics.overview.last_call.backend || '-' }}{% endraw %} 最近模型:{% raw %}{{ runtimeAnalytics.overview.last_call.model || '-' }}{% endraw %} 最近时间:{% raw %}{{ runtimeAnalytics.overview.last_call.timestamp || '-' }}{% endraw %}
最近错误: {% raw %}{{ runtimeAnalytics.overview.last_error }}{% endraw %}

按场景统计

定位哪个业务场景最常调用、最容易失败。

按后端统计

观察 backend 层是否存在集中失败或慢请求。

按 Provider 统计

区分 Dify 与 OpenAI Compatible 等不同接入形态的表现。

按模型统计

帮助判断是否需要按场景切换模型或做降级策略。

目录元信息

默认场景用于兜底路由,建议始终设置一个稳定可用的场景。

配置源:{% raw %}{{ configPath }}{% endraw %}

1. Provider 模板

公共连接参数只配置一次:base_url、endpoint、mode、超时等。

新增模板
字段说明: `api_base_url`=Dify 服务地址;`endpoint`=工作流接口(常用 `workflows/run`);`mode`=workflow/chat;`request_timeout`=秒。
{% raw %}{{ item.name || `Provider ${index + 1}` }}{% endraw %} 删除

2. Dify 应用

每个应用只维护 app_key 和少量差异项,不再重复写 URL/endpoint 公共参数。

新增应用
字段说明: `name`=应用标识;`provider_template`=复用哪个公共模板;`app_key`=Dify 应用 Key;`workflow_output_key`=工作流输出字段(常用 `text`)。
{% raw %}{{ item.name || `DifyApp ${index + 1}` }}{% endraw %}
{% raw %}{{ item.advanced_open ? '收起高级配置' : '展开高级配置' }}{% endraw %} 删除
高级覆盖项(可选)

3. 通用 Backend(可选)

用于 openai_compatible 或其他非 Dify 直连能力。

新增Backend
{% raw %}{{ item.name || `Backend ${index + 1}` }}{% endraw %} 删除

4. Scene 绑定

业务场景绑定 dify_app 或 backend,插件只配置 scene。

新增场景
删除

插件依赖拓扑

显示 插件 -> scene -> target_type/target_ref -> provider,便于评估切换影响。

{% endblock %} {% block scripts %} {% endblock %}