多引擎按显存自动路由
vLLM、llama.cpp(GGUF)、Transformers 三个对话后端热切换:大显存走 vLLM 高吞吐,小显存自动落到 GGUF 量化档,装不下的模型自动换档并明示提示,排队不秒拒。
深度思考双通道
推理过程与正文分离呈现:思考链路单独折叠,正文干净可读。WebSocket 实时帧推送,打字机效果零延迟。
上下文记忆 + 知识库 RAG
温度、上下文长度随模型能力自动适配;接入知识库后走向量 + 全文 + RRF 融合检索,答案有出处。支持多图对比理解,txt / md / docx / pdf 文档直接上传,插件技能即焚注入。
会话管理
会话重命名、置顶、搜索、批量删除,消息可评分反馈;Alt+N 一键新建对话,Ctrl+K 全局搜索直达任意会话。