模型与推理强度
让用户为当前会话选择后端可用的模型与推理强度,设置随每一轮发送。模型列表由后端提供,ChatKit 不提供模型托管。
正在加载真实示例…
接入 SOP
- 在适配器上提供
listModels,返回{ models, defaultModel? };每个模型包含稳定id,可提供label和efforts。 - 配置
features.model: {}。只提供后端函数或只写开关都不足以启用选择器。 - 受控场景用
value与onChange保存每个会话的设置;不受控时由界面按会话保存,defaultValue只作为初值。 - 确认适配器把
ChatInput.settings映射到后端的模型与推理参数。支持值以返回的目录为准。
验证结果
选“均衡模型”,切换推理强度后发送;顶部应显示本轮 settings。切到不支持推理强度的“快速模型”,原来的不适用强度应被移除。
常见调整
effort: false隐藏推理强度。slot调整受支持的位置;slot: false后由宿主使用公开的模型上下文自行展示。- 模型支持的输入模态只提供信息,不能代替附件服务与后端校验。
排错
选择器未出现:核对 features.model 与 listModels。选择后模型没有变化:检查真实请求映射。切换会话后选错模型:检查受控状态是否按 sessionId 区分。