For AI agents: the complete documentation index is available at /llms.txt, the full documentation bundle is available at /llms-full.txt, and this page is available as Markdown at /features/context-usage.md.
外观 ◐
让站点跟随你的 ChatKit打开主题工作台 →

上下文用量、压缩与额度

上下文圆环展示已用 token 与窗口大小;额度提醒展示账号用量。二者来自适配器通知,ChatKit 不自行估算模型实际消耗。

模拟用量与额度通知,再点击用量圆环压缩Mock 演示全屏 ↗
正在加载真实示例…

接入 SOP

  1. 设置 features.contextUsage: true 和需要时的 features.rateLimit: true。
  2. 在适配器收到后端通知时通过公开 RuntimeIngress.reportUsage 报告对应 sessionId。上下文是 { used, window };额度窗口使用 usedPercent,可含毫秒时间戳 resetsAt。
  3. 需要压缩时实现适配器 compact。界面配置 compact: false 可只展示用量。
  4. 后端压缩完成后报告更新后的用量,并保证历史与真实上下文一致。用 useSessionUsage 在 Provider 内读取公共状态。

验证结果

点击“模拟用量通知”,圆环应显示 12000 / 16000,额度达到 85% 时出现提醒。点击圆环完成演示压缩后用量降到 1800。点击“模拟额度用尽”,检查提示变化。

常见调整

features.rateLimit.threshold 调整提醒阈值;contextUsage.slot 调整位置。未收到数据时不显示是正常行为,刷新后需由后端重发有效通知。

排错

没有圆环先检查开关和 context 通知;不能压缩检查 compact 能力;用量不准确检查后端单位和会话归属。额度提醒不等于前端已经实施请求限流。

完整示例与 API

本页模拟的是公开通知接口,真实账号额度不能由前端伪造。见模型选择、适配器 API与配置参考。