dsh-muse-total-tps
其他 活跃维护

dsh-muse-total-tps

sd1g1/dsh-muse-total-tps

Web端Muse Spark专用插件,基于包含首token延迟的全链路总生成时长计算模型推理TPS,统计结果精准可靠,部署后无需额外配置即可直接获取对应指标。

0
Stars 标星
0
Forks 分支
0
Watchers 关注
0
Open Issues
JavaScript
主要语言
None
开源协议
19 KB
仓库大小
1 个月前
最后推送
一键安装扩展 / 插件指令
dsh plugin --profile web add github:sd1g1/dsh-muse-total-tps
git clone https://github.com/sd1g1/dsh-muse-total-tps.git
git clone git@github.com:sd1g1/dsh-muse-total-tps.git
README.md main

dsh-muse-total-tps

DSH Web 插件:对 opencode-go/muse-spark-1.2-contributor 使用包含 TTFT 的总生成时间计算统计栏 TPS,避免 TTFT 很长时只按首 token 后解码时间计算导致 TPS 虚高。

安装

dsh plugin --profile web add github:sd1g1/dsh-muse-total-tps

重启 DSH 后生效,刷新 Web 页面即可看到统计栏使用新算法。

配置

默认目标:

- id: ui-muse-total-tps
  config:
    provider: opencode-go
    model: muse-spark-1.2-contributor

也可以配置多个目标:

- id: ui-muse-total-tps
  config:
    targets:
      - provider: opencode-go
        model: muse-spark-1.2-contributor

验证 / 卸载

使用目标模型完成一轮响应后,底部统计栏的 tok/s 会按 输出 tokens / (assistant/message - step/start) 计算;鼠标悬停统计栏会提示已按总生成时间调整。

dsh plugin --profile web remove @local/dsh-muse-total-tps