自建推理集群 GPU 固定成本高
适合请求量稳定、数据不出域的场景;空闲时段算力利用率常低于 40%。
- 每百万 token含折旧与运维摊销¥31.6
- 首年现金投入含机房与网络改造¥86 万
- 扩容周期采购到上线3–6 周
- 数据合规全链路内网可控
左侧放模型与参数,右侧放实时账单与延迟曲线——分屏设计让「技术开发」与「成本决策」同屏对齐。冷色高亮只标记异常,暖色承载说明文本,一屏之内看清每一分算力花在哪里。
同样的模型能力,部署形态不同,账单可能相差三成以上。下表按「每百万 token 综合成本」口径折算。
适合请求量稳定、数据不出域的场景;空闲时段算力利用率常低于 40%。
请求波动大时成本更贴合实际用量;冷启动与限流是主要体验风险点。
提示:混合分屏调度把稳定流量留在自建集群、峰值流量溢出到托管服务,实测综合成本可再降 12%–18%,但需要双栏一致的监控口径。
取 6 周灰度数据,对照组为传统单栏控制台,样本为 320 名平台开发者。
每张卡片对应一个可独立计价的能力模块,便于按需启用、按量结算。

按请求复杂度动态选择模型,简单问答走小模型,可省 40% 以上算力。

相似问句命中缓存直接返回,目标命中率 60% 以上,冷启动预热 200 条。

按业务线、接口、模型三维打标,账单可下钻到单个调用方。

延迟、错误率、token 消耗三线并置,异常 30 秒内推送定位线索。
分屏不是简单切两半,而是按 9:11 的非对称比例分配注意力——操作区窄而稳,结果区宽而活。
左侧固定 0.92 栏宽放置参数、开关与模型选择,滚动条仅在右侧出现;右侧以 1.08 栏宽呈现成本曲线、延迟分布与日志。实测可减少 63% 的横向视线跳跃,让「改了参数 → 立刻看到钱的变化」成为肌肉记忆。
每条都给出可测量阈值,达不到就先别全量放开,避免为了好看牺牲成本可控性。
用 9:11 或 1:1 起步,操作区宽度不低于 320px。小于 320px 时滑块与开关的可点区域会跌破 44px,误触率上升约 18%。
可点区域 ≥ 44×44px左侧改动参数后,右侧曲线刷新超过 200ms 用户会怀疑「没生效」。优先用增量 diff 推送,避免整表重渲染。
同步延迟 ≤ 200ms按 60-30-10 分配:中性底约占六成,暖色主色三成承载结构与按钮,冷色强调仅一成用于告警、激活态与关键指标。超过一成会削弱告警辨识度。
强调色占比 ≤ 10%可视区超过 4 张会让用户放弃滑动,改为直接搜索。卡片宽度用 grid-auto-columns:minmax(232px,1fr),小屏降到 78vw 保证露出下一张边缘。
可视卡片 4 张 / 露边 ≥ 12%统一用 cubic-bezier(.16,1,.3,1),位移不超过 14px,避免快速弹跳分散对数字的注意。开启「减少动态效果」时全部降级为瞬时呈现。
时长 0.45s / 位移 ≤ 14px对比改版前后 7 天:每百万 token 成本、缓存命中率、P95 延迟三项都要留档。若成本上升超过 5%,先回滚分屏默认开启策略,改为可选项。
成本波动阈值 ±5%