直连托管 API
最快接入- 接入方式：一个 HTTPS 端点，无需自建网关，30 分钟内跑通首个请求。
- 首字延迟：流式输出下 P95 ≈ 320ms，适合对话与实时补全。
- 并发：默认 60 QPS，突发可申请临时提升 3 倍，超限返回 429。
- 短板：模型参数固定，深度定制与私有数据隔离需另做。
320msP95 首字
30min接入耗时
这是一个网页样式设计参考 · 极简单页 / 跑马灯母题 / 数字仪表
CREATIVE ∞
SOLUTION MATRIX
三种接入路径，比的是响应速度
同样一句提示词，路径不同，端到端耗时差 3~10 倍。下表按「首字返回时间、并发上限、改造成本」三轴对比，选型前请先量你的 P95 目标。
单页一体化平台
推荐- 接入方式：单页应用内嵌 SDK，调试台、日志、指标同屏，免路由跳转。
- 首字延迟：边缘预热 + 连接复用，P95 ≈ 180ms，比直连再快约 40%。
- 并发：弹性队列 200 QPS，长任务自动转异步并推送完成事件。
- 动态内容加载：结果分块回填，骨架屏 200ms 内接管，无空白等待。
180msP95 首字
200QPS 弹性
FLOW · 5 STEPS
从空页面到可用单页，五步走完
每步都给了可直接照抄的参数与验收阈值；凡未达阈值的步骤不要往下走，否则问题会被后面层层放大。
-
01
定义单页信息骨架
用 1px 细线把首屏切成「输入区 / 结果区 / 指标区」三块，先定栅格再填内容，避免后期返工改版。
栅格：12 列 / 间距 16px / 内容宽 1140~1400px验收：320px 宽下无横向滚动 -
02
接通模型与流式通道
优先走流式输出，让首个 token 尽早回显；把重试、超时、降级三条策略在网关层写死，前端只负责渲染。
timeout=8s / retry=2 / 退避 300ms·2^n验收：首字 P95 ≤ 320ms -
03
动态内容加载与骨架屏
结果区分块回填，未到达的块用骨架屏占位；图片统一固定宽高比容器 + object-fit，杜绝布局跳动（CLS）。
骨架屏 200ms 内接管 / CLS < 0.05验收：滚动中无内容位移 -
04
交互体验打磨
所有点击给出 150~250ms 的即时反馈；提交按钮进入 pending 态，禁用重复提交，并保留可撤销的取消入口。
反馈延迟 ≤ 100ms / 过渡 150~250ms验收：连点 5 次只触发 1 次请求 -
05
埋点与上线回归
埋首字耗时、生成成功率、取消率三项核心指标，灰度 10% 流量观察 24 小时，异常自动回滚上一版本。
灰度 10% → 50% → 100% / 观察 24h验收：错误率 < 0.5% 才全量
CORE CAPABILITY
四项能力，全部围绕「快」
能力不在多，在于每一步都能被量化。以下四项是单页 AI 平台的最小可用集合。
流式推理通道
逐 token 回显，首字即见；断流自动续传，不丢已生成内容。
首字 P95 180ms · 续传成功率 99.9%模型热切换
同一会话内切换模型不刷新页面，上下文自动对齐，0 停机。
切换耗时 < 400ms · 上下文保留 100%实时指标面板
QPS、延迟分位、失败率同屏滚动，异常阈值内联告警。
刷新间隔 2s · 支持 P50/P95/P99灰度与回滚
按比例分流、按指标自动回滚，配置改动全程留痕可审计。
回滚耗时 < 60s · 变更留痕 100%
SCENES
单页 AI 平台的四类真实落地场景
同一套单页骨架，换的是数据源与结果视图；下面四张图对应四种典型用法。
FAQ
上线前最常被追问的四个问题
答案都给了具体阈值，可直接当作验收口径写进需求文档。
Q1单页应用会不会首屏太重？
关键在分包。把首屏必需的渲染逻辑压到 120KB（gzip 后）以内，其余模块按交互事件动态加载；首屏只保留骨架与输入框，实测可做到可交互时间 1.2s 以内。
Q2流式输出中断了怎么办？
保留已生成内容并按 事件序号续传，不要整段重发。断线 3 次内自动重连，超过则转异步任务并在完成后推送通知；重连成功率目标 ≥ 99.9%。
Q3长任务为什么必须转异步？
超过 8 秒的请求极易被网关或浏览器中断。做法是：同步等待上限设 8s，超时立即返回任务 ID，前端切换为轮询或订阅模式，页面不再阻塞。
Q4怎么判断交互体验真的变好了？
看三项：点击反馈 ≤ 100ms、布局偏移 CLS < 0.05、任务取消率下降。若取消率仍高于 8%，说明等待过程缺少进度可见性，应补进度条或分块回填。
CHECKLIST
六条可落地要点，照着做就行
每条都写明做法与阈值，评审时逐条打勾即可，无需再讨论「快不快」这类模糊问题。
把首屏预算写死在构建配置里
给入口包设 120KB（gzip）硬上限，超限直接构建失败；图片一律固定宽高比容器 + object-fit:cover，防布局跳动。这是「即时感」的第一道闸门。
所有网络请求必须带超时与退避
统一设置 timeout=8s、retry=2、退避 300ms×2ⁿ；区分「可重试（5xx/超时）」与「不可重试（4xx）」。缺了这条，偶发抖动会被放大成整页卡死。
骨架屏在 200ms 内接管
加载超过 200ms 立即显示骨架；超过 3s 补进度文案与取消按钮。避免「白屏 → 突然跳出内容」的断层，这是动态内容加载体验的关键分水岭。
提交类按钮必须进 pending 态
点击后 100ms 内给出视觉反馈并禁用按钮，防止重复提交；接口返回即恢复。实测可把重复请求量压到原来的 5% 以下。
埋点只留三项核心指标
首字耗时、生成成功率、任务取消率。指标过多会拖慢前端并淹没信号；三项足够定位 80% 的性能与体验问题。
灰度按 10% → 50% → 100% 推进
每档观察 24 小时，错误率高于 0.5% 立即回滚；配置与模型版本变更全部留痕，保证任意时刻可在 60 秒内回到上一稳定版本。