版本 r3.8 · 调度内核
星轨调度器支持跨区弹性抢占
任务可在三个可用区间迁移，抢占恢复时间中位数 42 秒，训练中断重跑成本下降 27%。
AI Platform · 数字星河把模型训练与推理
把模型训练与推理
放进一条可观测的数字星河，不对称布局承载算力叙事
面向 AI 开发者与企业的全托管人工智能平台：从数据接入、分布式训练到低延迟推理，用星轨式调度把 GPU 利用率稳定在 78% 以上，端到端链路平均缩短 41%。
78%+
集群 GPU 平均利用率
41%
端到端链路耗时下降
P99 68ms
在线推理响应延迟
星河控制台 · 单屏掌握全链路
训练任务、推理节点、成本曲线与告警收敛在同一视图；支持按项目、按模型、按团队三维筛选，异常定位平均从 12 分钟压缩到 90 秒。
调度
星轨调度器
拓扑感知分配，碎片显存自动拼合，千卡任务排队等待中位数 < 3 分钟。
推理
低延迟网关
连续批处理 + KV 缓存复用，长上下文场景吞吐提升 2.3 倍。
平台动态与工程实践
每一条都对应可复现的版本号与指标变化，便于 AI 开发者直接对照升级自己的训练与推理流水线。
发布 · 推理网关
连续批处理窗口调至 12ms
在 4K 长上下文检索增强场景中，P99 延迟由 121ms 降至 68ms，单卡 QPS 提升 61%。
开放 · 开发者体验
星河工作台开放 CLI v2
一条命令完成镜像构建、灰度发布与回滚；灰度观察期默认 15 分钟，回滚耗时 < 30 秒。
四类被验证过的落地场景
场景以不对称布局陈列：左侧为业务诉求与量化目标，右侧为星河视觉下的真实运行画面。
01
智能客服与知识问答
接入企业知识库做检索增强，首答命中率 86%，人工转接率下降 33%，单次会话成本压到 0.04 元。
02
工业质检与视觉识别
边缘推理节点 8ms 出结果，缺陷召回 97.5%，误检率控制在 1.2% 以内。
03
内容生成与品牌形象
品牌风格微调后，素材一致度评分 4.6/5，单条创意出图时间从 25 分钟降至 90 秒。
04
金融风控与实时决策
特征在线计算 + 模型实时打分，风控决策链路 45ms 完成，日均处理 2.4 亿次请求。
四步接入，最快当天出结果
每一步都给出建议耗时与验收口径，避免团队在环境配置与权限申请上反复消耗。
Step 01
接入数据源
对象存储或数据库直连，首次全量同步建议 ≤ 500GB；增量同步延迟可压到 5 分钟内。
Step 02
提交训练任务
用 YAML 声明镜像、数据集与卡型；千卡以内任务提交后 3 分钟内进入运行态。
Step 03
评测与灰度
内置 12 类评测集，指标未达阈值自动拦截；灰度放量按 5%→25%→100% 三档推进。
Step 04
发布与观测
发布即接监控，P99 延迟、错误率、Token 成本三块看板默认开启，异常 1 分钟内告警。
三种交付形态，按团队阶段选
下表为实测与合同约束口径的对比，便于在自建、托管与混合之间做出可量化的取舍。
自建集群方案
适合已有 IDC 与运维团队、数据不出内网的组织；需自行承担调度层与可观测层建设。
适用：合规要求极高、算力预算稳定。
避坑：先做存储带宽压测，避免训练时 IO 成为瓶颈。
避坑：先做存储带宽压测，避免训练时 IO 成为瓶颈。
全托管星河平台
开箱即用，按秒计费，弹性扩缩；适合算法团队聚焦模型迭代而非基础设施。
适用：快速验证与业务高速增长期。
避坑：设置预算上限与用量告警，防止峰值跑超预算 30%。
避坑：设置预算上限与用量告警，防止峰值跑超预算 30%。
混合部署方案
训练在云端弹性扩缩，推理下沉到本地节点；兼顾成本与数据边界。
适用：推理量大且对延迟敏感。
避坑：统一模型版本号与配置中心，避免云边版本漂移。
避坑：统一模型版本号与配置中心，避免云边版本漂移。
| 对比维度 | 自建集群 | 全托管星河 | 混合部署 |
|---|---|---|---|
| 上线周期 | 4–6 周 | 1–3 天 | 1–2 周 |
| GPU 利用率 | 52% | 78% | 69% |
| 推理 P99 延迟 | 92ms | 68ms | 74ms |
| 弹性扩缩能力 | 弱 | 强 | 中 |
| 数据边界控制 | 完全内网 | 平台托管 | 分层可控 |
上线前必须核对的六条硬指标
按此清单逐项打勾，可把首次生产上线的返工率压到 10% 以内，并让科技感设计背后的工程指标可追溯。
✓
设定显存与批大小基线
先用 batch=8 跑通，再按 1.5 倍步长压测；显存占用超过卡容量 85% 即回退，避免 OOM 中断训练。
✓
固定随机种子与版本号
数据、镜像、依赖三层版本全部锁定；可复现率目标 ≥ 98%，否则评测结论不可信。
✓
先压测再灰度
用 10% 真实流量压测，确认 P99 < 120ms、错误率 < 0.5% 再放量，每档观察 15 分钟。
✓
配置成本熔断
按日预算设 80% 预警、100% 熔断；Token 单价与单次请求成本写入看板，周环比波动超 20% 需复盘。
✓
定义回滚与降级路径
保留上一个稳定版本镜像，回滚需在 30 秒内完成；模型服务降级到规则兜底，保证接口可用率 ≥ 99.9%。
✓
建立数据与隐私边界
训练数据脱敏后再入湖，推理日志默认不落原始文本；敏感字段加密存储，访问留痕可审计。