纵横拓扑 · 训练全链路可视
把 32~512 卡的集合通信、梯度同步与检查点写入画成一张可缩放网络图,异常边自动高亮为暖橙色,避免在几十张日志表里翻找。
平台把分布式训练节点、推理网关与特征管道映射为一张可视化的「纵横网」:每条边都带吞吐、时延与成本标签,让科技感设计服务于真实判断,而不是只做装饰。
实时拓扑 · 15s 刷新
每张卡片对应一个可观测维度,指标均来自真实链路采样,而非估算。
把 32~512 卡的集合通信、梯度同步与检查点写入画成一张可缩放网络图,异常边自动高亮为暖橙色,避免在几十张日志表里翻找。
用低饱和 mesh 渐变区分训练 / 推理 / 评估三类流量,同一色系下靠明度分层,长时间盯屏也不刺眼。
指标浮层使用 backdrop-filter 磨砂 + 顶部 1px 内高光,层级分明又不遮挡底层拓扑连线。
从集群 → 节点 → 单卡三级下钻,每级带 P50/P95 时延与显存峰值,决策有据。
悬停即拉取近 5 分钟曲线,点击锁定对比基线,0.45s ease-out 过渡,不打断思路。
超大屏 12 列铺开,移动端单列堆叠,侧栏折叠为横向锚点,点按区不小于 44px。
按顺序执行即可把现有 AI 开发流程接进纵横网,每步都给了可核验的阈值。
在每个训练容器的集合通信库注入采样钩子,采集 all_reduce_time、step_time、gpu_mem_peak 三项核心指标;采样间隔建议 10~15s,单节点上报体积控制在 200KB/min 以内,避免采样本身拖慢训练。
节点 = 训练 Worker / 推理实例 / 特征服务;边 = 数据流向,必须带 4 个标签:吞吐(MB/s)、时延(ms)、重试率、单位成本。缺少任一标签的边默认灰显,不参与告警计算。
建议采用三档:P95 时延 > 80ms 记「观察」,> 150ms 记「告警」,> 300ms 记「熔断降级」。阈值按业务 SLO 反推,不要照搬他厂数值;每季度依据真实分布重算一次分位线。
每条告警必须绑定一个可执行动作:切流量、降 batch、扩容 2 卡或回滚检查点。无动作的告警直接删除,否则噪声会淹没信号——实践阈值:每周有效告警占总告警数应 ≥ 35%。
接入前后各跑 20 轮对照实验,记录首轮收敛步数、GPU 利用率与单次训练成本。若首轮收敛步数下降不足 10%,优先检查数据管道瓶颈,而不是继续加卡。
把抽象的集群状态翻译成一张能直接指挥调度的网络图。
某次 128 卡训练在第 3 小时出现 step_time 抖动。传统方式要翻 4 张表、耗时 40 分钟;在纵横网里,异常边在 15s 内被标成暖橙,直接指向两台网络带宽被抢占的 Worker。
| 环节 | 传统日志排查 | 纵横网可视化 |
|---|---|---|
| 定位耗时 | 约 40 分钟 | ≤ 3 分钟 |
| 涉及数据表 | 4~6 张 | 1 张拓扑 |
| 误判率 | 约 22% | 约 6% |
| 可复现性 | 低(依赖经验) | 高(按边回溯) |
这 6 个问题决定了平台能否真正被团队用起来。
控制在 1.5% 吞吐损耗以内。做法:只采 3~5 个核心指标、间隔 ≥ 10s、上报走独立通道并与训练进程解耦;若损耗超阈值,先把采样间隔翻倍,而不是直接砍指标。
渐变只做「区域底色」和「节点光晕」,数值一律使用高对比中性文字。数据可视化区域禁用高饱和填充,保证色弱用户也能区分——色相之外必须叠加线型或图形差异。
默认只展示「异常边 + 关键路径边」,其余折叠。经验阈值:首屏可见边控制在 60 条以内,超过后按时延分位排序取 Top 20%。
可以。为每个集群分配独立命名空间前缀,边的时延指标统一走相对时钟校正;跨云边额外标注出口费用,避免只看性能不看成本。
移动端保留:拓扑缩略图、Top 5 异常边、以及可一键执行的 3 个操作。下钻表格转为横向滚动,点按区不小于 44px,保证值班时手机也能处置。
用三个量:首轮收敛步数、GPU 平均利用率、单次训练成本。接入前后各取 20 轮实验的均值做对比,差异小于 10% 就当作无显著收益,别急着对外宣传。
以下口径均来自平台自身的纵横网采样,可作为数据驱动决策的基线。