小岛AI
| ONLINE |

小岛AI 日报

总第 30 期 2026 年 08 月 25 日 · 星期一 16 条信号
头版 · 本日长文

GPU 越快,AI 基础设施可能越贵

GPU 短缺缓解后,压力正迁到 HBM、CPU、SSD、电力和机房。真正该算的不是每秒多少 token,而是每个任务完成前,整条数据链要排多少队、烧多少钱。

读全文 →

512GB 不是突破,Mac Studio 真正变的是网络

上一代本就有 512GB 内存。新款 Mac Studio 把带宽推到 1.2TB/s,并用 Thunderbolt 5 与 RDMA 组四机集群。看懂四台只快三倍,才知道本地大模型真正的成本。

百万 GPU 集群,峰值带宽已经不是第一指标

MetaRoCE 把乱序、丢包和坏链路当成日常,不再逼交换机维持完美网络。读懂这套设计,你会发现 AI 集群真正昂贵的是失控的退化方式。

MTIA 300 最狠的,不是把网卡塞进芯片

Meta 把 12 个 RDMA NIC、16 个消息引擎和 HCCL 一起做到 MTIA 300 里。真正值得抄的不是一组带宽数字,而是如何让数据移动、计算与验收共用一套系统设计。

Thomson 最贵的东西,不在 GPU 里

4000 万美元只是明面账单。真正难复制的是把专有内容、专家分歧和生产责任变成一套能训练、能评测、能路由的系统。

Vera Rubin 的 30 倍,不是一块 GPU 赢的

NVIDIA 把 Agent 效率从每秒 token 改成每兆瓦完成多少工作。拆开 30 倍的来源,你会得到一套比跑分更适合生产环境的验收方法。

行业 INDUSTRY
模型 MODELS
产品 PRODUCTS
研究 RESEARCH
本期完 / SAIL WITH XIAODAO AI

← 全部期数