岛刊社 · 专题

算力与本地部署

算力、推理成本、芯片和在本地跑模型。

107 篇全部专题

回到小岛 →

2026-11-01

AI 代码审查进沙箱：让模型交出运行证据

让模型跑代码会把一次审查的成本拉高 10–40 倍，但它也把“我觉得这里有问题”换成了可回放的命令和输出。关键不是全量接入，而是放对门禁。
2026-10-27

做 AI 产品，先看 Anthropic 招股书里的三笔账

Anthropic 公开递交 S-1，价格区间仍未确定。比估值传闻更值得产品团队抄下来的，是按量收入、长期算力承诺与分发渠道这三笔账。
2026-10-23

428B 权重开了：想本地跑 MiniMax，显存账怎么算？

MiniMax M3.1 Flash 开放权重后，真正该算的不只是一张显卡：总权重、长上下文、服务框架与 Agent 验收，缺一层都不是“下载完就能跑”。
2026-10-21

自己部署 DeepSeek：DeepInfer 开源后，真正要补的是服务层

DeepInfer 把 DeepSeek-V4.1-Flash 的推理引擎拿了出来，但线上服务最费功夫的缓存、拆分调度和流量均衡仍要自己接。本文给出判断迁移范围的三道门。
2026-10-21

资料不敢上传云端？Mac 上的本地 Agent，先看这 3 道边界

Perplexity 把模型、编排和执行放进 Apple silicon Mac。它解决的是本地文件任务的出机边界，不代表所有联网能力都能离线完成；文末附一张任务分流表。
2026-10-20

UI 设计从截图到可落地：40 万次安装的 Skill，先给你一套设计系统

不是再给 Agent 丢一句『做高级一点』。这个高热 UI Skill 会先把页面类型、颜色、字体、状态和验收条件摊开；附安装方式、提示词模板与一次本地生成结果。
2026-10-18

Agent 要接网页搜索，DeepSeek 的 Search／Fetch 值不值得换？

DeepSeek 把搜索和网页抓取拆成了原生接口。对做 Agent 的团队，重点不是立刻换供应商，而是先用来源、失败、限速和成本四项验收，判断它能否进入生产链路。
2026-10-16

本地跑模型，RTX Spark 笔记本的 128GB 值不值得买？

RTX Spark 笔记本今天开售，128GB 统一内存很诱人。但它真正解决的是模型、上下文和私有资料放不下的问题，不是把所有 AI 任务都搬回本地。
2026-10-14

AI 挖出 Chrome 漏洞后，代码安全流程该补哪 3 道门

六天、约 4 万美元计算成本、25 万美元奖励。XBOW 的 Chrome 漏洞研究提醒开发团队，AI 提速后最该补的不是一个更大的扫描器，而是授权、验证和修复交付三道门。
2026-10-13

端侧多模态上 35B，产品团队该重做什么

MiniCPM-V 4.7 在 iPhone 17 Pro Max 上报出 3GB 内存、13+ token/s 的端侧结果。35B 能跑起来以后，端侧产品该重排的是任务分流、设备策略和验收指标。
2026-10-11

模型能力还在涨，AI 产品先撞上的可能是供电和推理成本

模型更便宜不等于 AI 项目更便宜。读完这篇，你能把上线评审从模型单价改成正确交付、重试成本和可用容量三笔账。
2026-10-08

Claude Code 跑子代理，10 万 token 是条成本分界线

Haiku 5.5 的低价只在单次提示不超过 10 万 token 时成立。把这条线写进子代理路由，才不会把便宜模型用成昂贵长会话。
2026-10-06

Claude Cowork 上云后，本地文件权限该重看了

Cowork 新任务今天起转到云端，合上电脑仍能继续跑。但只要碰本地文件，桌面应用、连接目录和权限校验一个都不能少。给团队一份迁移前的边界检查单。
2026-10-05

Agent 选模型别只看第一名，$0.57 那档已经进前五

Agent Arena 的十月快照把一件事摆到了台面上，选 Coding Agent 不能只盯榜首。把质量、单任务成本和升级条件写进同一张卡，才知道默认该用谁。
2026-10-05

聊到一半从 Claude 换成 GPT，记忆怎么带过去？拆开 pi 的模型接入层

pi 用一块九十八行的插线板接了 23 家厂商、833 个模型，中途换模型时还会把上一位的思考过程、工具编号、半截调用一一洗干净再交接。附源码拆解，和一份接本地模型只要写 id 的配置。
2026-10-03

推理服务卡在 vLLM？Agent 写的专用引擎最高快 90%

Baseten 的实验很猛，但它真正给模型服务团队的不是替换清单，而是一套先锁定工作负载、正确性和预算，再让 Agent 优化的决策方法。
2026-09-28

Agent 总在重复调工具？小米这套止损法，成本只要 4%

别把每一次多工具调用都当成模型失控。小米公开的复盘给了一套可复核的判断顺序，帮你在 Agent 开始空转前及时刹车。
2026-09-27

CSS-in-JS 要不要迁？GitHub 的三道灰度线值得抄

GitHub 的 55% 不是换个 CSS 写法就有。先量运行时成本，保住兼容层，再把视觉与性能一起灰度，才是能安全下线旧样式系统的迁移路线。
2026-09-24

代码不出电脑，Google Agent 本地跑要 24GB 内存

Google 给 Antigravity SDK 补上了本地模型通路。离线并不等于把所有活交给小模型，先从审代码、补丁验证这类低风险步骤开始，硬件和权限边界得自己验。
2026-09-22

AI 写得越来越快，CI 成了最贵的限速器

测试快翻四倍，Linear 反而把单测试 runner 时间砍到约一半。答案不是盲目加机器，而是先把关键路径和固定 setup 成本从流水线里挖出来。
2026-09-21

抠图、改图、换背景，这个 7B 开源模型想收进一条链路

Qwen-Image-2.1 把透明图、局部编辑和多图参考装进同一个模型。做产品素材的人少一次导出是好事，不过许可证和本地资源账也得先算清。
2026-09-20

写代码的 Agent，今天能接 Step 5 吗？答案不在 1M 上下文

Step 5 Preview 把长上下文、多轮工具调用和持续执行摆到台前。值不值得接入，不看参数海报，看任务能否验收、过程能否恢复、成本能否按成功交付计算。
2026-09-16

产品出海要翻55种语言，本地模型该不该上？

Google 的语言能力已扩到 300 多种，但产品团队真正要决定的，是哪些翻译该留在自己手里。用一张验收单判断 TranslateGemma 值不值得进本地化流程。
2026-09-09

六年预训练实验，数据把算力效率推高 12 倍

一组 7×7 对照实验把模型配方和数据语料分开重训。12 倍只是开头，更值得看的是它如何测量、哪里不能外推，以及训练预算该怎么重新分。
2026-09-07

算力预算别只看 GPU，990 亿美元也得算进去

英伟达在最新 10-Q 中披露 990 亿美元股权投资和 250 亿美元承诺。对算力采购者而言，真正该追踪的不再只是芯片报价，还有客户融资、锁定期与未来使用率。
2026-09-06

1300 万行 Lean 代码，没替人类发现新数学

Claude 用 11 天把费马大定理做成可复跑、可检查的形式化证明。真正值得盯住的，不是数字有多大，而是验证一项复杂结论的成本开始被改写。
2026-09-06

写代码选模型，GitHub 把 67% 成本差塞进路由器

HydraFusion 已在 Copilot CLI 开放研究预览。它不是替你找最强模型，而是把升级、审查和成本核算装进一次任务，附三条试用护栏。
2026-09-03

Muse Spark 1.3 少 25% Token，先别急着算省钱

官方编码比较显示工具调用约少 20%、Token 约少 25%，独立评测却给出了更高的单任务成本和更长的首字等待。选 Agent 模型，得把调用、重试、时延和验收放进同一张账单。
2026-09-02

207 个 WebGPU 内核快 2.57 倍，整模型还没跑

Hugging Face 一口气开源 207 个内核，M4 单算子几何平均快 2.57 倍。真正值得抄的不是最大跑分，而是把契约、正确性测试、基准和真实设备证据绑进同一个版本包。
2026-09-01

Solaris 没有 DOM，界面再漂亮也难上线

Runway 让世界模型逐帧生成 720p 交互界面，250 人更偏爱它的自然反馈。真正挡住上线的，却是稳定文字、测试、无障碍、事实校验、长会话和每帧成本。
2026-08-30

Uber 70% PR 归 Agent，AI 账单却没跟着涨

周请求量半年涨 9.4 倍，总支出却基本稳定。真正可抄的不是 Uber 的规模，而是它把每个合并 PR、每次审查和每个告警都算成结果成本。
2026-08-29

Claude Code 换模型，省下的 token 可能不够重建缓存

2.1.251 把模型切换前后的 hook、缓存冷热与预算放进同一条运行时链路。真正值得补的不是一段脚本，而是模型白名单、成本护栏和审计证据。
2026-08-29

Qwen3.8 27B 慢一半，干完活却没更久

同一台 Mac Studio 上，新模型从 28.6 降到约 14 tok/s，完整答案却从 72 秒缩到 67 秒；1-bit 量化更快，却在工具任务里反复改口。
2026-08-28

学 Agent 先别学框架，这条路反而更快

33 个免费 Colab 从原始 API 教 RAG、评估与 Agent 循环。真正值钱的不是资源数量，而是让你先看清框架隐藏的成本、边界和故障点。
2026-08-27

GLM-5.3 Flash 拿下 20% 流量，跑分只是第二战场

匿名上线一周就冲到 OpenRouter 周 token 份额第一。比 AA 57 分更值得看的是每任务成本、速度短板和国产卡服务栈，这三项才决定它能不能进生产。
2026-08-27

Qwen3.8 加了 51B 查表参数，模型开始像数据库了

Qwen4 的早期预览把历史压缩、稀疏检索和局部查表揉进一个模型。跑分之外，这套设计把成本从算力搬向主机内存、带宽、缓存命中率和尾延迟。
2026-08-27

500 万亿 Token 一天，跑出来的未必是产出

中国大模型日均词元调用量三个月从 140 万亿升到 500 万亿。数字背后，Agent 的重试、长上下文和工具回路正在吞掉预算，真正该量的是每个成功任务的成本。
2026-08-26

Jalapeño 跑分快，AI 写 kernel 还不能免检

OpenAI 的芯片会让 AI 自己做映射、放置和调度，部分模块快了 1.5 至 1.8 倍。真正能抄走的不是跑分，而是一套把机器优化关进回归测试的工程方法。
2026-08-26

OpenRouter 视频 API 最贵的 Bug，不在模型里

统一端点让 Seedance、Veo、Wan 切换更快，但生产系统真正会翻车的是异步任务状态、重复提交和回调重放。本文给出一份能直接落地的 job ID、幂等、恢复与成本清单。
2026-08-25

GPU 越快，AI 基础设施可能越贵

GPU 短缺缓解后，压力正迁到 HBM、CPU、SSD、电力和机房。真正该算的不是每秒多少 token，而是每个任务完成前，整条数据链要排多少队、烧多少钱。
2026-08-25

512GB 不是突破，Mac Studio 真正变的是网络

上一代本就有 512GB 内存。新款 Mac Studio 把带宽推到 1.2TB/s，并用 Thunderbolt 5 与 RDMA 组四机集群。看懂四台只快三倍，才知道本地大模型真正的成本。
2026-08-25

百万 GPU 集群，峰值带宽已经不是第一指标

MetaRoCE 把乱序、丢包和坏链路当成日常，不再逼交换机维持完美网络。读懂这套设计，你会发现 AI 集群真正昂贵的是失控的退化方式。
2026-08-25

MTIA 300 最狠的，不是把网卡塞进芯片

Meta 把 12 个 RDMA NIC、16 个消息引擎和 HCCL 一起做到 MTIA 300 里。真正值得抄的不是一组带宽数字，而是如何让数据移动、计算与验收共用一套系统设计。
2026-08-25

Thomson 最贵的东西，不在 GPU 里

4000 万美元只是明面账单。真正难复制的是把专有内容、专家分歧和生产责任变成一套能训练、能评测、能路由的系统。
2026-08-25

Vera Rubin 的 30 倍，不是一块 GPU 赢的

NVIDIA 把 Agent 效率从每秒 token 改成每兆瓦完成多少工作。拆开 30 倍的来源，你会得到一套比跑分更适合生产环境的验收方法。
2026-08-24

Claude Code 修了一个会把账单翻倍的 bug

一次代理兼容问题能让每轮请求静默重跑，另一处偏差又让本地成本少算 10%。AI Agent 的成本可观测性，已经是运行正确性的一部分。
2026-08-20

DeepSeek 缓存最高涨 1114%，Agent 成本该重算了

输出价不是这次最狠的一刀。对高缓存命中、长上下文、多轮重试的 Agent，原本最便宜的 token 正在放大账单；这篇给出按成功任务重算成本的六项表。
2026-08-20

H20 跑 DeepSeek-V4-Pro，万能配置不存在

峰值算力差距很大，真实解码速度却只差 1.42 倍。关键不是一条神参数，而是把短长上下文、低延迟与高吞吐拆成不同服务配置。
2026-08-20

FastMetal 最狠的不是 30 秒，是 3.2GB

Mac 上的本地视频生成终于不只看能不能跑。FastMetal 把 DiT、采样器和解码器留在统一内存里，也把冷启动、量化质量与无风扇机器的真实代价摊到了桌面上。
2026-08-20

模型能随便切，路由商反而更难切

OpenRouter 承诺产品、路线图与中立路由不变。真正该做的不是恐慌迁移，而是把 provider 配置、成本账、失败切换与调用日志握在自己手里。
2026-08-19

同样是 Q4_0，LFM2.5 追回 97% 量化掉分

Liquid AI 没换更大的量化格式，只把蒸馏放进 4bit 训练过程，四款模型便逼近 BF16。对本地部署团队，真正该验收的不再是 GGUF 文件名，而是模型为这个精度档付过什么训练成本。
2026-08-19

RAG 多向量检索，4874 段文本变成 60 万向量

晚期交互保住了长文里的局部证据，也把成本从模型挪到索引、延迟和运维。别急着迁移，先用一套小评测判断它值不值。
2026-08-18

Agent 成本只按模型统计，方向就错了

OpenRouter 把支出、缓存、延迟和单条请求接成了一条链。真正省钱的不是换最便宜模型，而是看清哪个工作流阶段、哪次重试和哪条缓存边界在烧钱。
2026-08-17

Mac 本地推理不缺新框架，缺的是收敛

同一个模型短跑很快，长会话却会被重复 prefill、循环状态回滚和残缺转换拖慢。本文用 MLX-LM 与 vLLM Metal 的公开数据，给出一套不被 tok/s 截图骗走的 Mac 本地模型选型法。
2026-08-17

SpaceX 600 亿美元买 Cursor，最值钱的不是编辑器

交易落地后，Cursor 接上全球最大 GPU 集群。真正改变行业的不是所有权，而是算力、模型、开发者分发和可验证代码反馈被接成一条线。
2026-08-16

AI 书卖得更差，人类作者收入还是一起掉了

14,419 本自出版小说揭开一个更麻烦的市场，AI 书单本表现弱，却靠数量抢走销量、排名与订阅池。生成成本趋零后，创作者真正要守的不是产量，而是信任、分发和可验证性。
2026-08-15

单机 Agentic RL 最值钱的不是省显卡

井字棋训练 400 步，奖励均值从约 -0.5 升到 0.4。真正值得抄的不是游戏结果，而是把 rollout、reward、工具调用和权重更新收进一条能调试的链路。
2026-08-15

dots3-note 只激活 16B，普通显卡还是跑不动

280B 总参数、16B 激活、512K 上下文听起来很省，但官方推荐的是 8 卡 FP8 节点。本文把权重、上下文和长程 Agent 三笔成本拆开。
2026-08-14

Gemini 3.7 Flash 半价，Agent 账单未必更低

推广价只管到年底，thinking token、重试与工具费才决定真实成本。用一张生产验收账，判断该不该迁。
2026-08-12

LTX-2.5 快过实时，家用显卡先别激动

6.8 秒的成绩来自两张 GB200。真正值得开发者看的，是开放权重、九套 ComfyUI 工作流和重试后的成本账。
2026-08-12

macOS 虚拟机跑 LLM 慢 16 倍，锅不在算力

同一块 M1 Ultra GPU，只因客体系统少报两项 Metal 能力，llama.cpp 就走进慢内核。看懂这次提速，也能看懂 Agent 隔离环境最容易漏掉的评测变量。
2026-08-12

Mojo 1.0 还不是 Python 杀手，先别急着迁移

真正值钱的是 1.x 兼容性合同，但合同只覆盖首批稳定 API。这篇拆清迁移成本、适用边界，以及谁该现在入场。
2026-08-11

Agent 选 Python 还是 Rust，可能根本是道伪命题

推理预算一换，语言排名就翻转；测试路径再错一层，整张榜单都在测同一个 Go 程序。真正该先选的，是评测合同。
2026-08-11

'英伟达要撬动 5000 亿美元，算力未必更便宜'

'六家资本机构要把 GPU 包成长期资产，容量可能更容易拿，合同也会更长。本文从利用率、CUDA 锁定和单位任务成本拆开 5000 亿美元背后的工程账。'
2026-08-09

LoRA 不是小数据项目的第一步，TF-IDF 才是

一份 IMDb 情感分析教程把基线、LoRA、概率校准、错误切片和伪标签串到了一起。真正值得抄的不是模型参数，而是先让便宜方案站住，再让复杂模型证明自己值回成本。
2026-08-08

Kitesurf 不该替代 Chromium，它该做便宜快车道

Kitesurf 用 V8 isolate 把网页任务压到 Chromium 七分之一内存，但速度更慢、兼容性更窄。真正能省钱的不是换引擎，而是给 Agent 做双引擎路由和失败回落。
2026-08-03

算力翻到 2.8 倍，成本未必跟着降

全国智能算力规模一年增至约 2.8 倍，但机房里的卡要穿过调度、网络、软件兼容和质量验收，才会变成开发者真正可用的算力。
2026-08-01

Agent 失败，很多时候真不是模型太笨

一条含糊的 Nothing happens，能把正确推理带进死循环。ALIGN 的实验提醒我们，模型与环境之间那层接口，正在吞掉 Agent 已经拥有的能力。
2026-08-01

Astra 把数学证明做便宜了，验收反而更贵

OpenAI 用下一代模型解出十项长期开放问题，并公开论文、Lean 证书与发现过程。约 2000 美元最值得抄的不是算力账，而是把生成、验证、署名和责任拆开的工程链路。
2026-07-31

MiniMax H3 最值钱的不是 2K，是开放权重

2K、15 秒、原生立体声都很亮眼，但 H3 真正可能改变的是视频生成的工程形态。等权重、许可证和推理栈落地，它才有机会从网页里的抽卡工具变成可编排、可部署、可验收的创作底座。
2026-07-31

SGLang 登上 TPU，CUDA 护城河松了一块

同一套 SGLang API 将横跨 GPU 与 TPU，Day 0 模型支持也写进路线图。开发者多了选择，但 JAX、Pallas 内核和多后端测试的账并没消失。
2026-07-30

Token Saver 能省 99%，也可能漏掉 10%

它把整本 PDF 留在本地，只给 Claude 相关片段。数字很漂亮，但短文档只省 14%，30 道检索题漏了 3 道。真正值得抄的是上下文工程，不是宣传数字。
2026-07-29

卡住本地大模型的不是算力，是你的硬盘

一台 64GB 的 M1 Max 跑通了 2.8T 参数的 Kimi K3，14.6 秒一个字。把这 14.6 秒拆开，真正在算数学的只有 1 秒。剩下的都在等硬盘。
2026-07-28

Perplexity 想常驻你的电脑，这把钥匙我劝你先别交

常驻后台、远程操控、读写本地文件、连着 400 个第三方服务，这是今天登陆 Windows 的 Personal Computer 要的权限清单。我逐项算了算这笔权限账，给你一个工程师视角的判断，什么能玩，什么先等等。
2026-07-27

AI 全自动写代码，卡住的不是模型，是没人敢签字

伯克利 RDI 把软件自主开发划成三级，还点名了一种正在蔓延的危险姿势，跳级。对照这把尺子量一下你的团队在哪一级，顺便聊聊为什么二级的坎不在模型能力，在验证成本。
2026-07-26

8 美元芯片跑通 28.9M 模型，端侧卡的从来不是算力

它只会写儿童故事，不会答题不会写代码。但把 25M 参数塞进 flash、每 token 只读 450 字节这一手，值得每个做端侧的人抄一遍。顺带说说 HN 上骂它没用的那批人为什么也没全错。
2026-07-23

我干的活进了红头文件，但我劝你别急着辞职单干

Harness Engineering、Token 经济、OPC 一人公司，这些圈内黑话一夜之间进了北京的正式政策。算力券和注册便利是真的，客户和现金流政策给不了。哪两条最值得细读，哪几盆冷水得先泼，这篇聊透。
2026-07-23

以后你用哪个模型，轮不到你说了算

Cursor Router 上线，满意度追平 Fable、成本砍六成，账是真的。但这笔账背后，选模型的权力正在从你手里挪到平台手里。拆一拆路由器的训练细节、满意度指标的盲区，以及被路由的你还能怎么验证。
2026-07-20

英伟达把日本变成物理 AI 国家工厂，中国的机器人牌打到哪了

日本掏出上看万亿日元补贴、拉 44 家巨头，跟英伟达共建全球首座物理 AI 国家工厂。可算力主权还攥在老黄手里。被排除在外的中国，正走一条相反的轻路。
2026-07-20

小红书开源了个库，干的是 MoE 最脏的活

几百张 GPU 里总有一批在等活，理想吞吐和真实水平能差出一倍。小红书和北大把负载均衡这件上古运维旧事搬进训练关键路径，300 微秒内实时搬专家，吞吐提升 42%。开源模型 API 越来越便宜，后厨就在这。
2026-07-19

一个人干了四个月，把 16 家的语音模型塞进同一个库

whisper.cpp 之后，本地语音转录的生态碎了一地，每换一个模型就得换一套引擎。现在有人用 ggml 把 16 个模型族缝回一个库，Qwen3-ASR 和 SenseVoice 都在列。看完这篇，你就能在自己电脑上把会议纪要跑起来。
2026-07-18

分数好到离谱，Cursor 第一反应是模型在作弊

公开榜单和开发者体感对不上之后，Cursor 自建了一套评测，分数太好还要把模型的推理记录逐条翻出来查。这篇聊聊他们怎么分辨模型是真聪明还是在背题，以及贵模型到底什么时候值得掏钱。
2026-07-18

模型抢头条的这八天，NVIDIA 悄悄换了 RAG 的地基

八天四个前沿模型刷屏的同一周，NVIDIA 开源了 Nemotron 3 Embed，8B 登顶检索基准 RTEB。官方没细算的三笔账，推理、存储、全库重嵌，这篇替你算明白，自建 RAG 的动手前先看完。
2026-07-17

AI 买走全球七成内存，你的下一台电脑在替它买单

硬盘从 350 美元涨到 800 美元还缺货，平价电脑被预测 2028 年前消失。产能去哪了、为什么偏偏是内存、这波要持续多久，最后给你一份现在装机换电脑的决策清单。
2026-07-16

975B 完整权重白给，Murati 团队卖的根本不是模型

官方公告开头先承认 Inkling 不是最强模型，转头却把完整权重挂上 Hugging Face。拆一拆这步棋的算盘，微调平台才是主菜，以及普通开发者第一次能亲手调一个一线实验室的多模态推理模型。
2026-07-14

598GB 压到 85GB，腾讯把旗舰模型塞进一张卡

295B 的 Hy3 官方量化版来了，一张 96GB 显卡就能跑。这篇把账算清楚，1bit 其实是几 bit、掉了多少能力、什么硬件跑得动、买卡和调 API 哪个划算，看完再决定要不要折腾。
2026-07-10

Devin 新模型 2 美元一次追平 GPT 5.5，底座是 Kimi

做 Devin 的 Cognition 发布 SWE-1.7，从 Kimi K2.7 基座 RL 出贴近 GPT 5.5 的编码水平，单次成本只要五分之一。后训练天花板被捅穿之后，前沿实验室的护城河还剩下什么，这篇一次聊透。
2026-07-10

25GB 内存跑 744B 模型，这哥们用 1300 行 C 干成了

一个人，一台 12 核 25GB 内存的笔记本，把完整的 GLM-5.2 跑了起来。拆一拆流式加载磁盘专家这套工程活妙在哪，冷启动 0.05 tok/s 和 370GB 磁盘的代价有多真实，以及这条路对普通开发者的真正价值。
2026-07-10

一个数据中心月租 12.5 亿美元，扎克伯格也想当包租公了

扎克伯格否认算力过剩的同一天，红杉把 AI 行业的回本门槛更新到 3 万亿美元。巨头为什么一边喊算力不够一边挂牌出租，这两本账放在一起算完，对写代码的你最直接的影响是 token 价格的走向。
2026-07-09

一块 4090 就能跑的机器人大脑，蚂蚁开源了

24 小时连开源三个具身智能模型，视频基模造数据，世界模型当练功房，VLA 是交付的大脑。哪个能商用、哪个只许研究、消费级显卡能跑到哪一步、通稿里没写的三个坑，这篇一次给你称清楚。
2026-07-04

把文字压成图片喂给 Claude Code，token 成本直接砍一大半

一个叫 pxpipe 的开源工具，利用视觉 token 只按像素计费的规则，把大块上下文渲染成图片省钱，还把有损的坑全摊在阳光下。
2026-06-29

1000 万亿韩元押注 AI：韩国财阀要建 15 座核电站规模的机房

SK 会长崔泰源宣布到 2035 年建 15GW AI 数据中心、总投资 1000 万亿韩元，一场国运级的算力豪赌。
2026-06-29

不用每次都喊最贵的模型，聊一个不调用任何模型的路由器

大多数模型路由器为了省钱反而先调一次模型。Wayfinder 反过来，只读 prompt 的结构和措辞，离线、确定性、亚毫秒地决定走本地还是云端，还诚实标出自己会判错的地方。
2026-06-28

新浪开源VibeThinker-3B：推理可压缩，事实知识不能

30亿参数小模型在AIME竞赛上飙到94.3分，跟万亿大模型掰手腕。它戳破了一个惯性认知：推理能压进小模型，事实知识压不进。
2026-06-25

思考即回忆：推理如何解锁大模型里沉睡的知识

Google Research 拆解了一个反直觉现象：让模型先想一想，它居然能答对本来想不起来的简单事实。背后是计算缓冲和事实启动两套机制。
2026-06-20

NVIDIA SpatialClaw：让智能体把代码当动作接口，免训练干翻空间推理

模型不动、工具不动，只把动作接口从结构化工具调用换成写代码，VLM 的空间推理就涨到 SOTA。接口才是那根杠杆。
2026-06-18

Matt Pocock 开源 skills v1，把技能描述的 Token 成本砍掉 63%

砍的不是功能是废话。一个 TypeScript 老炮把软件工程的老规矩拆成可组合的纪律塞进 AI，给被 vibe coding 反噬过的人。
2026-06-18

英伟达放手了：8 个 AI 智能体一夜之间教会机器人自己把显卡插进主板

英伟达 GEAR 实验室的 ENPIRE 让 8 个编程智能体整夜无人值守地教机器人插显卡、打扎带，99% pass@8，还自己发现了机器人越多进步越快的物理 scaling law。
2026-06-16

你的大模型为啥突然快了，下一代投机解码 DFlash 拆给你看

LMSYS 联合 Z Lab、Modal 发布下一代投机解码 DFlash 与 Spec V2，把大模型推理提速 4 倍背后的机制拆开讲清楚。
2026-06-15

把 FlashAttention 那套搬到老 K-Means 上，他们说比 FAISS 快 200 倍

UC Berkeley 等团队开源 Flash-KMeans，不改数学、跑标准 Lloyd's，靠重构 GPU 数据流把速度和显存一起干下来。那个 200 倍我替你摸了摸 baseline。
2026-06-12

他离开电脑几分钟，回来看见 AI 在自己开浏览器

Simon Willison 给了 Claude Fable 5 一张截图和一行提示词，然后去干家务。回来时它已经自己打开浏览器、自建截屏方案、改模板注入快捷键、还写了个本地服务器收数据。修复只有两行 CSS。
2026-05-22

400 tokens/s，国产大模型第一次把旗舰能力和极速一起做到了

智谱给旗舰模型 GLM-5.1 开了高速版，输出冲到每秒 400 个 token，刷新全球纪录。更关键的是它没换硬件，靠把推理调度抠到骨头里，第一次让快不再等于小。
2026-05-21

贾维斯改姓了，腾讯把系统级 AI 助手做进了你的电脑

腾讯操作系统层级 AI 助手马维斯正式上工，Windows、Mac、安卓三端同步上线，预装本地模型拔网线也能用。它想做的不是又一个聊天框，而是长在系统里能动手干活的数字管家。
2026-05-20

Altman 给每家 YC 公司发 200 万，不给现金给 token

OpenAI 给当批每家 YC 公司投 200 万 token 换股权，是算力即种子资本，还是变相的供应商锁定
2026-05-19

微软靠 AI 三年赚 300 亿花掉 1000 亿，Copilot 付费的人 97% 没在用

一个在微软干了 12 年、给 Nadella 当过技术顾问的人离职后公开开炮，说微软三次错过浪潮。300 亿营收对 1000 亿成本，Copilot 付费使用率不足 3%，而微软还要再投 1460 亿。AI 到底赚不赚钱，巨头好像也没算明白。
2026-05-15

AI 五天撬开了苹果的内核

Anthropic 的 Mythos AI 工具在五天内帮研究人员找到两个未知 macOS 内核漏洞并串联成完整攻击链，这不只是技术新闻，是 AI 碰到「只有顶尖专家才能解的问题」并成功的一个清晰数据点。
2026-05-10

Redis 之父一个人写了个 DS4，DeepSeek V4 在 Mac 上跑 26 tok/s

antirez 5 月 7 号在 GitHub 发了 DS4——专门给 DeepSeek V4 Flash 在 Apple Silicon 上做推理的 C+Metal 引擎。M3 Max 128GB 上 Q2 量化 26 tok/s @ 50W。一个程序员 + AI 协作 + 3 个月，专用引擎打 generalist runtime。这是单兵 hacker 的复兴时刻。

Claude Code AI 编程 Agent 工程 Skill 与 MCP 模型与发布开源 AI 安全评测与基准图像、视频与语音行业与公司机器人与自动驾驶