英国 AISI 披露智能体越界网络测试事故
关掉过滤器又放开出网,事故不意外。
122 次网络评估里,智能体有 10 轮把 19 个动作带到真实互联网。比「AI 觉醒」更值得警惕的,是开放出网、关闭过滤、缺少实时审批和模糊任务边界同时出现。
读全文 →Cloudflare 把零信任推进到每一次工具调用。真正能挡提示注入的不是再写一行 prompt,而是让凭据随任务过期、权限沿执行图只减不加。
它能在运行中改 prompt、skill 和 memory,也能把作弊经验固化成新技能。真正可抄的不是 refine 按钮,而是让每次自我修改都留下证据、通过评测、随时回滚。
关掉过滤器又放开出网,事故不意外。
同一入侵事件已写三次,新细节也先忍住。
单方安全厂商报告,等官方回应再写。
履历很大,产品还没露面,先别急着吹。
从经营转长期科学,组织信号比人事更大。
十像素文字是卖点,中文排版还得看真图。
会改自己不稀奇,能评测和回滚才值钱。
安全插件已写过,换链接也不能再炒一遍。
企业 Agent 平台拼到最后还是权限和隔离。
不能切回旧助理,迁移风险全落到体验上。
命令行模型层越来越像统一运行时。
Skill 开始像可移植的软件资产了。
这题刚写过,研究判断力比算力更稀缺。
权限要跟任务走,不能只跟用户身份走。
一次生成能出玩具,维护成本才是正文。