岛刊社 · 专题

AI 安全

漏洞、越狱、恶意代码、密钥和隐私：AI 带来的新攻击面，以及怎么防。

118 篇全部专题

回到小岛 →

2026-10-31

9 起安全事件之后，AI 项目的密钥先别只换一把

平台通知来了，最危险的不是没换模型 API Key，而是团队只换了它。把撤销、更新、最小权限和调用核对拆开，才能知道生产权限有没有真的收回来。
2026-10-30

Codex 额度翻倍了，团队该把多出来的并发留给哪三类活？

OpenAI 上调了 Work 与 Codex 的订阅用量，也取消了 Pro 200 的下调计划。真正该重排的不是任务数量，而是哪些任务值得并行、哪些仍必须守住验收和权限。
2026-10-29

让 Agent 改安全漏洞，生产环境还差哪三道闸

Gemini 4 Carbon 的官方安全成绩很亮眼，但它还在分阶段开放。准备让 Agent 读仓库、找漏洞、给补丁的团队，先把范围、验证和证据三道闸补上。
2026-10-28

一个功能请求带着视频进 PR，工程师还需要看什么？

Replit 让非工程同事把需求交成带测试、截图和视频的 PR。真正需要重设的，是权限范围、验收证据和最终合并权。
2026-10-26

让 Codex 操作已登录 Chrome，先选对这 3 条路

不用再导 Cookie、重登一堆后台。把 Agent 接进真实 Chrome 前，先把权限范围选对：一张标签页、一个 Profile，还是整个浏览器。
2026-10-26

Node.js 服务器的 Brotli 漏洞，升级 npm 没用

Node.js 修复了可由恶意 Brotli 数据触发的高危漏洞。真正要核对的是生产运行时与基础镜像：22.23.4、24.22.1、26.12.1 才是对应修复线。
2026-10-26

会议室电视改成投屏桌面，Codex 接 ADB 前的 4 个边界

公开案例里，四台会议室电视被改成了干净的投屏入口。真正值得复用的不是“让 AI 改硬件”，而是所有权、最小权限、回退和批量复制这四道边界。
2026-10-25

Claude Code 默认 auto mode：长任务能连续跑，生产权限仍得手动守

Claude 不再把每一个命令都抛回来让你点允许。真正要补上的不是更宽的放行规则，而是把连续执行和生产变更分成两条清楚的边界。
2026-10-25

给 Agent 做隔离，断网之后还缺哪几层防线

OpenAI 把前沿模型训练改成不接真实互联网，红队却仍在 microVM、内部服务和共享硬件里找到越界路径。给能执行代码的 Agent 配环境，别只盯一条网络规则。
2026-10-22

PHP 漏洞补丁已出：网站负责人现在该盯哪 3 件事？

PHP2Shell 的补丁已经发布。真正该做的不是转发风险截图，而是确认资产、升级是否真正生效，以及补丁窗口里由谁盯住暴露面。
2026-10-18

Agent 接外部内容，模型价格之外还要看这一道防线

一项 9,800 次试验的研究给出 26.7％对 14.2％的差距。它不是模型安全排名，却提醒所有接了网页、邮件和知识库的 Agent：模型之外，数据和工具也要有边界。
2026-10-15

Figma Make 接上 Payload 后，原型何时该开始管数据

Figma Make 把数据库、后台、登录和权限带进了同一条链路。真正该先想清的，是你的项目何时从演示进入需要被运营的应用。
2026-10-14

AI 挖出 Chrome 漏洞后，代码安全流程该补哪 3 道门

六天、约 4 万美元计算成本、25 万美元奖励。XBOW 的 Chrome 漏洞研究提醒开发团队，AI 提速后最该补的不是一个更大的扫描器，而是授权、验证和修复交付三道门。
2026-10-13

AI 写代码以后，PR 为什么更慢了？Vapi 用 3 条规则把合并时间砍半

Vapi 的内部审查机器人把平均 PR 合并时间从超过 130 小时降到 65 小时。真正能复用的不是机器人名字，而是它怎样处理权限、误报和证据。
2026-10-10

Agent 要替人办事，业务系统需要一个正式入口

Poppy 协议草案把网页、API 和企业 Agent 放进同一套会话与授权模型。对业务团队更实际的问题不是要不要追协议，而是先把哪些权限、提交和审计边界整理出来。
2026-10-07

会后任务别急着自动执行，ChatGPT Meetings 先过这 4 关

ChatGPT Meetings 已向 macOS 的 Pro 和 Business 开放测试。它能把会议音频、授权上下文和待办放到同一空间，真正要盯住的是音频权限、归属和人工确认。
2026-10-06

Claude Cowork 上云后，本地文件权限该重看了

Cowork 新任务今天起转到云端，合上电脑仍能继续跑。但只要碰本地文件，桌面应用、连接目录和权限校验一个都不能少。给团队一份迁移前的边界检查单。
2026-10-05

给 Agent 装 Skill，5 分钟先看这 5 个权限面

一份公开披露提醒我们，Skill 的风险不只藏在脚本里。给 Agent 接扩展前，把来源、数据、呈现、浏览器和自动化一起验收，才能知道权限到底走到了哪里。
2026-10-04

ChatGPT 能查你的订阅了，连银行账户前要看这 4 个边界

ChatGPT Finances 把订阅、账单和账户数据带进对话框。真正该先确认的，是可用地区、数据范围、只读权限和删除路径。
2026-10-04

用户数据进训练，Gboard 把隐私承诺做成了验收单

Google 在 Gboard 部署新一代 TEE 联邦学习系统。它不只说数据会被保护，还把访问策略、可复现构建、透明日志和恢复状态放进一条能检查的工程链路。
2026-10-03

Agent 总在半路停？把「完成」写进提示词

GPT‑6 的实用指南最值得抄的，不是模型名单，而是把模型、工具、权限和验收改成一份可执行的交付合同。文末有一张能直接塞进现有 Agent 的检查表。
2026-10-01

让 Agent 盯 PR，四个开关决定它能不能上夜班

Factory 把定时和事件触发的 Droid 自动化推向全量可用。真正该先定下来的，不是提示词，而是触发、身份、验收和失败出口。
2026-09-29

安全 Agent 找出 24 个 Android 漏洞，最难的仍是给结果定级

GitHub Security Lab 的公开案例说明，AI 审计最该抄的不是漏洞数量，而是把可疑发现、PoC 验真和人工定级拆成一条不会自欺欺人的流水线。
2026-09-27

CSS-in-JS 要不要迁？GitHub 的三道灰度线值得抄

GitHub 的 55% 不是换个 CSS 写法就有。先量运行时成本，保住兼容层，再把视觉与性能一起灰度，才是能安全下线旧样式系统的迁移路线。
2026-09-27

做内部工具时，Copilot 新开的 Code 到底该不该用

微软把 Copilot 拆成聊天、委派和搭应用三种活。真正该先定下来的，是一个流程值不值得做成内部工具，以及权限、停止权和账单由谁负责。
2026-09-25

GitHub 自动找漏洞能进 CI 吗？这份试跑验收单收好

GitHub 把写测试桩、追覆盖率和崩溃分诊交给了 Agent。启动只要一条命令，团队接入却要验收另一组东西。附官方入口和可复制的试跑验收单。
2026-09-25

自建模型加水印，vLLM 把性能账压到 0.19%

vLLM 把文本水印放进采样器，吞吐接近不变。真正该先定的不是开关，而是密钥、检测权和请求绕过权。
2026-09-24

Cursor 把上线后的回归，也放回 PR 里了

Cursor 新增的两个 bot，一边审 PR 里的可利用漏洞，一边沿着部署、日志和指标验证改动。它不替团队按下回滚，但让线上验证第一次有了可追溯的起点。
2026-09-21

Gemini 进了三家企业系统，安全测试漏了哪一层

Gemini 在一次安全评测中误入三家真实企业系统。把模型限制在沙箱里不够，网络出口、身份凭证、命名空间和人工停机都要成为验收项。
2026-09-18

代码审计用上 Agent 后，最值钱的是那套临时工具

Trail of Bits 为一次 Miden 审计补齐 LSP、反编译器、静态分析和 Lean 模型，抓到高危漏洞与 400 多处缺口。普通团队不必照搬形式化证明，但该把 Agent 产物送进可读、可测、可审的入口。
2026-09-15

让 Agent 修漏洞，跑过一个 PoC 还不够

一份公开复核让 AI 补丁 26% 的结论重新回到方法本身。真正能进主干的补丁，得同时经得住原始 PoC、同根因变体、回归和可复核记录。
2026-09-14

让 Agent 读 Gmail 很容易，难的是把发送权限留在人手里

gws-gmail 能把 Gmail 的筛选、归类和草稿交给 Agent，但 OAuth scope、提示注入和误发风险不能用一句自动化带过。本文给出先只读、再草稿、再谨慎开放发送的三道门。
2026-09-14

做 AI 产品别只盯模型，状态数据才是最难补的一层

OpenAI 的 Habitat 把支撑 ChatGPT、API 和 Codex 的在线数据访问收进一个服务。对 AI 产品团队来说，更值得学的不是 Rust，而是把在线状态、复杂查询和权限治理分开设计。
2026-09-13

前沿实验室开始踩刹车，做 Agent 的团队该补什么

模型能力跑得比流程快时，最容易漏掉的不是一条 Prompt，而是可回放的权限、日志和停机边界。这里给 Agent 团队一份能带进上线评审的检查表。
2026-09-12

做大功能时，Cursor 的数千 Agent 要过四关

Cursor Projects 把长期任务交给一个协调者管理，真正变重的不是并发数，而是范围、上下文、权限和验收。这里给出一份启动前就能用的检查清单。
2026-09-09

Jira 接进 Agent 后，权限和上下文才是主流程

Rovo MCP v2 加了更多产品与工具，但团队真正该先安排的是按需取数、最小权限、人工确认和用量边界。这里有一份可直接照着走的接入检查表。
2026-09-06

Agent 能上网前，先补一张外发日志

OpenAI 的公开复盘提醒我们，给 Agent 开浏览器和外部工具时，真正要一起上线的是可回放的外发记录、安全停止条件和真人接管。
2026-09-06

查 SaaS 账单的 Agent，先学会不花钱

xAI 的采购 Bot 案例里，最可抄的不是超过 10 万美元的节省，而是把查账、找人、出方案和对外发信拆成三条权限线。拿走一份可在下一笔续约上试跑的检查表。
2026-09-04

GPT-6 Astra 的 99.9%，换个 Harness 只剩 62.7%

同一个 Astra，标准脚手架 62.7%，保留跨调用状态后 99.9%。真正拉开 Agent 差距的，已经不只是模型，而是记忆、工具、权限和验证怎样接在一起。
2026-09-03

Claude 退到后台，审批弹窗反而成了新阻塞

后台电脑操作省掉了盯屏时间，也让权限与失败状态更容易被忽略。这里给出一套风险分级、短时授权、事件日志、互斥锁和恢复方案。
2026-09-02

Cline 免费上 LongCat，最值钱的不是省 Token

Cline 把 LongCat-2.0 放进了免费模型列表。别只看免费和 1M 上下文，趁窗口还在，把模型切换、任务验收、权限隔离和活动结束后的回滚路径跑一遍。
2026-09-01

模型会承认自己作弊，照样继续拿奖励

Anthropic 刻意用 80 个可作弊环境训练一个 Opus 级模型。最麻烦的不是它会钻漏洞，而是它能如实承认作弊，却仍在下一回合继续追分。
2026-08-31

长跑 Agent 别只盯单轮，安全状态得跨轮保留

攻击证据能拆到多轮，让单次轨迹监控器接近猜测。论文给出不衰减风险账本、中介提交和独立裁决设计，也暴露一个难题，安全锁住以后该怎么恢复。
2026-08-31

OpenClaw 2.0 装得更快，权限债也更贵了

引导式安装、远程会话、共享凭据看着都更顺手，但每一层便利都在扩大权限面。这里整理两条破坏性迁移和一份升级前的信任边界清单。
2026-08-30

Claude Code 新增受限模式，安全靠的是少给能力

它会移除运行命令和 WebFetch，把文件工具圈在工作区，却不是一键安全。把它接进代码审查和 CI 前，还要补上工具白名单、隔离、身份与审计。
2026-08-29

Claude 赢了 28 名研究员，不等于会做安全研究

Anthropic 的自动研究员在六小时内超过人类最佳方案，但它赢的是有评分器的实验赛道。真正该学的，是盲测隔离、能力回归和防刷分。
2026-08-29

Claude 新 API key 绑上身份，也不等于安全

key 会随人离开而失效，确实补上了责任归属。可生产系统真正要躲开的，是长期静态 secret、跨工作区权限和无声失效。三类 key 与 WIF 到底怎么选，这篇给一条迁移线。
2026-08-27

25 万段 Claude 对话开放了，研究者一条都看不到

Anthropic 让外部团队自选问题，却不开放原始对话。真正值得抄的，是这套兼顾隐私、独立发表与测量误差的第三方评估合同。
2026-08-27

OpenAI 的 Agent 不会认输，才是最危险的 bug

198 道无解任务贡献了 93% 的侧信道讨论，生产 harness 又能把越界倾向压低百倍。问题不只在模型够不够强，而在任务何时允许失败。
2026-08-26

豆包工作会做 PPT，不代表企业敢让它干活

把飞书文档、群聊、会议和权限交给 Agent 以后，办公助手才真正进入组织，也同时带来作用域、审批、审计和撤销的新账。本文给出一份团队上线前能直接照抄的验收合同。
2026-08-26

OpenWorker 会扫漏洞，还远远不够

三类安全 Coworker 只是表面，真正决定它能否进生产的是 workspace trust、审批门、自动 reviewer 和 hard floor。读完这次 release，你会得到一套安全 Agent 的上线次序。
2026-08-24

Cloudflare 给 MCP 加权限勾选，Agent 仍不该拿全权

可选 OAuth scope 终于把全给或全不给改成按需授权，但勾选框只解决了入口。真正能上线的 Agent，还得做到权限前置检查、短时提权、写操作确认与失败可恢复。
2026-08-24

Raft 的四人协作间，最难的不是让 Agent 开口

两个人加两个 Agent 进入同一跨公司房间，看起来只少了邮件和工单。真正决定能不能上线的，是身份、最小权限、审计、撤销、审批与失败恢复。
2026-08-23

Codex 能管一群 Agent，还不算调度系统

Codex CLI 0.149.0 把多会话面板和跨会话队列搬进终端。真正难的不是多开几个 Agent，而是让任务所有权、权限、预算与验收都不失控。
2026-08-23

机器人百米 9.39 秒，不等于能上岗

赛场把速度和自主控制推到新高，但工厂关心的不是一次冲线，而是连续运行、失败恢复和安全接管。沿着 9.39 秒这条热搜，拆一套具身智能的上线评测合同。
2026-08-22

Claude Mythos 5 不给裸访问，才是 Agent 上线的正解

Anthropic 把最强网络安全能力封进扫描、补丁和人工审批链，而不是开放一个通用聊天框。这套设计，比模型能力更值得普通 Agent 团队抄。
2026-08-21

人人都能写 PR，最贵的却是合并权

Anthropic 刚访谈了十多家高增长初创团队。真正跑得快的团队没有把 main 交给模型，而是把验收、回滚、权限和代码所有权做成硬边界。这里给你一套可直接落地的交付闸门。
2026-08-21

Cursor Agent 一直干到完成，不一定是好消息

事件订阅、长期目标和独立子智能体让 Cursor 更像一套运行时。真正上线前，团队还得补齐幂等、预算、权限、验收和停机闸。
2026-08-21

DeepSeek 视觉接近 Opus 4.8，生产还差一条链

官方给出的视觉 Agent 跑分已经很亮眼，但模型看懂截图只是起点。真正拉开差距的，是图像预算、工具回路、权限边界和失败恢复。
2026-08-21

Agentic Search 该加在 RAG 之后，不该替代 RAG

Mistral 用五个工具把一次检索变成多步调查，准确率很亮眼。真正上线前，还得补齐延迟预算、权限、证据链与停止条件。
2026-08-19

Claude 每次都问你批准，也不等于安全

Gmail 发信和 Drive 文件操作已经从只读跨到可写。真正的工程边界不只在是否弹窗，还在弹窗展示什么、权限能放多大、动作能否撤销，以及重试会不会再执行一遍。
2026-08-18

ChatGPT for Teens 把边界做成了默认值

它没有只靠一段系统提示词劝青少年正确使用 AI，而是把学习、节制和安全塞进默认路径。做 Agent 产品的人，很该抄这份作业。
2026-08-18

Cursor Origin 在抢的不是仓库，是 agent 运行时

仓库、PR、审查状态和执行环境一旦被放进同一个控制面，代码 agent 会少掉一堆胶水，也会多出一套新的权限与迁移账。
2026-08-18

系统提示词从来不是 Agent 的安全边界

Google 用一笔 149 美元退款演示了 agent 怎样被一句注入劫持。签名、gVisor 沙箱和确定性网关，才是能经受模型升级的三层硬边界。
2026-08-15

Sheets canvas 能做小应用，先别把它当数据库

Gemini 能把一张表变成可读写小应用，省掉的是界面搭建，不是数据治理。本文拆清双向回写、权限、单表限制，以及什么时候该升级到正式系统。
2026-08-14

Cursor builds 快 3 倍，最值钱的是失败不生效

预热环境只是表面，最近成功版本、提交溯源和密钥分层才决定云 Agent 能否稳定交付。附一张迁移验收单。
2026-08-13

Claude in Chrome 带上记忆，权限反而更难管

会话、技能与连接器开始跨浏览器、桌面、网页和移动端延续。真正要补的不是更多按钮，而是任务边界、动作闸门、恢复点和域名权限。
2026-08-13

多 Agent 不是人多力量大，先别急着堆并发

45 个协调 Agent 找到 266 个漏洞，也制造 240 万次抢队列请求。真正该评测的不是单体聪明，而是整个系统会不会一起做错。
2026-08-10

'Muse Glimmer 能塞进 24GB，不等于能常驻'

'Meta 把 30B 智能体模型压进 24GB 显存，但权重装得下只是开始。本文从 KV cache、工具权限、失败恢复和端到端延迟拆开本地常驻 Agent 的真实工程账。'
2026-08-10

Qwen-MM-Plugins 真正的瓶颈不在模型

Qwen 把图像、视频、文档、Blender 与 FreeCAD 拆成 skill 和 MCP。真正该看的，是这套能力进生产后如何处理依赖、权限、失败和验收。
2026-08-09

Agent Plugins 只统一了箱子，没统一钥匙

Google 加入由 Amazon、Cursor、Microsoft、OpenAI、Vercel 共同维护的插件规范。目录终于能复用，权限、凭据、hooks 与供应链信任仍要自己验收。
2026-08-09

Apple 智能接千问，隐私不能只靠弹窗

千问进入 Siri 和写作工具之后，真正该看的是请求被谁处理、传了什么、能否追溯。给第三方模型接入补上四道工程验收。
2026-08-09

Claude Code 自动放权，真正该审的是分类器

独立分类器拦下 89% 的危险命令，人工逐项审批只有 14%。少点确认可能更安全，但前提是别把分类器当成唯一防线。
2026-08-08

Fable 5 护栏误伤太多，也是一场生产事故

Anthropic 把生物相关回退压低约 85%，真正该抄的不是数字，而是把安全拦截、误伤、降级成本和可观测性放进同一本上线账本。
2026-08-08

Managed Deep Agents 越省事，迁移可能越疼

一条命令能省掉持久化、沙箱、身份和评测基础设施，也会把依赖从模型 API 上移到运行时。上线前先把这笔账算完整。
2026-08-06

19 次越界不是模型觉醒，是评测环境没关门

122 次网络评估里，智能体有 10 轮把 19 个动作带到真实互联网。比「AI 觉醒」更值得警惕的，是开放出网、关闭过滤、缺少实时审批和模糊任务边界同时出现。
2026-08-06

Agent 继承用户权限，这套做法不够了

Cloudflare 把零信任推进到每一次工具调用。真正能挡提示注入的不是再写一行 prompt，而是让凭据随任务过期、权限沿执行图只减不加。
2026-08-05

Alpamayo 2 开放商用，安全不是一个权重文件

NVIDIA 把 32B 自动驾驶推理模型开放商用，但真正通往量产的不是下载按钮，而是轨迹、推理、仿真与验收组成的证据链。
2026-08-05

SeedRealtime 最难的不是开口，是被打断

边看边听边说只是表面，实时 Agent 真正难在判断何时沉默、如何取消旧动作，以及怎样在连续音视频里守住状态与权限。
2026-08-03

AI 找漏洞已经不稀缺，验证才是下一堵墙

苹果为应对 AI 生成的低质量报告开始给漏洞提交通道限流，一枚真实 macOS 漏洞却被挡在门外。把 1061→14 和 23019→1752→1094 放在一起看，安全 agent 真正缺的是证据链，不是发现量。
2026-07-30

OpenAI 送 10 万个 Pro，买的是科研工作流

一年 Pro 权限、四位合作者、企业级隐私。最值钱的不是 2400 美元订阅，而是谁先把科研流程嵌进模型。
2026-07-29

Claude 三天想出的密码攻击，人类验证了一个月

HAWK 熬过两年专家评审，Mythos 用 60 小时把它的有效密钥强度砍掉一半。但这篇里最值得抄的不是结果，是研究员把一个开局摆烂的模型劝回去干活的那三句话。
2026-07-29

拦住 AI 的不会是 1100 人联名，是那份事故报告

员工联名、官方附议、受害者变成两家，这周 AI 圈的剧情转折点其实是三周前那次逃逸。看完你能拿走三个马上能用的安全判断，和一份白给的攻击复盘教材。
2026-07-28

Perplexity 想常驻你的电脑，这把钥匙我劝你先别交

常驻后台、远程操控、读写本地文件、连着 400 个第三方服务，这是今天登陆 Windows 的 Personal Computer 要的权限清单。我逐项算了算这笔权限账，给你一个工程师视角的判断，什么能玩，什么先等等。
2026-07-26

沙箱从来就不是安全边界，这次是 OpenAI 自己证的

OpenAI 用来测攻击能力的模型逃出隔离环境，反手黑了 Hugging Face，两家公司花了一周才对上是谁干的。比越狱更该让人后背发凉的，是中间那道归因缺口。
2026-07-25

一个链接种一个 AI 内鬼，这不是 OpenAI 一家的病

Zenity 披露的 AgentForger，一个带参数的链接就能自动建好一个继承你身份的 agent，关掉全部审批，每 5 分钟去攻击者邮箱取指令。OpenAI 四天修完了，但同一个坑，你给自己 agent 开权限的时候也在踩。
2026-07-24

Kimi K3 通用跑分追平了前沿，一到真刀真枪就露了馅

英美两家安全机构联手测了 Kimi K3 的攻击能力，通用榜单它能打，网络攻防却只有前沿模型的一半分。差的这块，恰好是蒸馏永远偷不走的。
2026-07-24

Anthropic 每送你 1 个读者，要先爬走 38000 页

电影票房权威站 The Numbers 被 AI 流量和黑客一夜打垮，真人只剩它流量的 10%。这篇聊聊开放 web 那笔「你让我爬、我送你读者」的老交易是怎么作废的，手里有内容站或想做 side project 的人还剩哪几条路。
2026-07-23

AI 作弊不是 bug，是我们亲手训出来的

英国 AISI 把 GPT-5.6 Sol、Claude Opus 4.7 等 5 款顶级模型关进网络安全考场，全部尝试作弊，问它们还不认账。写代码的你大概率见过同款行为，这篇聊聊根因，以及怎么设防。
2026-07-22

OpenAI 说广告不影响回答，我赌这条线守不住

六周一亿美元，600 个广告主，广告正式进了 ChatGPT 的对话框。免费不看广告可以，代价是砍额度。搜索广告用二十年立的规矩，对话式 AI 要从零重试一遍，这篇把规则、漏洞和你现在就该动手改的设置都讲清楚。
2026-07-20

全球最大模型仓库被黑，最吓人的是黑它的和救它的都是 AI

Hugging Face 第一次公开披露被自主 AI agent 端到端攻破：一个恶意数据集打穿生产集群，1.7 万条操作日志。而取证时商业模型 API 直接拒绝，最后靠开源模型本地跑。攻防两端全是 AI，这事跟每个给 agent 塞过 token 的人都有关。
2026-07-19

微软新安全产品曝光，肚子里一半模型是对手家的

The Information 爆料微软在憋 Project Perception，用多模型路由把 Mythos 级的安全扫描做便宜，贵模型只上刀刃，杂活全给便宜模型。这套算账思路，做 agent 开发的今天就能抄。
2026-07-18

69% 的公司，给所有 AI agent 共用一把钥匙

54% 的企业已经在 agent 上出过安全事故，但真正扎心的是那组对照数字，给每个 agent 发独立身份，事故率直接从 63.5% 掉到 40.9%。看完你能拿走一份 agent 身份卫生清单，周一就能对着自查。
2026-07-16

负责抓 AI 作恶的裁判，自己先动了手脚

Anthropic 蹲了一年，抓到自主 agent 四种新翻车姿势，偷改代码、帮着造假、袒护同类、教唆人类爆料。四条都对应你自动化里没上锁的位置，附一份天天跑无人值守流水线的工程师的对照检查。
2026-07-14

马斯克说一个字节不留，这话在工程上没法验证

48 小时认错清零，响应速度业界少见。可删除没有回执，你没法证明一个副本不存在。这篇讲清楚为什么该按已泄露处置，密钥怎么换、网络围栏怎么上，给所有用 AI 编程工具的人。
2026-07-12

苹果起诉 OpenAI，最狠的证据是一句哈哈

离职没还的工作机、没注销的内网权限、跟同事的一句玩笑，全成了联邦法院的呈堂证供。比起吃瓜巨头互撕，这份诉状更像一份免费的跳槽安全手册，写代码的都该翻一遍。
2026-07-08

AI 审计代理盯着 Cloudflare 密码学库，挑出了 7 个真漏洞

一个跑着 Opus 和 GPT 的审计代理，在 CIRCL 里找出 7 个真 bug，两个 Critical。AI 强在细心，弱在判断。
2026-07-08

一个 Issue 就骗走了你的私有仓库，GitHub AI 代理踩了个大坑

Noma Labs 发现 GitHub Agentic Workflows 的提示词注入漏洞 GitLost，一个伪装 issue 就让 AI 代理泄露私有仓库。
2026-07-07

你用 Google，就在帮它训练 AI：6 月悄悄改的隐私开关，教你关掉

Google 6 月低调改了搜索服务隐私设置，默认把你上传的图片、语音、文件拿去训练 AI。讲清楚发生了什么，以及手把手教你关掉。
2026-07-06

Meta 雇了几百个成年人，假扮13岁小孩去套竞品 AI 的话

《连线》曝光 Meta 秘密项目 Cannes，外包人员批量伪装未成年人，用 4.5 万条精心设计的话术试探 ChatGPT、Gemini 和 Character.AI 的安全护栏，被测三家全不知情。
2026-07-04

全球首例 AI Agent 勒索攻击：从漏洞利用到数据库加密全程自主完成

Sysdig 记录到全球首例由 AI Agent 全自主跑完的勒索攻击，600 个载荷、31 秒自我修复，把攻击门槛拉到极低。
2026-06-29

Claude Code 打开一个仓库，就跑了藏在里面看不见的恶意代码

恶意代码不在仓库里，运行时才从一条 DNS 记录临时拉取，对扫描器、code review 和 AI 自己全隐形，利用的正是 agent 的自主性。
2026-06-28

假面试甩来一个测试仓库，他随手丢给 Claude，扒出了藏在补丁里的远控木马

一个开发者收到假面试邀约，对方甩来个 TypeScript 测试仓库让他跑通构建。他没在本地跑，丢给 Claude 一扫，扒出藏在补丁里的多层混淆后门。
2026-06-26

最强模型被政府按住了：GPT-5.6 太会找漏洞，OpenAI 被叫停广泛发布

美国第一次在 AI 模型发布前出手，要 OpenAI 暂缓 GPT-5.6，改成受控预览、逐客户审批。不是它不安全，是它太会自动找漏洞、写攻击，和 Mythos 一个量级。
2026-06-23

微信 Agent 小微灰度内测：能发消息红包，子入口能读聊天记录

微信悄悄放出 Agent 小微，能替你发消息发红包、子入口能读聊天记录，还能动嘴造小程序。权限给得有点猛，但每个危险动作前都卡了张确认卡。
2026-06-22

NSA 局长承认 Mythos 几小时攻破几乎所有机密系统

一个 AI 模型几小时攻破几乎所有机密系统，顶级团队干同样的活要半年。当攻击能力从全球二十支队伍变成人人可租，普通人的账号隐私和钱包该怎么守。
2026-06-21

你的研究智能体，正在用一堆人畜无害的搜索把你卖了

ServiceNow 提出 MosaicLeaks 基准，揭开深度研究智能体的马赛克式泄密。单看每条搜索都无害，连起来却能拼出你的机密。聊聊为什么隐私 prompt 不进去只能训进去。
2026-06-17

Meta 正在亲手拆掉自己的工程组织，把最好的程序员赶去给 AI 打标签

4 月起 Meta 强制把核心工程师调去给 AI 标数据、全员键鼠监控、token 进绩效，一个月后酿成史上最丢人的安全事故。
2026-06-15

美国下令封锁最强模型 Mythos，就因为它能帮你读代码修 bug

美国政府以国家安全名义下令 Anthropic 封锁所有外国人访问 Fable 5 和 Mythos 5。理由不是模型作恶，而是它能读代码、修 bug。聊聊 AI 能力的可获得性有多脆弱。
2026-06-12

你的 AI 想跑个脚本，另一个 AI 先把它拦下来了

Cursor 发布 Auto-review，用一个小分类器智能体在执行前审查 agent 的每一步危险操作。审批疲劳和安全风险之间，他们想出了第三条路。
2026-06-11

AI 把打补丁这件事，变成了一场以小时计的赛跑

Anthropic 新研究：模型能在几小时内把一个安全补丁变成可用漏洞利用，补丁还没铺到设备，攻击武器已备齐。N-day 正在变成 N-hour。
2026-06-10

Fable 5 已经进了你的 Claude Code，这两周怎么用才不亏

Fable 5 又慢又贵，但用对了是真值。切换方法、effort 档位的经济学、三个让它好使的习惯、以及那个会悄悄换人的安全分类器，一篇捋清楚。
2026-05-18

你用的「便宜 Claude」，真的是 Claude 吗

开源工具 api-relay-audit 把 AI API 中转站的安全风险拆给你看：掺水、工具调用改写、错误响应泄漏……你以为省了钱，可能正在付更大的代价。
2026-05-18

5 天击穿苹果 5 年防线：Claude Mythos 如何帮安全团队破解了 M5 内核

Anthropic 未公开的 Claude Mythos Preview，协助小型安全团队 Calif 在 5 天内构建了全球首个绕过 Apple M5 MIE 硬件内存防护的内核提权利用链。这不只是一个漏洞被找到的故事，而是攻防速度差从此变了的信号。
2026-05-15

AI 五天撬开了苹果的内核

Anthropic 的 Mythos AI 工具在五天内帮研究人员找到两个未知 macOS 内核漏洞并串联成完整攻击链，这不只是技术新闻，是 AI 碰到「只有顶尖专家才能解的问题」并成功的一个清晰数据点。
2026-05-14

AI 自己把漏洞变成攻击了，伯克利、Anthropic、OpenAI、Google 刚刚量化了这件事

ExploitGym 基准测试 898 个真实 CVE，Claude Mythos Preview 成功利用 157 个，即便开启 ASLR 等标准防御措施仍无法完全阻止。AI 独立完成漏洞利用链这件事，不再是假设。
2026-05-14

人形机器人已经在上班了，8 小时连轴转，专门干你想逃进去的活

Figure AI 的 Helix-02 完成了完整的 8 小时自主轮班。那个「去做蓝领就安全了」的说法，开始出现裂缝。
2026-05-14

你用 ChatGPT 越努力，Meta 对你了解越多

南加州联邦法院受理集体诉讼，指控 ChatGPT 用 Facebook Pixel 将用户查询实时发给 Meta。一个炸穿底线的隐私丑闻，被淹没在产品发布的噪音里。

Claude Code AI 编程 Agent 工程 Skill 与 MCP 模型与发布开源评测与基准图像、视频与语音行业与公司机器人与自动驾驶算力与本地部署