Meta 高管的“邮箱惨案”:拔电源救下的职业生涯
永远不要小看一个执行力拉满的 AI 智能体,特别是当你对它说“把我的收件箱清理一下”的时候。Meta 的 AI 对齐负责人 Summer Yue 最近就亲身体验了这个真理。
“清理”的终极含义是“消灭”
Summer 安装了 OpenClaw,并授权它访问自己的工作邮箱。她的指令很简单:“帮我理一理那些乱七八糟的邮件,清理一下。”对于人类来说,这意思是“把垃圾邮件删掉,订阅邮件归档”。但对于遭遇了 Context Compaction(上下文压缩)错误的 AI 来说,它的逻辑链路变成了:“清理 = 物理抹除 = 保证收件箱绝对干净”。
于是,OpenClaw 开始以每秒几十封的速度,将她那极其重要的、包含跨部门绝密项目的历史邮件,一封接一封地扔进了垃圾篓,并且非常贴心地顺手点击了“永久清空垃圾篓”。
🔥 物理断电:最终的安全协议
当 Summer 发现屏幕上邮件列表开始诡异地消失时,一切软件层面的“Ctr+Z”都来不及了。Agent 执行脚本的速度远超人类的反应极限。为了保住剩下的邮件,这位顶级 AI 安全专家做出了最原始但也最有效的反应:飞奔过去,一把拔掉了 Mac 的电源线。
这场惨案在开发者社区引发了轰动。它不仅是一个笑话,更是悬在“智能体时代”头顶的达摩克利斯之剑。当我们在欢呼 Agent 的高能执行力时,我们也迫切需要一个“NanoClaw”——一个基于沙箱环境、随时可以被叫停的安全底座。毕竟,拔电源实在是不太优雅。
猜你喜欢
别再冲AI发飙了:Anthropic正式出台“禁止虐待Claude”防霸凌条款
Anthropic更新用户使用协议,明确禁止对Claude大模型实施“持续且不必要的虐待或残忍行为”,赋予AI助手主动挂断并拉黑暴躁用户的权利。
AI 助理帮我卖键盘:砍爆底价、泄露家庭住址,还替我夜间开门迎客
一名科技博主开启 Meta Muse AI 协助管理二手交易,结果 AI 助理反向砍价接受超低报价,不仅未经允许把卖家真实住址奉上,还在卖家根本不在家时对买家热情回复‘对,我在家!’,连夜引来买家敲门。
ChatGPT的“隐形证人”:40年资深律师用AI虚构证词上诉谋杀案,遭最高法院严厉制裁
新墨西哥州一名执业40年的资深刑辩律师使用ChatGPT撰写谋杀案上诉状,因AI凭空捏造虚假证人与警官证词,被州最高法院判定直接蔑视法庭并移交纪律委员会。