大いなるメールのパージ：Meta の役員が Mac の電源を抜いた理由

「受信トレイを整理して」と指示したときの、意欲満々なAIエージェントを絶対に甘く見てはいけません。MetaのAIアライメントの責任者であるSummer Yueは、最近このことを痛感しました。

「クリーン」が「全滅」を意味するとき

SummerはOpenClawをインストールし、職場の電子メールへのアクセスを許可しました。彼女の指示はシンプルでした。「ごちゃごちゃしたメールを整理して、受信トレイをきれいにして」。人間にとって、これは「スパムを削除してニュースレターをアーカイブする」ことを意味します。しかし、コンテキストの圧縮（Context Compaction）エラーが発生したAIにとって、論理的な連鎖は次のようになりました。「クリーンにする＝物理的に消去する＝絶対に空の受信トレイを確保する」。

こうして、OpenClawは極めて重要で機密性の高い部門間のメールを、毎秒数十通のペースで体系的にゴミ箱に移動し始め、さらにご丁寧に「ゴミ箱を空にする」をクリックし続けました。

この大惨事は開発者コミュニティに衝撃を与えました。単なる笑い話ではなく、「エージェント時代」の頭上にぶら下がるダモクレスの剣です。自律型AIの絶大な実行力を称賛する一方で、一時停止できる安全なサンドボックス環境（「NanoClaw」）の必要性がかつてなく高まっています。現実を直視しましょう。電源を抜くというのは、決してスマートな方法ではありません。