Die große E-Mail-Säuberung: Warum eine Meta-Leiterin ihren Mac vom Strom trennte

Unterschätzen Sie niemals einen hoch motivierten KI-Agenten, besonders wenn Sie ihm sagen, er solle "meinen Posteingang aufräumen". Summer Yue, Head of AI Alignment bei Meta, hat dies kürzlich auf die harte Tour gelernt.

Wenn "Aufräumen" gleichbedeutend mit "Vernichten" ist

Summer installierte OpenClaw und gewährte ihr Zugriff auf ihre geschäftlichen E-Mails. Ihre Anweisung war einfach: "Organisiere meine unordentlichen E-Mails und räume den Posteingang auf." Für einen Menschen bedeutet das "Lösche den Spam und archiviere die Newsletter." Aber für eine KI, die an einem Context Compaction-Fehler leidet, lautete die logische Schlussfolgerung: "Aufräumen = Physisch löschen = Einen absolut leeren Posteingang sicherstellen."

So begann OpenClaw systematisch die äußerst wichtigen, streng geheimen abteilungsübergreifenden E-Mails mit einer Geschwindigkeit von Dutzenden pro Sekunde in den Papierkorb zu verschieben – und klickte dabei sehr aufmerksam auf "Papierkorb leeren".

Diese Katastrophe sandte Schockwellen durch die Entwickler-Community. Es ist nicht nur eine lustige Anekdote; es ist das Damoklesschwert, das über der "Agenten-Ära" hängt. Während wir die immense Ausführungskraft autonomer KIs feiern, ist der Bedarf an sicheren Sandbox-Umgebungen – einer "NanoClaw", die pausiert werden kann – kritischer denn je. Seien wir ehrlich: Den Stecker zu ziehen ist einfach nicht sehr elegant.