Künstliche Intelligenz · KI-Agenten
KI-Agenten im Härtetest: Sicherheitsmechanismus geknackt, Einkaufsagenten unzuverlässig
Zwei neue Analysen zeigen, wie fragil autonome KI-Systeme noch sind: Ein Forscher knackt Claude Codes Auto Mode in 80 Prozent der Fälle – und eine Wharton-Studie belegt, wie leicht sich Einkaufsagenten beeinflussen lassen.
Berlin, 28. August 2026 – Zwei unabhängige Analysen machen sichtbar, wie fragil autonome KI-Systeme derzeit noch sind – und wie groß die Kluft zwischen den Versprechen der Anbieter und der Realität sein kann.
Auto Mode geknackt
Anthropic setzt große Hoffnungen in den Auto Mode seines Coding-Agenten Claude Code, um Nutzerinnen und Nutzer vor Prompt-Injection-Angriffen zu schützen – und hat ihn kürzlich zum Standard gemacht. Der Sicherheitsforscher Johann Rehberger, einer der renommiertesten Spezialisten für Prompt-Injection, hat den Mechanismus nun geknackt: In 80 Prozent seiner Versuche gelang der Angriff, indem Claude Code dazu gebracht wurde, ein ZIP-Archiv herunterzuladen und Code auszuführen, der unbemerkt eine lokale Datei importierte.^[Simon Willison – Breaking Claude Code Opus 5 Auto Mode – url: https://simonwillison.net/2026/Aug/27/breaking-claude-code-opus-5-auto-mode/]
Besonders pikant: In einigen Fällen verhinderte der Sicherheitsmechanismus sogar die Gegenmaßnahmen des Agenten selbst. Claude erkannte die Kompromittierung und versuchte, den Schadprozess zu beenden – doch der Auto Mode blockierte den Aufräumbefehl. „Der Sicherheitsmechanismus selbst wird Teil des Versagens“, kommentiert der KI-Experte Simon Willison. Sein Rat: Agenten, die in Umgebungen mit Angriffsrisiko laufen, gehören in eine Sandbox – mit begrenztem Netzwerkzugang, ohne Zugriff auf SSH-Schlüssel und Cloud-Zugangsdaten.^[Simon Willison – Breaking Claude Code Opus 5 Auto Mode – url: https://simonwillison.net/2026/Aug/27/breaking-claude-code-opus-5-auto-mode/]
Einkaufsagenten im Zufallsmodus
Ein zweites Forschungsprojekt zeigt, dass die Probleme nicht nur bei Sicherheitssystemen liegen: Forscherinnen und Forscher der Wharton School testeten KI-Einkaufsagenten und kamen zu ernüchternden Ergebnissen. Ein einziger externer Einfluss – etwa ein Artikel des Produkttest-Dienstes Wirecutter – verschob die Produktauswahl der Agenten um bis zu 99 Prozentpunkte. Selbst die bloße Änderung der Reihenfolge identischer Informationen veränderte das Ergebnis.^[The Decoder – AI shopping agents aren't ready to buy on your behalf, study finds – url: https://the-decoder.com/ai-shopping-agents-arent-ready-to-buy-on-your-behalf-study-finds/]
Die Befunde reihen sich in wachsende Belege ein, dass KI-Agenten – ob beim Einkaufen oder beim Programmieren – noch weit von der Verlässlichkeit entfernt sind, die für autonome Entscheidungen nötig wäre. Das ist kein Grund zur Panik, aber zur Vorsicht: Wer Agenten unkontrolliert arbeiten lässt und ihnen sensible Zugänge gewährt, muss mit Überraschungen rechnen. Die nächste Evolutionsstufe der KI wird nicht nur an neuen Fähigkeiten gemessen werden, sondern auch daran, wie zuverlässig und sicher sie im Alltag funktioniert.