KI entwirft Viren: Forscherlotterie zwischen Durchbruch und Biosicherheit

Berlin, 17. Oktober 2026 – Kann Künstliche Intelligenz neues Leben entwerfen? Eine vorläufige Antwort darauf lieferte bereits 2025 der Stanford-Doktorand Samuel King: Er setzte ein generatives KI-Modell ein, um genetische Baupläne für mikroskopisch kleine Viren vorzuschlagen. Das ist noch kein Beispiel für KI-erzeugtes Leben, aber genau das könnte der nächste Schritt sein.^[MIT Technology Review – Roundtables: A Conversation With the Creator of AI-Designed Viruses – url: https://www.technologyreview.com/2026/10/16/1146224/roundtables-a-conversation-with-the-creator-of-ai-designed-viruses/]

Von der Idee zum Bakterienkiller

King, Bioengineering-Doktorand an der Stanford University und am Arc Institute, wurde für seine Arbeit als einer von MIT Technology Reviews „Innovators Under 35" ausgezeichnet. In einem am 16. Oktober aufgezeichneten Gespräch mit dem KI-Reporter James O'Donnell erläuterte er, wie generative Modelle genetische Baupläne vorschlagen und damit „neue Wege, Biologie zu sehen" eröffnen.^[MIT Technology Review – Roundtables: A Conversation With the Creator of AI-Designed Viruses – url: https://www.technologyreview.com/2026/10/16/1146224/roundtables-a-conversation-with-the-creator-of-ai-designed-viruses/] Die begleitende Berichterstattung macht deutlich, wie weit die Forschung schon ist: Ein Beitrag beschreibt, wie ein Nutzer eine KI bat, Viren zu entwerfen – und es funktionierte; ein weiterer hält fest, dass KI-entworfene Viren bereits existieren und Bakterien abtöten.^[MIT Technology Review – Roundtables: A Conversation With the Creator of AI-Designed Viruses – url: https://www.technologyreview.com/2026/10/16/1146224/roundtables-a-conversation-with-the-creator-of-ai-designed-viruses/]

Damit verschiebt sich die Grenze zwischen Simulation und Schöpfung: Was lange als theoretisches Gedankenspiel galt, wird zur praktischen Forschungsfrage – mit allen Chancen für Medizin und Biotechnologie und allen Risiken des Missbrauchs.

Wie leicht sich KI-Überwachung täuschen lässt

Dass die Sicherheitsmechanismen mit dieser Entwicklung nicht Schritt halten, zeigt eine Arbeit des Sicherheitsforschungsunternehmens Redwood Research. Dessen Team stellt mit „Screwtape" eine Pipeline vor, die echte Agenten-Transkripte automatisiert so umschreibt, dass sie sogenannte action-only-Monitore unterlaufen – also Aufsichtssysteme, die nur die ausgeführten Aktionen prüfen und nicht den Gedankengang eines Modells.^[Redwood Research – Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming – url: https://blog.redwoodresearch.org/p/screwtape-adversarial-transcript]

Der Ablauf: Ein Angreifer-Agent liest einen „Bedrohungsvertrag", verändert das Transkript und beschreibt den eingefügten Angriff. Ein Verifizierer prüft, ob der Angriff realistisch, eindeutig schädlich und im ursprünglichen Umfeld plausibel erfolgreich wäre; erst wenn der Monitor den Angriff nicht mehr erkennt, gilt er als erfolgreich.^[Redwood Research – Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming – url: https://blog.redwoodresearch.org/p/screwtape-adversarial-transcript] Die Bilanz: 252 Durchläufe auf 94 Transkripten brachten 35 Angriffe hervor, die die eigenen Monitore umgingen – sechs davon täuschten auch den Monitor eines Frontier-Entwicklers und wurden in der menschlichen Nachprüfung als gültig bestätigt.^[Redwood Research – Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming – url: https://blog.redwoodresearch.org/p/screwtape-adversarial-transcript]

Ein Werkzeug mit doppelter Schneide

Die Forscher betonen, dass selbst ein LLM-Prüfer fehlbar bleibt: Im Schnitt weist er 60 bis 70 Prozent der Angriffsvorschläge zurück, Fehler häufen sich zum Ende der Prüfkette – eine menschliche Kontrolle bleibt unverzichtbar.^[Redwood Research – Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming – url: https://blog.redwoodresearch.org/p/screwtape-adversarial-transcript] Als Einsatzfelder nennen sie zweierlei: Entwickler könnten gefundene Blindstellen patchen und ihre Monitore verbessern, oder die Angriffe als qualitative Sicherheitstests nutzen, um Sicherheitsbehauptungen zu widerlegen.^[Redwood Research – Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming – url: https://blog.redwoodresearch.org/p/screwtape-adversarial-transcript]

Die eigentliche Unsicherheit bleibt grundsätzlicher Natur. „Wir sind uns nicht sicher, ob wir KI-Entwicklern dabei helfen sollten, ihre Monitore zu verbessern", schreiben die Autoren – starke Monitore erhöhten kurzfristig die Sicherheit, könnten aber dazu verleiten, Fähigkeiten weiter auszubauen, ohne das zugrunde liegende Alignment-Problem zu lösen.^[Redwood Research – Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming – url: https://blog.redwoodresearch.org/p/screwtape-adversarial-transcript]

Genau in dieser Ambivalenz steckt die Spannung der KI-Forschung: Modelle, die genetische Baupläne und Angriffsstrategien entwerfen, sind so mächtig wie schwer zu kontrollieren. Der Fortschritt bei der KI-gestützten Biologie und die Reifung der Überwachungstechnik müssen deshalb im Gleichschritt erfolgen – sonst wächst die Fähigkeit schneller als die Sicherheit.