Fast wie ein Mensch: Warum KI-Avatare und autonome Agenten Vertrauen herausfordern

Berlin, 02. Oktober 2026 – KI-Systeme werden nicht nur leistungsfähiger, sondern auch schwerer zu durchschauen – und sie übernehmen mehr Aufgaben mit sensiblen Daten. Drei aktuelle Beiträge zeigen, wie sehr die Frage nach Vertrauen zum Kern der gesellschaftlichen Debatte wird.

Ein Anruf, der täuscht

Das Start-up Tavus hat mit Griffin nach eigener Darstellung das erste „Human Interaction Model" vorgestellt – eine Modellklasse, die echte Gespräche in Echtzeit führen soll.^[The Decoder – Nearly half of test subjects mistook Tavus' AI video avatar for a real person on a one-minute call – url: https://the-decoder.com/nearly-half-of-test-subjects-mistook-tavus-ai-video-avatar-for-a-real-person-on-a-one-minute-call/] Griffin verarbeitet Sprache, Mimik, Tonlage, Gestik und Pausen und empfängt wie erzeugt dabei Video.^[The Decoder – Nearly half of test subjects mistook Tavus' AI video avatar for a real person on a one-minute call – url: https://the-decoder.com/nearly-half-of-test-subjects-mistook-tavus-ai-video-avatar-for-a-real-person-on-a-one-minute-call/] In einer Tavus-Studie hielten 48 Prozent der Teilnehmenden Griffin nach einem einminütigen Videoanruf für einen echten Menschen – frühere Systeme kamen auf höchstens zwei Prozent.^[The Decoder – Nearly half of test subjects mistook Tavus' AI video avatar for a real person on a one-minute call – url: https://the-decoder.com/nearly-half-of-test-subjects-mistook-tavus-ai-video-avatar-for-a-real-person-on-a-one-minute-call/]

In einem von Tavus als unabhängig bezeichneten Nvidia-Test erreichte Griffin 3,83 Punkte auf der Skala, wie menschlich sich KI in der direkten Audio-Video-Konversation anfühlt; echte Menschen lagen bei 3,92, das bisher beste KI-Modell bei 2,80.^[The Decoder – Nearly half of test subjects mistook Tavus' AI video avatar for a real person on a one-minute call – url: https://the-decoder.com/nearly-half-of-test-subjects-mistook-tavus-ai-video-avatar-for-a-real-person-on-a-one-minute-call/] Eine Vorschauversion namens Griffin-Lite steht ausgewählten Testern als Forschungsvorschau zur Verfügung; eine leistungsfähigere Version soll folgen, „sobald Sicherheitsbedenken adressiert sind".^[The Decoder – Nearly half of test subjects mistook Tavus' AI video avatar for a real person on a one-minute call – url: https://the-decoder.com/nearly-half-of-test-subjects-mistook-tavus-ai-video-avatar-for-a-real-person-on-a-one-minute-call/] Als Anwendungsfälle nennt Tavus Nachhilfe, das Üben schwieriger Gespräche und kamera-basierten Techniksupport.^[The Decoder – Nearly half of test subjects mistook Tavus' AI video avatar for a real person on a one-minute call – url: https://the-decoder.com/nearly-half-of-test-subjects-mistook-tavus-ai-video-avatar-for-a-real-person-on-a-one-minute-call/]

Eine Landkarte der Agenten-Risiken

Ein zweites Feld betrifft den Datenschutz. Die Arbeitsgruppe Privacy von MLCommons hat eine Taxonomie veröffentlicht, die fünf Bereiche von Risiken beschreibt, die entstehen, wenn KI-Agenten mit sensiblen Daten umgehen.^[MLCommons – What Could Go Wrong When Agents Handle Your Sensitive Data? A New Taxonomy Answers. – url: https://mlcommons.org/2026/10/agent-privacy-risk-taxonomy-v0-1/] Die Kernaussage: Agenten schaffen Datenschutzrisiken, die Chatbots nicht haben.^[MLCommons – What Could Go Wrong When Agents Handle Your Sensitive Data? A New Taxonomy Answers. – url: https://mlcommons.org/2026/10/agent-privacy-risk-taxonomy-v0-1/] Die Version v0.1 ist offen für Rückmeldungen.^[MLCommons – What Could Go Wrong When Agents Handle Your Sensitive Data? A New Taxonomy Answers. – url: https://mlcommons.org/2026/10/agent-privacy-risk-taxonomy-v0-1/] Damit wächst die Erkenntnis, dass mit der Autonomie der Systeme auch die Verantwortung für die Daten steigt.

Zwischen Aufmerksamkeit und Gelassenheit

Wie schwer sich die Öffentlichkeit mit diesen Risiken tut, analysieren die Forscher Arvind Narayanan und Sayash Kapoor.^[AI Snake Oil – A big-tent or small-tent AI safety movement? – url: https://www.normaltech.ai/p/a-big-tent-or-small-tent-ai-safety] Sie beschreiben eine Schere zwischen „concern" und „salience": Viele Menschen äußerten Sorge, wenn man sie gezielt zur KI befrage, aber nur wenige zählten KI zu den wichtigsten Themen überhaupt. In Gallup-Umfragen liege der Anteil derer, die KI oder technischen Fortschritt als wichtigstes Problem nennen, bei etwa einem halben Prozent.^[AI Snake Oil – A big-tent or small-tent AI safety movement? – url: https://www.normaltech.ai/p/a-big-tent-or-small-tent-ai-safety] Zugleich warnen sie, dass die Dominanz der „x-risk"-Erzählung für die Sicherheitspolitik kontraproduktiv sein könne – obwohl der Befund der Unterinvestition in Vorsorge richtig sei.^[AI Snake Oil – A big-tent or small-tent AI safety movement? – url: https://www.normaltech.ai/p/a-big-tent-or-small-tent-ai-safety]

Am Beispiel von Cyberattacken durch Agentenschwärme zeigen die Autoren, wie wenig Beachtung belegbare, aber wenig spektakuläre Risiken fanden.^[AI Snake Oil – A big-tent or small-tent AI safety movement? – url: https://www.normaltech.ai/p/a-big-tent-or-small-tent-ai-safety] Hinzu kämen schleichende, „akkumulative" Risiken – etwa der Rückgang des Nachrichtenklicks und die daraus folgende Erosion des Journalismus.^[AI Snake Oil – A big-tent or small-tent AI safety movement? – url: https://www.normaltech.ai/p/a-big-tent-or-small-tent-ai-safety]

Ob ein Avatar, der für einen Menschen gehalten wird, oder ein Agent, der im Hintergrund Daten verarbeitet: Die Systeme verlassen den geschützten Chat und treten in den Alltag. Damit wird die Frage nach Vertrauen, Transparenz und Verantwortung zur gesellschaftlichen Kernfrage.