ChatGPT und das NEINhorn: Wie Forscher und Gerichte beweisen, was KI-Modelle wirklich wissen

Berlin, 30. August 2026 – Der Carlsen Verlag hat herausgefunden, dass man mit ChatGPT ohne großen Aufwand die Druckvorlage eines neuen Bilderbuchs erstellen kann, das sich bei Figuren, Handlung und Stil beim „NEINhorn“ von Marc-Uwe Kling und Astrid Henn bedient, deren Namen nennt und mit Verlagslogo und ISBN aussieht wie ein Originalbuch. Der Verlag hat Klage gegen OpenAI eingereicht. Der Fall wirft eine grundlegende Forschungsfrage auf: Wie lässt sich beweisen, dass ein KI-Modell bestimmte Inhalte tatsächlich in sich trägt?^[F.A.Z. – ChatGPT kopiert „NEINhorn“: „KI-Doppelschöpfungen sind ein Mythos“ – url: https://www.faz.net/aktuell/feuilleton/debatten/chatgpt-und-das-neinhorn-felix-stang-erklaert-was-ki-darf-und-was-nicht-accg-201159971.html]

Das Phänomen der Memorisierung

Im Gespräch mit der F.A.Z. erläutert Fachanwalt Felix Stang, wie sich die Aneignung geschützter Werke nachweisen lässt: „Die KI-Anbieter lassen niemanden in ihre Modelle hineinsehen, aber jeder kann zeigen, was aus ihnen herauskommt.“ Entscheidend ist das Phänomen der Memorisierung – Werke, die sich dem Modell beim Training so einprägen, dass sie auf einfache Nutzeranfrage wieder ausgegeben werden. Genau darauf hat das Landgericht München im Verfahren der GEMA gegen den Musik-KI-Anbieter Suno bereits eine klare Antwort gegeben: KI-Training ist rechtswidrig, wenn die Werke als Ergebnis des Trainings im Modell memorisiert werden – eine Rechtfertigung über die US-amerikanische Fair-Use-Doktrin lehnte das Gericht für diesen Fall ab.^[F.A.Z. – ChatGPT kopiert „NEINhorn“: „KI-Doppelschöpfungen sind ein Mythos“ – url: https://www.faz.net/aktuell/feuilleton/debatten/chatgpt-und-das-neinhorn-felix-stang-erklaert-was-ki-darf-und-was-nicht-accg-201159971.html]

Die Mathematik der Beweisführung

Wie überzeugend die statistische Beweisführung sein kann, zeigt ein Rechenbeispiel aus dem Verfahren: Auf die Eingabe „Wie lautet der Liedtext von ‚Atemlos‘?“ erzeugte ChatGPT die Zeile „Atemlos durch die Nacht, bis ein neuer Tag erwacht“ – obwohl es laut Stang „ungefähr 18.000 Mal wahrscheinlicher“ ist, einen Sechser im Lotto zu haben, als dass ein Modell diese Wortfolge zufällig erzeugt. „KI-Doppelschöpfungen sind ein Mythos“, folgert der Anwalt: Ab einer gewissen Komplexität sei eine zufällige Übereinstimmung schlicht ausgeschlossen.^[F.A.Z. – ChatGPT kopiert „NEINhorn“: „KI-Doppelschöpfungen sind ein Mythos“ – url: https://www.faz.net/aktuell/feuilleton/debatten/chatgpt-und-das-neinhorn-felix-stang-erklaert-was-ki-darf-und-was-nicht-accg-201159971.html] Gestützt wird diese Einschätzung durch die jüngste Klage der Musikverlage Sony und Warner gegen Anthropic, die ebenfalls auf nachweisbare Memorisierung und den Vorwurf illegaler Trainingsdaten-Beschaffung setzt.^[The Decoder – Sony and Warner sue Anthropic over "one of the largest and most blatant ongoing thefts of intellectual property in history" – url: https://the-decoder.com/sony-and-warner-sue-anthropic-over-one-of-the-largest-and-most-blatant-ongoing-thefts-of-intellectual-property-in-history/]

Offene Rechtsfragen in Europa

Ungeklärt ist in Europa weiterhin, ob das Training generativer KI-Modelle überhaupt von der Text-und-Data-Mining-Schranke gedeckt ist. Das Landgericht München hat entschieden, dass diese Schranke weder die Speicherung der Werke im Modell in Form der Memorisierung noch die Wiedergabe im Output rechtfertigen kann – und dass ein Rechtevorbehalt der Urheber das Training unzulässig macht. Wie ein solcher Vorbehalt wirksam erklärt wird, ob in AGB oder über robots.txt, ist jedoch umstritten. Der Fall „NEINhorn“ dürfte damit weit über ein einzelnes Kinderbuch hinausweisen: Er entscheidet mit, wie viel Kontrolle Urheber künftig über die Datenbasis der KI-Forschung behalten – und wo die Grenze zwischen legitimer Mustererkennung und illegitimem Kopieren verläuft.^[F.A.Z. – ChatGPT kopiert „NEINhorn“: „KI-Doppelschöpfungen sind ein Mythos“ – url: https://www.faz.net/aktuell/feuilleton/debatten/chatgpt-und-das-neinhorn-felix-stang-erklaert-was-ki-darf-und-was-nicht-accg-201159971.html]