Journal · KI & Medien · 13. Juli 2026
Das Bild sieht echt aus. Ist es aber nicht.
KI-Inhalte kennzeichnen: Was ab 2. August 2026 gilt, wie kontrolliert wird — und was bei Verstößen drohen kann.
Ein Politiker steht plötzlich an einem Ort, an dem er nie war.
Eine bekannte Sängerin spricht in einem Video Worte, die sie nie gesagt hat.
Ein Restaurant wirbt mit einem perfekt angerichteten Gericht, das in dieser Form nie fotografiert wurde.
Ein Onlineshop zeigt ein Produkt in einer luxuriösen Wohnung, obwohl weder der Raum noch die Aufnahme real existieren.
Und unter keinem dieser Inhalte steht, dass Künstliche Intelligenz beteiligt war.
Bislang wurde darüber häufig eher moralisch als rechtlich diskutiert. Ab dem 2. August 2026 wird die Frage konkreter. Dann gelten zentrale Transparenzpflichten des europäischen AI Acts – auch KI-Verordnung genannt. Bestimmte KI-generierte oder deutlich manipulierte Inhalte müssen dann als solche erkennbar gemacht werden.
Aber die wichtigste Klarstellung lautet:
Nicht alles, was mit KI erstellt wurde, muss automatisch einen sichtbaren KI-Stempel tragen.
Die Verordnung unterscheidet zwischen KI-Anbietern, professionellen Nutzerinnen und Nutzern, täuschend echten Inhalten, redaktionell geprüften Texten und rein künstlerischen Werken.
Genau diese Unterschiede gehen in vielen Warnmeldungen derzeit verloren.
Die Transparenzvorgaben aus Artikel 50 des EU AI Acts gelten grundsätzlich ab dem 2. August 2026. Anbieter von generativen KI-Systemen müssen dann bestimmte künstlich erzeugte Inhalte technisch erkennbar machen. Unternehmen, Medien, Agenturen, Selbstständige und andere professionelle Nutzer müssen bestimmte Inhalte zusätzlich sichtbar offenlegen.
Dabei gibt es zwei Ebenen, die häufig miteinander verwechselt werden.
Die erste Ebene betrifft die Anbieter der KI-Systeme – beispielsweise Unternehmen, die Bild-, Text-, Audio- oder Videogeneratoren bereitstellen. Sie sollen künstlich erzeugte Inhalte technisch beziehungsweise maschinenlesbar kennzeichnen, soweit dies technisch möglich ist. Denkbar sind Metadaten, Herkunftsinformationen oder andere technische Markierungen.
Die zweite Ebene betrifft diejenigen, die KI-Inhalte professionell einsetzen und veröffentlichen. Sie müssen vor allem dann sichtbar informieren, wenn sogenannte Deepfakes veröffentlicht werden oder ungeprüfte KI-Texte die Öffentlichkeit über gesellschaftlich relevante Themen informieren sollen.
Private, rein persönliche Nutzung fällt grundsätzlich nicht unter dieselbe professionelle Betreiberrolle. Wer KI dagegen für ein Unternehmen, ein Medium, einen Shop, eine Kampagne oder eine berufliche Tätigkeit verwendet, kann als professioneller Nutzer beziehungsweise „Deployer" gelten.
Der Begriff wird oft nur mit gefälschten Prominentenvideos verbunden. Die gesetzliche Definition ist weiter.
Als Deepfake gilt KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt, der real existierende Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse nachbildet und fälschlich echt oder wahr wirken könnte.
Entscheidend ist deshalb nicht allein: „Wurde KI benutzt?"
Entscheidend ist eher: „Könnte ein Mensch glauben, dass diese Aufnahme ein reales Ereignis, einen echten Ort oder eine tatsächlich stattgefundene Situation zeigt?"
Eine Sportlerin wird mithilfe eines echten Referenzfotos in eine vollständig neu erzeugte Siegerszene gesetzt.
Das Gesicht ist real. Die Person existiert.
Die konkrete Aufnahme wurde jedoch nie fotografiert.
Betrachter könnten glauben, es handle sich um ein echtes Pressefoto.
Hier sollte deutlich gekennzeichnet werden:
Ein kleines „AI" irgendwo zwischen Hashtags erklärt dagegen kaum, was tatsächlich verändert wurde.
Eine bekannte Person scheint in einem Video ein Produkt zu empfehlen.
Die Stimme klingt täuschend echt. Die Aussage wurde jedoch künstlich erzeugt.
Auch hier geht es nicht nur darum, dass KI beteiligt war. Es entsteht der Eindruck, eine reale Person habe tatsächlich gesprochen oder eine bestimmte Aussage unterstützt.
Ein möglicher Hinweis wäre:
Zusätzlich können Persönlichkeits-, Werbe- oder andere Rechte betroffen sein. Eine KI-Kennzeichnung macht die Nutzung einer fremden Stimme nicht automatisch erlaubt.
Ein Restaurant veröffentlicht ein fotorealistisches KI-Bild eines Gerichts.
Das Essen wird tatsächlich angeboten. Das gezeigte Bild ist jedoch keine Aufnahme des real servierten Tellers.
Der AI Act führt nicht automatisch dazu, dass jedes künstlich erzeugte Essensbild zwingend sichtbar gekennzeichnet werden muss. Trotzdem kann eine fehlende Erklärung problematisch werden, wenn Gäste erwarten dürfen, genau das dargestellte Produkt zu erhalten.
Eine transparente Formulierung wäre:
Das ist nicht nur ein KI-Hinweis. Es verhindert eine falsche Erwartung.
Ein Onlineshop verkauft eine digitale Wandkunstdatei.
Das Produkt wird mithilfe von KI in einem hochwertigen Wohnzimmer mit schwarzem Metallrahmen, Designmöbeln und indirekter Beleuchtung gezeigt.
Der Raum existiert nicht. Der Rahmen ist nicht Bestandteil des Angebots.
Verkauft wird ausschließlich die digitale Datei.
Eine sinnvolle Kennzeichnung wäre:
Hier ist die konkrete Information sogar hilfreicher als ein pauschales „Mit KI erstellt".
Kundinnen und Kunden müssen nicht jedes verwendete Werkzeug kennen. Sie müssen verstehen, was sie tatsächlich kaufen.
Eine Werbekampagne zeigt zwei fotorealistische Menschen.
Beide wurden vollständig künstlich erzeugt.
Es wurden keine realen Personen kopiert und keine tatsächliche Situation nachgestellt.
Eine pauschale sichtbare Kennzeichnungspflicht ergibt sich daraus nicht in jedem Fall automatisch. Ob ein Deepfake vorliegt, hängt unter anderem davon ab, ob reale Personen, Orte, Objekte oder Ereignisse täuschend echt nachgebildet werden.
Trotzdem kann eine freiwillige Kennzeichnung sinnvoll sein:
Transparenz muss nicht wie eine Warnung aussehen. Sie kann Teil der kreativen Handschrift werden.
Auch hier gilt nicht: „ChatGPT benutzt = Kennzeichnung zwingend."
Bei Texten richtet sich die besondere Transparenzpflicht vor allem auf KI-generierte oder KI-manipulierte Veröffentlichungen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen.
Dazu können beispielsweise politische Entwicklungen, gesellschaftliche Debatten, Gesundheitsfragen, öffentliche Sicherheit oder aktuelle Nachrichten gehören.
Es gibt jedoch eine wichtige Ausnahme:
Wurde der Text von einem Menschen geprüft, redaktionell bearbeitet und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, entfällt diese besondere Offenlegungspflicht nach Artikel 50.
Das bedeutet: Eine Journalredaktion darf KI als Werkzeug verwenden.
Sie muss aber prüfen. Sie muss entscheiden. Und sie muss Verantwortung übernehmen.
Eine automatisch erzeugte Meldung ungeprüft zu veröffentlichen ist etwas anderes als einen KI-Entwurf journalistisch zu recherchieren, zu korrigieren und redaktionell freizugeben.
KI darf schreiben. Verantwortung lässt sich nicht automatisieren.
Nicht jede technische KI-Unterstützung führt zu einer Kennzeichnungspflicht.
Wenn KI lediglich bei üblichen Bearbeitungsschritten hilft und den ursprünglichen Inhalt oder seine Bedeutung nicht wesentlich verändert, sieht Artikel 50 Ausnahmen von der technischen Markierungspflicht vor.
Beispiele können sein:
Aber die Grenze liegt dort, wo aus Bearbeitung eine neue Realität wird.
Ein Himmel wird etwas heller? Bearbeitung.
Ein Gebäude wird vollständig ersetzt? Neue Darstellung.
Eine Falte wird entfernt? Retusche.
Ein Mensch erhält ein anderes Gesicht? Wesentliche Manipulation.
Nicht jedes Werkzeug muss offengelegt werden. Aber eine erfundene Wirklichkeit darf nicht als dokumentierte Wirklichkeit verkauft werden.
Der AI Act berücksichtigt kreative, fiktionale, satirische und künstlerische Arbeiten.
Bei offensichtlich künstlerischen oder fiktionalen Inhalten darf die Offenlegung so gestaltet werden, dass sie das Werk nicht zerstört oder seine Wahrnehmung unnötig beeinträchtigt.
Ein KI-Kunstwerk braucht deshalb nicht zwingend einen riesigen Warnbalken quer über das Motiv.
Ein dezenter Hinweis in der Bildbeschreibung, am Werk, im Abspann oder in den Produktinformationen kann je nach Fall angemessener sein.
Zum Beispiel:
Kunst muss nicht so tun, als sei sie Fotodokumentation. Aber sie muss auch nicht aussehen wie eine behördliche Hinweistafel.
Der Hinweis muss klar, unterscheidbar und spätestens beim ersten Kontakt beziehungsweise bei der ersten Wahrnehmung des Inhalts zugänglich sein.
Das spricht gegen Hinweise, die nur versteckt im Impressum stehen oder erst nach langem Suchen gefunden werden.
Eine konkrete gesetzliche Standardschriftgröße für jeden Instagram-Post gibt es nicht.
Die Information muss aber ihren Zweck erfüllen.
Menschen sollen verstehen können: Was ist künstlich erzeugt? Was wurde verändert? Und was dürfen sie nicht für eine echte Aufnahme halten?
Je sensibler und realistischer der Inhalt, desto eindeutiger sollte der Hinweis sein.
„AI" kann zu unklar sein. „KI-generierte redaktionelle Illustration – keine Originalaufnahme" erklärt deutlich mehr.
Hier beginnen viele Schlagzeilen mit der größtmöglichen Zahl.
Verstöße gegen die Transparenzpflichten aus Artikel 50 können grundsätzlich mit Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu drei Prozent des weltweiten Jahresumsatzes geahndet werden.
Diese Zahlen sind jedoch Höchstgrenzen.
Sie bedeuten nicht: „Ein vergessener Hinweis unter einem Instagram-Bild kostet sofort 15 Millionen Euro."
Bei kleinen und mittleren Unternehmen einschließlich Start-ups gilt für die jeweilige Höchstgrenze grundsätzlich der niedrigere Wert aus Festbetrag und Umsatzprozentsatz. Außerdem müssen Sanktionen verhältnismäßig sein und die wirtschaftliche Tragfähigkeit kleiner Unternehmen berücksichtigen.
Bei der tatsächlichen Bewertung sollen unter anderem berücksichtigt werden:
Das Gesetz erlaubt außerdem Warnungen und andere nichtfinanzielle Maßnahmen.
In der Praxis dürfte deshalb ein erstmaliger, schnell korrigierter Grenzfall anders behandelt werden als eine groß angelegte Kampagne, die trotz Beschwerden weiterhin bewusst täuschende Deepfakes verbreitet.
Die maximale Strafe zeigt, wie ernst die EU Manipulation nimmt. Sie ist aber kein automatischer Preis für einen vergessenen Zusatz.
Das kann riskanter sein als der ursprüngliche Fehler.
Wer Behörden auf Anfrage falsche, unvollständige oder irreführende Informationen übermittelt, kann mit eigenen Sanktionen konfrontiert werden. Der AI Act sieht dafür grundsätzlich Bußgelder von bis zu 7,5 Millionen Euro beziehungsweise bis zu einem Prozent des weltweiten Jahresumsatzes vor. Auch hier gelten für kleine und mittlere Unternehmen niedrigere Höchstgrenzen und die Verhältnismäßigkeit des Einzelfalls.
Der bessere Weg ist deshalb nicht: löschen, leugnen, hoffen.
Sondern: prüfen, korrigieren, dokumentieren.
Die Vorstellung, ab August sitze irgendwo eine Behörde und kontrolliere jeden Instagram-Post, jedes Pinterest-Bild und jede Produktbeschreibung einzeln, ist unrealistisch.
Der vorgesehene Ansatz ist eher risiko- und anlassbezogen.
Marktüberwachungsbehörden sollen Kontrollen anhand möglicher Risiken, früherer Verstöße, Beschwerden und weiterer Hinweise priorisieren. Informationen können unter anderem von anderen Behörden, Unternehmen, Medien und weiteren Quellen stammen.
Daraus lässt sich ableiten: Nicht jeder Inhalt wird automatisch manuell geprüft. Aber sichtbare, reichweitenstarke, wiederholte oder gemeldete Verstöße können deutlich schneller Aufmerksamkeit erzeugen.
1. Beschwerden
Jede natürliche oder juristische Person kann sich grundsätzlich an die zuständige Marktüberwachungsbehörde wenden, wenn sie einen Verstoß gegen den AI Act vermutet.
Das bedeutet: Eine Kundin kann sich beschweren. Ein Wettbewerber kann einen Fall melden. Ein Verband kann auf problematische Inhalte hinweisen. Auch Unternehmen und Organisationen können Beschwerden einreichen.
Kontrolle beginnt deshalb möglicherweise nicht mit einem Algorithmus. Sondern mit einem Screenshot.
2. Hinweise von Wettbewerbern, Medien und Öffentlichkeit
Die Marktüberwachung darf Hinweise aus verschiedenen Quellen berücksichtigen. Dazu gehören ausdrücklich auch Beschwerden sowie Informationen von Behörden, Marktteilnehmern, Medien und anderen Quellen.
Besonders wahrscheinlich werden Konflikte dort, wo Geld, Reichweite oder öffentliche Wirkung beteiligt sind. Zum Beispiel:
Je größer der wirtschaftliche Vorteil oder mögliche Schaden, desto relevanter wird der Fall.
3. Technische Markierungen
Anbieter generativer KI sollen künstlich erzeugte Inhalte künftig maschinenlesbar und technisch erkennbar machen, soweit dies technisch möglich ist.
Damit könnten Plattformen, Prüfwerkzeuge oder Behörden Hinweise auf die Herkunft eines Inhalts erhalten.
Das bedeutet jedoch nicht, dass jede KI-Datei künftig zweifelsfrei erkannt werden kann. Technische Markierungen können verloren gehen. Dateien werden komprimiert. Bilder werden als Screenshot gespeichert. Inhalte werden zugeschnitten oder erneut hochgeladen.
Der AI Act verlangt deshalb technische Lösungen nur im Rahmen des technisch Machbaren und berücksichtigt Grenzen, Kosten und den jeweiligen Stand der Technik.
Ein fehlender technischer Marker beweist also nicht automatisch, dass ein Inhalt menschlich erstellt wurde. Und ein entfernter Marker hebt eine sichtbare Offenlegungspflicht nicht auf.
4. Prüfungen durch Behörden
Marktüberwachungsbehörden erhalten Ermittlungs- und Kontrollbefugnisse. Prüfungen können dokumentenbasiert erfolgen und in bestimmten Bereichen auch mit technischen beziehungsweise entfernten Zugriffsmöglichkeiten verbunden sein.
Das bedeutet nicht, dass jede selbstständige Designerin künftig ihre komplette Prompt-Sammlung einreichen muss.
Welche Informationen verlangt werden dürfen, hängt vom konkreten Fall, der Rolle des Beteiligten und dem untersuchten KI-System ab.
Wer professionell mit KI arbeitet, sollte dennoch nachvollziehbar dokumentieren können:
Nicht aus Bürokratieliebe. Sondern weil Erinnerung kein belastbares Archiv ist.
Deutschland baut für die Umsetzung eine Struktur aus zentraler Koordinierung und bestehenden Fachbehörden auf.
Der Bundestag nahm das deutsche Durchführungsgesetz am 11. Juni 2026 an. Der Bundesrat fasste dazu am 10. Juli 2026 seinen Beschluss.
Nach dem deutschen KI-Marktüberwachungs- und Innovationsförderungsgesetz ist die Bundesnetzagentur als zentrale Anlauf- und Beschwerdestelle vorgesehen. Beschwerden sollen geprüft und bei Bedarf an die zuständige Marktüberwachungsbehörde weitergeleitet werden.
Je nach Bereich können daneben weitere zuständige Stellen und bestehende Aufsichtsstrukturen eine Rolle spielen.
Denn ein KI-Inhalt kann gleichzeitig Fragen des Verbraucherschutzes, der Werbung, des Datenschutzes, des Medienrechts oder der Persönlichkeitsrechte berühren.
Der AI Act ersetzt diese Regeln nicht.
Das lässt sich seriös nicht vorhersagen.
Die neuen Transparenzpflichten können jedoch neue Streitpunkte schaffen.
Besonders angreifbar könnten Inhalte sein, die gleichzeitig drei Eigenschaften besitzen:
Das Risiko liegt deshalb nicht unbedingt im offensichtlich surrealen KI-Kunstwerk.
Es liegt eher dort, wo künstliche Inhalte gezielt den Eindruck echter Beweise erzeugen.
Je stärker ein Inhalt behauptet „So war es", desto wichtiger wird die Frage: War es wirklich so?
Nein.
Pauschale Angstkennzeichnung wäre ebenso falsch wie vollständiges Verschweigen.
Die bessere Lösung lautet: so konkret wie nötig, so sichtbar wie erforderlich, so unaufdringlich wie möglich.
Für kreative Kampagnen:
Für künstlich erzeugte Szenen mit realen Personen:
Für Produkt- und Raumdarstellungen:
Für künstliche Stimmen:
Für Beispielbilder im Handel oder in der Gastronomie:
Eine gute Kennzeichnung erklärt. Sie entschuldigt sich nicht.
Die entscheidende Frage lautet: Welche Wirklichkeit behauptet dieser Inhalt?
Niemand verlangt, dass jede Rechtschreibkorrektur offengelegt wird.
Niemand braucht einen Warnhinweis, weil ein Hintergrund freigestellt wurde.
Und ein künstlerisches Werk muss nicht mit einem roten Alarmbalken zerstört werden.
Aber wenn ein künstlich erzeugtes Bild wie ein Beweis aussieht, eine Stimme wie ein echtes Zitat klingt oder ein erfundenes Ereignis als dokumentierte Realität erscheint, wird Transparenz zur Verantwortung.
Nicht, weil KI schlecht ist. Sondern weil Täuschung nicht plötzlich ehrlich wird, nur weil sie technisch brillant aussieht.
KI ist ein Werkzeug. Die Entscheidung, was Menschen glauben sollen, bleibt menschlich. 🖤
Stand: 13. Juli 2026. Dieser Beitrag dient der allgemeinen Information und ersetzt keine individuelle Rechtsberatung. Die europäischen Leitlinien zur praktischen Umsetzung werden weiter konkretisiert. Der freiwillige EU-Transparenzkodex soll Unternehmen und professionelle Nutzer bei der Umsetzung der verbindlichen Transparenzpflichten unterstützen.