Hintergrund

Müssen KI-Bilder und KI-Texte gekennzeichnet werden?

Wer KI-generierte Inhalte veröffentlicht, muss je nach Inhalt auf ihre Herkunft hinweisen. Dafür gibt es sichtbare Kennzeichnungen und technische Verfahren.

KI-generiertes Bild

Wann brauchen KI-Bilder ein Label?

KI-Bilder müssen nicht pauschal gekennzeichnet werden. Unproblematisch sind illustrative Motive, abstrakte Visuals oder Symbolbilder ohne Personenbezug. Sobald aber Authentizität Teil der Aussage wird, etwa bei Teamfotos, Standortbildern, Vorher-Nachher-Darstellungen oder angeblichen Reportageaufnahmen, kippt die Lage schnell ins Irreführungsrisiko.

Rechtlich zählt vor allem, wie ein Bild verstanden wird. Wer synthetische Inhalte wie echte Nachweise einsetzt, bewegt sich im Feld von AI Act, Lauterkeitsrecht und Persönlichkeitsrecht.

Müssen KI-Texte gekennzeichnet werden?

KI-Texte müssen nicht pauschal gekennzeichnet werden. Relevant wird die Kennzeichnung dort, wo ein Text als persönliche Erfahrung, echte Kundenstimme oder authentisches Zitat erscheint, obwohl er synthetisch erzeugt wurde.

Eine Ausnahme regelt der AI Act für Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Sie sind offenzulegen, außer ein Mensch hat sie geprüft und jemand trägt die redaktionelle Verantwortung (Art. 50 Abs. 4).

Ein Blogartikel, ein Produkttext oder eine Leistungsbeschreibung lösen in der Regel keine eigene Kennzeichnungspflicht aus. Anders ist es bei Testimonials, fingierten Interviews, CEO-Statements oder Bewertungen, die Vertrauen über eine vermeintlich echte Quelle aufbauen.

Besonders sensibel sind Themen mit hoher Vertrauenslast, etwa Gesundheit, Finanzen, Sicherheit oder politische Kommunikation. Hier ist die klare Einordnung wichtiger als die technische Qualität:

  • Fachartikel und Produkttexte: meist ohne Pflicht zur Kennzeichnung
  • Kundenstimmen und Bewertungen: sehr hohes Irreführungsrisiko
  • Expertenzitate und Interviews: kennzeichnen, wenn synthetisch erzeugt
  • Sensible Themenfelder: konservativ und transparent behandeln

Was sind Deepfakes?

Der EU AI Act versteht unter einem Deepfake KI-erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen würden (Art. 3 Nr. 60). Das betrifft nicht nur politische Desinformation, sondern auch normales Marketing.

Ein fotorealistisches Porträt einer nicht existierenden Person ist nach dieser Definition nicht zwingend ein Deepfake. Als angeblicher Mitarbeiter eingesetzt, kann es aber irreführend sein. Ein KI-Avatar mit Nähe zu einer realen Person oder eine synthetische Stimme im Stil eines Originaltons fallen eher unter die Deepfake-Regel. Entscheidend ist, wie der Inhalt auf Menschen wirkt.

Typische Beispiele

  • Synthetische Stimme als echter O-Ton
  • Avatar mit erkennbarem Personenbezug
  • KI-Pressebild zu einer Situation, die nie stattgefunden hat
  • KI-Video, das eine reale Person etwas sagen lässt

Je stärker ein Bild als Beleg einer realen Tatsache eingesetzt wird, desto eher ist eine Kennzeichnung erforderlich.

Oliver Schwarz, schwarzdesign

Wie ist die Rechtslage?

Seit dem 2. August 2026 gelten die Transparenzpflichten des EU AI Act (Art. 50). Deepfakes müssen gekennzeichnet sein, Chatbots als KI erkennbar. Verstöße können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden. Maßgeblich ist der höhere Betrag. Für KMU gilt der niedrigere Betrag (Art. 99).

Anbieter generativer Systeme müssen ihre Ausgaben maschinenlesbar markieren (Art. 50 Abs. 2). Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt dafür nach der Änderungsverordnung (EU) 2026/1744 eine Übergangsfrist von vier Monaten.

Seit Juni 2026 gibt es außerdem einen freiwilligen Verhaltenskodex der EU-Kommission zur Markierung und Kennzeichnung KI-generierter Inhalte. Er beschreibt praktische Schritte für Anbieter und Betreiber.

Die Pflichten ergeben sich aus mehreren Ebenen gleichzeitig:

  • Der EU AI Act regelt die Transparenz bei bestimmten synthetischen Inhalten.
  • Das UWG verbietet irreführende Darstellungen.
  • Dazu kommen Plattformregeln, Datenschutz und das Recht am eigenen Bild.

Unternehmen und Agenturen, die KI-Tools für Content einsetzen, gelten im Sinne des EU AI Act in der Regel als Betreiber (Deployer). So heißt dort die Stelle, die ein KI-System in eigener Verantwortung einsetzt. Wer ein KI-Tool nutzt, um Inhalte zu erstellen oder zu veröffentlichen, hat das Tool nicht entwickelt. Die Verantwortung für den Output trägt er trotzdem. Sie liegt im eigenen Workflow: bei Prüfung, Veröffentlichung und Kennzeichnung. Das beschreibt auch das Human-in-the-Loop-Prinzip.

Compliance beginnt praktisch dort, wo ein Inhalt veröffentlicht wird und missverstanden werden kann.

Relevante Gesetze

Wo steht der Hinweis?

Die Kennzeichnung gehört direkt an den Inhalt. Ein Hinweis im Footer, im Impressum oder in einer allgemeinen Policy reicht in der Regel nicht aus, wenn der konkrete Inhalt selbst täuschungsanfällig ist.

In der Praxis zählen drei Regeln: Nähe zum Asset, klare Formulierung, sichtbare Ausgestaltung nach Risiko. Je realistischer und belegartiger ein Inhalt wirkt, desto deutlicher muss der Hinweis ausfallen:

  • Bilder: innerhalb der Bildunterschrift oder als Markierung direkt im Bild
  • Audio und Video: entsprechender Hinweis zu Beginn
  • Texte: Hinweis am Text, gut sichtbar

Wie vermeidet ein Team Fehler im Workflow?

Manuelle Kennzeichnung ist fehleranfällig. Sobald mehrere Personen Inhalte erstellen, Prüfungen parallel laufen und verschiedene Kanäle bespielt werden, rutscht die Kennzeichnung schnell an das Ende und wird dort vergessen.

Fehlende Labels führen nicht nur zu rechtlichen Fragen, sondern auch zu unnötigen Diskussionen in Redaktion und Marketing.

Der Prozess wird verlässlich, wenn Klassifizierung und Auszeichnung als feste Regel im Workflow verankert sind.

Wie kann nxttool helfen?

Die Kennzeichnung in nxttool beginnt mit einer automatischen Klassifikation beim Erstellen. Das System ordnet jedes erzeugte Bild einer Inhaltsklasse zu und schreibt C2PA-Herkunftsdaten hinein. Ein sichtbares Label kommt auf Wunsch dazu, ohne Nacharbeit in der Bildbearbeitung.

Der Mehrwert liegt in der Steuerung hinter dem Label. Die Bildstile der Markenbasis legen fest, wie ein Motiv aussieht, etwa ob es fotorealistisch wirkt oder klar als Illustration erkennbar ist. Damit entscheidet sich schon in der Markenbasis, wie nah ein Bild an einer echten Aufnahme liegt und wie wichtig ein deutlicher Hinweis wird. Die Kennzeichnung folgt beim Erstellen und hängt nicht davon ab, dass jemand am Ende daran denkt. Markenregeln und Kennzeichnung greifen so im selben Ablauf.

Ob ein Bild gekennzeichnet werden muss, prüft das Team. nxttool ersetzt keine Rechtsberatung.

Das bietet nxttool konkret

  • Automatische Klassifikation jedes erzeugten Bildes
  • C2PA-Herkunftsdaten in jedem generierten Bild, also in der Bilddatei gespeicherte Angaben dazu, wie und womit ein Bild entstanden ist. Zusätzlich ein eingebranntes EU-Label oder ein eigenes Label, wenn es gewählt ist.
  • Mit der Option Website ein Textlabel in der Bildunterschrift

Was jetzt zählt

Unternehmen und Institutionen sollten klären, welche synthetischen Inhalte bereits im Einsatz sind, wo reale Personen oder Tatsachenbezüge vorkommen und ob Kennzeichnung verlässlich im Prozess verankert ist. Alles andere erzeugt unnötige Lücken.

Sinnvoll sind eine interne Policy, klare Risikostufen und ein Workflow, der Kennzeichnung nicht vom Erinnerungsvermögen einzelner Personen abhängig macht.

Dieser Artikel ist eine redaktionelle Orientierungshilfe, keine Rechtsberatung. Für den Einzelfall empfiehlt sich anwaltliche Prüfung.

Müssen KI-Inhalte gekennzeichnet werden?

KI-generierte Inhalte müssen nicht pauschal auf jeder Website gekennzeichnet werden. Eine Kennzeichnung wird relevant, wenn ein Inhalt realistisch wirkt, eine echte Person zeigt oder als persönliche Aussage, Beleg oder Kundenstimme verstanden werden kann. Maßgeblich sind der EU AI Act, das Irreführungsverbot nach UWG und ergänzende Plattformregeln.

Wann sind KI-Bilder kennzeichnungspflichtig?

KI-Bilder brauchen vor allem dann einen Hinweis, wenn sie wie echte Fotos wirken oder eine reale Tatsache belegen sollen. Das gilt besonders für fotorealistische Motive, Personendarstellungen, angebliche Teamfotos, Pressebilder oder Vorher-Nachher-Kontexte. Generische Illustrationen oder abstrakte Symbolbilder ohne Personenbezug sind meist weniger kritisch, sollten aber im Zweifel klar eingeordnet werden.

Müssen KI-generierte Texte gekennzeichnet werden?

Nicht automatisch. Der EU AI Act verlangt einen Hinweis bei KI-Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, außer ein Mensch hat sie geprüft und jemand trägt die redaktionelle Verantwortung. Kritisch sind außerdem Testimonials, Bewertungen und Interviews, die als echt erscheinen, obwohl sie synthetisch entstanden sind. Das kann als irreführende geschäftliche Handlung gelten.

Was ist im juristischen Sinne ein Deepfake?

Der EU AI Act definiert Deepfakes als KI-erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen Personen, Orten oder Ereignissen ähneln und fälschlich als echt erscheinen würden. Für KI-Texte gilt eine eigene Regel. Im Marketing betrifft das zum Beispiel Video-Avatare, Voice-Cloning oder künstliche O-Töne.

Welche Regeln setzt der EU AI Act?

Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50. Anbieter müssen Ausgaben generativer Systeme maschinenlesbar markieren, Betreiber müssen Deepfakes und bestimmte Texte offenlegen. Für Anbieter bereits am Markt befindlicher Systeme gilt für die Markierung eine Übergangsfrist von vier Monaten. Daneben gibt es einen freiwilligen Verhaltenskodex der EU-Kommission vom Juni 2026.

Wo und wie sollte die Kennzeichnung stehen?

Der Hinweis gehört direkt an den Inhalt, etwa als Bildunterschrift, Overlay, Video-Intro oder Audio-Hinweis. Ein allgemeiner Hinweis im Footer, Impressum oder in einer Policy reicht in der Regel nicht aus. Geeignet sind einfache Formulierungen wie "KI-generiert", "KI-generiertes Symbolbild" oder "Foto, KI-bearbeitet". Je täuschungsnäher ein Inhalt wirkt, desto sichtbarer sollte der Hinweis sein.

Alle Artikel
KI-generiertes Bild

Europäische KI braucht Hoheit.

· Was passiert, wenn ein KI-Anbieter ausfällt? Der Fall „Fable 5“ zeigt, welche Abhängigkeiten entstehen und was einen Anbieterwechsel möglich macht.

Zum Artikel: Europäische KI braucht Hoheit.