Unproblematisch sind illustrative Motive, abstrakte Visuals oder Symbolbilder ohne Personenbezug. Sobald aber Authentizität Teil der Aussage wird, etwa bei Teamfotos, Standortbildern, Vorher-Nachher-Darstellungen oder angeblichen Reportageaufnahmen, kippt die Lage schnell ins Irreführungsrisiko.
Rechtlich zählt nicht nur, wie ein Bild erzeugt wurde, sondern wie es verstanden wird. Wer synthetische Inhalte wie echte Nachweise einsetzt, bewegt sich im Feld von AI Act, Lauterkeitsrecht und Persönlichkeitsrecht.
Müssen KI-Texte gekennzeichnet werden?
KI-Texte müssen nicht pauschal gekennzeichnet werden. Relevant wird die Kennzeichnung dort, wo ein Text als persönliche Erfahrung, echte Kundenstimme oder authentisches Zitat erscheint, obwohl er synthetisch erzeugt wurde.
Ein Blogartikel, ein Produkttext oder eine Leistungsbeschreibung lösen in der Regel keine eigene Kennzeichnungspflicht aus. Anders ist es bei Testimonials, fingierten Interviews, CEO-Statements oder Bewertungen, die Vertrauen über eine vermeintlich echte Quelle aufbauen.
Besonders sensibel sind Themen mit hoher Vertrauenslast, etwa Gesundheit, Finanzen, Sicherheit oder politische Kommunikation. Hier reicht technische Qualität nicht aus, entscheidend ist die saubere Einordnung:
- Fachartikel und Produkttexte: meist ohne Pflicht zur Kennzeichnung
- Kundenstimmen und Bewertungen: sehr hohes Irreführungsrisiko
- Expertenzitate und Interviews: kennzeichnen, wenn synthetisch erzeugt
- Sensible Themenfelder: konservativ und transparent behandeln
Was sind Deepfakes?
Deepfakes sind synthetische Inhalte, die realistisch wirken und über Echtheit, Herkunft oder ein tatsächliches Ereignis täuschen können. Das betrifft nicht nur politische Desinformation, sondern auch normales Marketing.
Ein fotorealistisches Porträt einer nicht existierenden Person, ein KI-Avatar mit Nähe zu einer realen Person oder eine synthetische Stimme im Stil eines Originaltons können unter diese Logik fallen. Entscheidend ist die Wirkung beim Publikum, nicht die Absicht des Absenders.
Typische Beispiele für Deepfakes
- KI-Porträt als angeblicher Mitarbeitender
- Synthetische Stimme als echter O-Ton
- Avatar mit erkennbarem Personenbezug
- KI-Pressebild zu einer Situation, die nie stattgefunden hat
"Je stärker ein Bild als Beleg einer realen Tatsache eingesetzt wird, desto eher ist eine Kennzeichnung erforderlich."
Wie ist Rechtslage?
Ab dem 2. August 2026 sind die Transparenzpflichten des EU AI Act (Art. 50) vollständig anwendbar und durchsetzbar: Deepfakes müssen gekennzeichnet, Chatbots als KI erkennbar sein. Wer bis dahin keine Kennzeichnungslogik im Workflow hat, riskiert Bußgelder von bis zu 15 Mio. € oder 3 % des globalen Jahresumsatzes.
Die Pflichten ergeben sich aus mehreren Ebenen gleichzeitig. Der EU AI Act regelt Transparenz bei bestimmten synthetischen Inhalten, das UWG verbietet irreführende Darstellungen, dazu kommen Plattformregeln, Datenschutz und das Recht am eigenen Bild.
Unternehmen und Agenturen, die GenAI-Tools für Content einsetzen, gelten im Sinne des EU AI Act als sogenannte Deployer. Das bedeutet: Wer ein KI-Tool nutzt, um Inhalte zu erstellen oder zu veröffentlichen, ist nicht Entwickler des Tools, trägt aber die Verantwortung für den Output. Die Verantwortung bleibt im eigenen Workflow: bei Freigaben, Veröffentlichung und Kennzeichnung.
Wer heute Inhalte veröffentlicht, sollte nicht auf spätere Stichtage warten. Compliance beginnt praktisch dort, wo ein Inhalt veröffentlicht wird und missverstanden werden kann.
Die relevanten Gesetze im Überblick:
- EU AI Act: https://artificialintelligenceact.eu/de/das-gesetz/
- UWG (Irreführungsverbot): https://www.gesetze-im-internet.de/uwg_2004/
- DSA (Plattformpflichten): https://eur-lex.europa.eu/eli/reg/2022/2065/oj
- KUG (Recht am eigenen Bild): https://www.gesetze-im-internet.de/kunsturhg/__22.html
- DSGVO: https://dsgvo-gesetz.de/
Wie werden KI-Inhalte richtig gekennzeichnet?
Die Kennzeichnung muss direkt am Inhalt stehen. Ein Hinweis im Footer, im Impressum oder in einer allgemeinen Policy reicht nicht aus, wenn der konkrete Inhalt selbst täuschungsanfällig ist.
In der Praxis zählen drei Regeln: Nähe zum Asset, klare Formulierung, sichtbare Ausgestaltung nach Risiko. Je realistischer und belegartiger ein Inhalt wirkt, desto deutlicher muss der Hinweis ausfallen:
- Bilder: innerhalb der Bildunterschrift oder als Markierung/Hinweis direkt im Bild
- Audio und Video: entsprechender Hinweis zu Beginn
- Texte: Hinweis am Textende
Wie werden Fehler im Workflow vermieden?
Manuelle Kennzeichnung ist unzuverlässig. Sobald mehrere Personen Inhalte erstellen, Freigaben parallel laufen und verschiedene Kanäle bespielt werden, wird Kennzeichnung schnell zum letzten Schritt und damit zum ersten Versäumnis.
Genau hier entsteht operatives Risiko. Fehlende Labels führen nicht nur zu rechtlichen Fragen, sondern auch zu unnötigen Diskussionen in Redaktion, Marketing und Freigabe.
Sauber wird der Prozess erst, wenn Klassifizierung und Auszeichnung systematisch im Workflow verankert sind. Nicht als Checkliste, sondern als Regel.
Wie kann nxttool helfen?
nxttool klassifiziert AI-generierte Bilder automatisch beim Erstellen und ordnet ihnen einen Labeltyp zu. Wie dieses Label auf der Website oder in einem Kanal erscheint, steuern definierte Regeln, nicht spontane Einzelfallentscheidungen.
Das System unterscheidet etwa zwischen Symbolbild, Illustration, synthetischer Person und KI-bearbeitetem Foto. Daraus entsteht eine konsistente Auszeichnung, die im operativen Alltag nicht vergessen werden muss.
Der Mehrwert liegt nicht in einem zusätzlichen Badge allein, sondern in der Steuerung dahinter. Kennzeichnung wird reproduzierbar, nachvollziehbar und anschlussfähig für Freigaben und Governance.
Das bietet nxttool konkret
- Automatische Klassifizierung generierter Bilder nach Inhaltstyp
- Einbettung einer Markierung/Badge direkt bei der Generierung (optional)
- Hinweis in der Bildunterschrift ohne manuellen Zwischenschritt
Was jetzt zählt
Unternehmen und Institutionen sollten jetzt klären, welche synthetischen Inhalte bereits im Einsatz sind, wo reale Personen oder Tatsachenbezüge vorkommen und ob Kennzeichnung verlässlich im Prozess verankert ist. Alles andere erzeugt unnötige Lücken.
Sinnvoll sind eine interne Policy, klare Risikostufen und ein Workflow, der Kennzeichnung nicht vom Erinnerungsvermögen einzelner Personen abhängig macht.
Wenn ihr Fragen habt oder mehr über die spezifischen Features von nxttool zur Kennzeichnung KI-generierter Inhalte erfahren möchten, stehen wir gerne zur Verfügung.
Dieser Artikel ist eine redaktionelle Orientierungshilfe, keine Rechtsberatung. Für den Einzelfall empfiehlt sich anwaltliche Prüfung.
Häufige Fragen zur Kennzeichnung von KI-Inhalten
Müssen KI-Inhalte gekennzeichnet werden?
KI-generierte Inhalte müssen nicht pauschal auf jeder Website gekennzeichnet werden. Eine Kennzeichnung wird rechtlich relevant, wenn ein Inhalt realistisch wirkt, eine echte Person zeigt oder als persönliche Aussage, Beleg oder Kundenstimme verstanden werden kann. Maßgeblich sind vor allem der EU AI Act, das Irreführungsverbot nach UWG und ergänzende Plattformregeln.
Wann sind KI-Bilder kennzeichnungspflichtig?
KI-Bilder sind vor allem dann kennzeichnungspflichtig, wenn sie wie echte Fotos wirken oder eine reale Tatsache belegen sollen. Das gilt besonders für fotorealistische Motive, Personendarstellungen, angebliche Teamfotos, Pressebilder oder Vorher-Nachher-Kontexte. Generische Illustrationen oder abstrakte Symbolbilder ohne Personenbezug sind meist weniger kritisch, sollten aber im Zweifel klar eingeordnet werden.
Müssen KI-generierte Texte gekennzeichnet werden?
KI-generierte Texte müssen nicht automatisch als solche markiert werden. Kritisch wird es, wenn ein Text als echte Bewertung, persönlicher Erfahrungsbericht, Expertenaussage oder Interview erscheint, obwohl er synthetisch erstellt wurde. Für Blogartikel, Produkttexte und viele Social Posts ist eine Kennzeichnung oft optional, solange keine Irreführung entsteht.
Was ist im juristischen Sinne ein Deepfake?
Rechtlich ist ein Deepfake ein synthetischer Inhalt, der realistisch wirkt und Menschen über Echtheit, Herkunft oder dargestellte Ereignisse täuschen kann. Dazu können Bilder, Audio, Videos und in bestimmten Fällen auch Texte zählen. Im Marketing betrifft das zum Beispiel KI-Porträts, Voice-Cloning, Video-Avatare oder künstliche O-Töne.
Welche Regeln setzt der EU AI Act?
Der EU AI Act regelt Transparenzpflichten für bestimmte KI-Systeme und synthetische Inhalte. Unternehmen, die GenAI-Tools für Content einsetzen, handeln häufig als Deployer und müssen je nach Einsatzfall Kennzeichnung, Information und organisatorische Kontrolle sicherstellen. In der Praxis wirkt der AI Act zusammen mit UWG, DSA, DSGVO und den Regeln der jeweiligen Plattformen.
Wo muss die Kennzeichnung stehen?
Die Kennzeichnung muss direkt am jeweiligen Inhalt stehen und für Nutzende klar erkennbar sein. Geeignet sind zum Beispiel Bildunterschriften, Captions, Overlays, Video-Intros, Audio-Hinweise oder eindeutige Hinweise im unmittelbaren Umfeld des Assets. Ein allgemeiner Hinweis im Footer, Impressum oder in einer Policy-Seite reicht in der Regel nicht aus.
Welche Formulierungen sind rechtssicher geeignet?
Geeignet sind klare und einfache Formulierungen wie "KI-generiert", "KI-generiertes Symbolbild" oder "Foto, KI-bearbeitet". Die Formulierung sollte den tatsächlichen Charakter des Inhalts korrekt beschreiben und keine neue Unklarheit erzeugen. Je realistischer und täuschungsnäher ein Inhalt wirkt, desto sichtbarer und präziser sollte der Hinweis ausfallen.
Warum sind Testimonials besonders riskant?
Testimonials sind rechtlich sensibel, weil sie auf Vertrauen, Authentizität und persönlicher Erfahrung beruhen. Wenn eine Kundenstimme, ein CEO-Zitat oder ein Expertenstatement ganz oder teilweise synthetisch erstellt ist, liegt schnell eine irreführende geschäftliche Handlung nahe. Das Risiko ist besonders hoch in den Bereichen Gesundheit, Finanzen, Sicherheit und politische Kommunikation.
Wie lassen sich Kennzeichnungen automatisieren?
Kennzeichnungen lassen sich am besten automatisieren, wenn Inhalte bereits im Erstellungsprozess klassifiziert und mit festen Label-Regeln verknüpft werden. Dadurch hängt die Kennzeichnung nicht von einzelnen Redaktionsschritten, Erinnerung oder manueller Prüfung ab. nxttool ordnet generierten Bildern automatisch einen Labeltyp zu und kann die Auszeichnung regelbasiert pro Website oder Kanal ausspielen.
Inhalt
- Müssen KI-generierte Inhalte gekennzeichnet werden?
- Müssen KI-Texte gekennzeichnet werden?
- Was sind Deepfakes?
- Wie ist Rechtslage?
- Wie werden KI-Inhalte richtig gekennzeichnet?
- Wie werden Fehler im Workflow vermieden?
- Wie kann nxttool helfen?
- Was jetzt zählt
Zuletzt aktualisiert:
Kuratiert von
