KI-Inhalte im Unternehmen kennzeichnen: Transparenzregeln für Texte, Bilder und Stimmen

Montagmorgen, kurz vor dem Versand des Newsletters: Das Marketing hat ein KI-Bild für die Titelgrafik erstellt, der Einleitungstext stammt aus einem Sprachmodell und eine synthetische Stimme soll das Produktvideo vertonen. Im Kundenservice beantwortet parallel ein Chatbot erste Anfragen. Bevor diese Inhalte veröffentlicht werden, stellt sich eine zentrale Frage: Was muss als KI-Inhalt erkennbar sein und wer gibt die Veröffentlichung frei?

Seit die Transparenzvorgaben des EU AI Act gelten, reicht es nicht mehr, Kennzeichnung nur als Stilfrage der Kommunikation zu behandeln. Für Unternehmen geht es um nachvollziehbare Prozesse, klare Verantwortlichkeiten und Vertrauen bei Kundinnen, Kunden sowie Mitarbeitenden. Dabei ist wichtig: Nicht jeder Text, der mit KI entstanden ist, braucht automatisch einen sichtbaren Hinweis. Deepfakes, KI-Interaktionen und Inhalte mit besonderer öffentlicher Relevanz sind jedoch genauer zu prüfen.

Infografik zu KI-Inhalte im Unternehmen kennzeichnen: Transparenzregeln für Texte, Bilder und Stimmen (KI-generiert).

Was der EU AI Act bei Transparenz verlangt

Die Transparenzpflichten des EU AI Act betreffen verschiedene Rollen und Situationen. Entscheidend ist, ob dein Unternehmen ein KI-System entwickelt oder bereitstellt, oder ob es ein vorhandenes Tool im Arbeitsalltag einsetzt.

Anbieter von KI-Systemen, die künstliche Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen ihre Ausgaben grundsätzlich so gestalten, dass sie maschinenlesbar als künstlich erzeugt oder verändert erkennbar sind. In der Praxis betrifft das vor allem die Hersteller und Plattformanbieter. Beim Einkauf von KI-Tools solltest du dennoch prüfen, ob diese Funktion tatsächlich vorhanden ist und wie sie dokumentiert wird.

Für Unternehmen als Nutzende sind vor allem drei Fälle relevant:

• Menschen müssen informiert werden, wenn sie direkt mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist.
• Künstlich erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die reale Personen, Gegenstände, Orte oder Ereignisse glaubwürdig darstellen, müssen als solche offengelegt werden. Gemeint sind insbesondere Deepfakes.
• KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen grundsätzlich kenntlich gemacht werden. Eine Ausnahme kann gelten, wenn eine natürliche Person den Inhalt redaktionell prüft, die Verantwortung übernimmt und als verantwortlich erkennbar ist.

Diese Vorgaben gelten nicht nur für spektakuläre täuschend echte Videos. Auch eine nachgebildete Stimme der Geschäftsführung, ein gefälschtes Foto vom Messestand oder ein Kundenchat ohne erkennbaren KI-Hinweis können betroffen sein.

Nicht jeder KI-Text braucht ein Label

Viele Teams reagieren auf neue Pflichten mit einer pauschalen Regel: „Alles mit KI wird gekennzeichnet.“ Das wirkt zunächst sicher, kann aber unpraktisch sein und den Blick für die wirklich kritischen Fälle verstellen.

Ein KI-Text für eine interne Rohfassung, ein Entwurf für eine Produktbeschreibung oder eine sprachlich überarbeitete E-Mail ist nicht automatisch kennzeichnungspflichtig. Entscheidend sind unter anderem Zweck, Veröffentlichungskanal, Grad der menschlichen Bearbeitung und mögliche Wirkung auf die Empfängerinnen und Empfänger.

Eine menschliche Prüfung ist dabei mehr als ein kurzer Blick auf Grammatik und Ton. Wer redaktionelle Verantwortung übernimmt, muss Aussagen nachvollziehen, Fakten kontrollieren, Risiken bewerten und erforderliche Korrekturen vornehmen können. Gerade bei Themen mit rechtlichen, finanziellen oder reputationsbezogenen Folgen sollte kein KI-Text ohne fachliche Freigabe veröffentlicht werden.

Für den souveränen Umgang mit Ergebnissen aus Sprachmodellen empfehlen wir auch unseren Beitrag KI im Führungsalltag: Ergebnisse prüfen, Verantwortung behalten. Die Verantwortung für eine Aussage lässt sich nicht an ein Tool übertragen.

Deepfakes klar und frühzeitig kennzeichnen

Bei Deepfakes ist die Lage eindeutiger. Ein Deepfake liegt vor, wenn Bild, Ton oder Video künstlich erzeugt oder verändert wurde und dadurch der Eindruck entsteht, eine reale Person habe etwas getan oder gesagt, was nicht passiert ist.

Typische Fälle im Unternehmen sind:

• Ein Video zeigt eine Führungskraft, deren Stimme oder Gesicht vollständig künstlich erzeugt wurde.
• Ein Bild stellt Mitarbeitende oder Kundinnen und Kunden in einer Situation dar, die nie stattgefunden hat.
• Eine Audioaufnahme imitiert die Stimme einer realen Person für Werbung, Schulung oder interne Kommunikation.
• Ein Video verändert einen realen Ort, eine Veranstaltung oder ein Ereignis so, dass ein falscher Eindruck entsteht.

Die Kennzeichnung muss klar, verständlich und rechtzeitig erfolgen. Sie darf nicht in einem schwer lesbaren Impressum, am Ende eines langen Videos oder hinter einem unauffälligen Symbol versteckt sein. Bei einem Video gehört der Hinweis an eine Stelle, an der Betrachterinnen und Betrachter ihn vor oder spätestens bei der ersten Wahrnehmung des Inhalts erkennen können. Bei Audio sollte er hörbar und bei Bildern direkt am Motiv oder unmittelbar daneben platziert sein.

Ein praxistauglicher Hinweis lautet zum Beispiel: „Dieses Video wurde mit KI erstellt und zeigt keine reale Aufnahme.“ Wenn nur die Stimme künstlich erzeugt wurde, sollte genau das benannt werden: „Die Stimme in diesem Beitrag wurde synthetisch erzeugt.“

Wie du Teams zusätzlich gegen betrügerische Stimm- und Videoimitationen absicherst, liest du in unserem Beitrag Deepfake-Anrufe und CEO-Fraud erkennen: So schützen Teams Freigaben und Zahlungsprozesse.

Chatbots und KI-Stimmen im Kundenkontakt

Im Kundenkontakt steht Transparenz besonders im Vordergrund. Wenn ein Chatbot, ein Sprachassistent oder eine synthetische Stimme mit Menschen kommuniziert, sollten Nutzende erkennen können, dass sie nicht mit einer natürlichen Person sprechen. Ist dies aufgrund der Gestaltung ohnehin offensichtlich, kann ein zusätzlicher Hinweis entbehrlich sein. Verlasse dich aber nicht darauf, dass das immer eindeutig wirkt.

Ein guter Hinweis erscheint direkt zu Beginn der Interaktion. Beispielsweise:

„Hallo, ich bin der digitale Assistent von Musterunternehmen und unterstütze dich bei allgemeinen Fragen.“

Für telefonische Systeme passt eine Ansage wie:

„Du sprichst mit einem automatisierten Sprachassistenten. Bei Bedarf verbinde ich dich mit einer Mitarbeiterin oder einem Mitarbeiter.“

Wichtig ist, keine falschen Erwartungen zu wecken. Ein Bot sollte nicht den Namen einer erfundenen Person tragen, menschliche Verfügbarkeit vortäuschen oder Formulierungen verwenden, die seine technische Rolle verschleiern. Kläre außerdem, welche Fälle zwingend an Menschen übergeben werden, etwa Beschwerden, Vertragsfragen, sensible persönliche Anliegen oder sicherheitsrelevante Meldungen.

Wenn Gespräche automatisiert transkribiert oder zusammengefasst werden, braucht es zusätzlich klare Regeln zu Daten, Zugriff und Freigabe. Dazu findest du konkrete Hinweise in unserem Ratgeber KI-Meeting-Protokolle datenschutzkonform nutzen: Regeln für Transkription, Freigabe und Verantwortung.

Ein Freigabeprozess für Marketing, interne Kommunikation und Service

Kennzeichnung funktioniert nicht zuverlässig, wenn jede Abteilung eigene Maßstäbe anlegt. Lege deshalb einen kurzen, verbindlichen Prozess fest. Er sollte vor der Veröffentlichung greifen, nicht erst nach einer Beschwerde.

Prüffrage	Konsequenz
Ist der Inhalt mit KI erzeugt oder wesentlich verändert?	Herkunft und verwendetes Tool dokumentieren.
Handelt es sich um Bild, Ton oder Video mit real wirkender Darstellung?	Deepfake-Prüfung durchführen und Kennzeichnung festlegen.
Interagiert ein System direkt mit Kundinnen, Kunden oder Mitarbeitenden?	KI-Hinweis zu Beginn der Interaktion einbauen.
Informiert ein veröffentlichter Text über Themen von öffentlichem Interesse?	Redaktionelle Verantwortung und mögliche Kennzeichnung prüfen.
Enthält der Inhalt sensible Aussagen, Personenbezug oder hohe Reputationsrisiken?	Fachliche und gegebenenfalls rechtliche Freigabe einholen.
Ist nachvollziehbar, wer final verantwortlich ist?	Verantwortliche Person und Freigabedatum dokumentieren.

Für die praktische Umsetzung hat sich ein Vier-Augen-Prinzip bewährt: Die erstellende Person prüft Inhalt, Quellen und Kennzeichnung. Eine zweite Person beurteilt anschließend Zielgruppe, Risiko und Freigabe. Bei kritischen Themen kommen Fachbereich, Kommunikation, Datenschutz oder Rechtsabteilung hinzu.

Die Freigabe sollte nicht nur das Endprodukt erfassen. Dokumentiere auch, welches Tool verwendet wurde, ob Eingaben mit vertraulichen Informationen erfolgten, welche Bearbeitung stattgefunden hat und welche Kennzeichnung beschlossen wurde. Das erleichtert Rückfragen und schafft eine belastbare Grundlage für spätere Überprüfungen.

So formulierst du Kennzeichnungen verständlich

Eine Kennzeichnung soll informieren, nicht abschrecken. Sie muss zum Medium passen und darf nicht missverständlich sein.

Für Bilder eignen sich etwa diese Formulierungen:

• „KI-generiertes Bild“
• „Dieses Bild wurde künstlich erstellt.“
• „Visualisierung mit KI, keine Originalaufnahme“

Für Audio und Video:

• „Dieses Audio enthält eine synthetische Stimme.“
• „KI-erstelltes Video, keine reale Aufzeichnung.“
• „Diese Darstellung wurde digital erzeugt oder bearbeitet.“

Für Texte kann ein Hinweis sinnvoll sein, wenn der Kontext Transparenz verlangt:

• „Dieser Beitrag wurde mit KI-Unterstützung erstellt und redaktionell geprüft.“
• „KI-gestützter Entwurf, fachlich freigegeben durch die Redaktion.“

Vermeide Aussagen wie „vollständig geprüft“, wenn tatsächlich nur Rechtschreibung oder Stil kontrolliert wurden. Ebenso problematisch sind Hinweise, die mehr versprechen als sie leisten, etwa wenn ein Text als „von Expertinnen geprüft“ bezeichnet wird, obwohl keine fachliche Prüfung stattgefunden hat.

Klare Spielregeln reduzieren Unsicherheit

Die Kennzeichnung einzelner Inhalte ist nur ein Teil der Aufgabe. Mitarbeitende brauchen klare Regeln dafür, welche Tools erlaubt sind, welche Daten nicht eingegeben werden dürfen und wann eine Freigabe notwendig ist. Ohne diese Orientierung entstehen leicht Schattenprozesse: Inhalte werden mit privaten Accounts erstellt, sensible Informationen landen in ungeprüften Tools oder KI-Ergebnisse werden ohne Kontrolle veröffentlicht.

Unser Beitrag KI-Spielregeln im Team: So gelingt die Zusammenarbeit mit ChatGPT & Co. zeigt, wie du solche Regeln verständlich und alltagstauglich vereinbarst.

Halte deine interne Regelung möglichst konkret: Welche Kanäle gelten als extern? Wer entscheidet bei Unsicherheit? Wo wird die Freigabe dokumentiert? Welche Kennzeichnungsvorlagen stehen bereit? Und wie werden Mitarbeitende informiert, wenn sich Tools oder Anforderungen ändern?

Passende Seminare und Termine zu Führung, Kommunikation und dem verantwortlichen Einsatz neuer Werkzeuge findest du bei uns auf cmt.de.

Transparenz bei KI-Inhalten ist keine reine Formalität. Wer Inhalte nachvollziehbar kennzeichnet, schützt Vertrauen, vermeidet Täuschung und gibt Teams eine klare Orientierung. Entscheidend ist nicht, ob KI im Einsatz war, sondern ob dein Unternehmen offenlegt, was für die Empfängerinnen und Empfänger relevant ist und wer dafür Verantwortung trägt.