Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der KI-Verordnung (KI-VO). Für Unternehmen und Organisationen, die KI einsetzen, stellt sich damit zunehmend die praktische Frage: Wann und wie muss der Einsatz von KI eigentlich kenntlich gemacht werden? Welche Ausnahmen gelten?
Kurz und knapp: Es kommt darauf an!
Die KI-Verordnung kennt keine allgemeine Pflicht, jeden Einsatz von KI oder jeden mit KI erstellten Inhalt als solchen zu kennzeichnen. Art. 50 KI-VO unterscheidet vielmehr nach Art des KI-Systems, Inhalt und Rolle des jeweiligen Unternehmens. Gerade diese Differenzierung ist für die praktische Umsetzung entscheidend.
Anbieter und Betreiber: Wer muss was tun?
Zunächst muss zwischen Anbietern und Betreibern von KI-Systemen unterschieden werden.
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen nach Art. 50 Abs. 2 KI-VO sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die eingesetzten technischen Lösungen müssen – soweit technisch möglich – wirksam, interoperabel, belastbar und zuverlässig sein.
Nicht erfasst sind insbesondere Systeme, die lediglich unterstützende Standardbearbeitungen vornehmen oder die vom Betreiber bereitgestellten Eingabedaten bzw. deren Semantik nicht wesentlich verändern. Solche Systeme lassen sich wohl am ehesten mit Werkzeugen für die Retusche von Bildern oder Textbearbeitungsprogrammen vergleichen.
Eine aktuelle Übergangsregelung ist dabei zu beachten: Für generative KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, muss die Pflicht aus Art. 50 Abs. 2 KI-VO grundsätzlich erst bis zum 2. Dezember 2026 umgesetzt werden.
Für Betreiber bestehen daneben eigene Offenlegungspflichten. Diese betreffen insbesondere Deepfakes sowie bestimmte KI-generierte Texte.
„Deepfakes“ müssen gegenüber den Adressaten offengelegt werden
Wer als Betreiber eines KI-Systems Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die bestehende Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse so darstellen, dass sie fälschlicherweise als echt oder als wahr erscheinen können, muss offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden.
Die Einordnung eines Inhalts als Deepfake gestaltet sich in der Praxis oftmals schwierig, denn nicht jeder realistisch wirkende KI-Inhalt automatisch ein Deepfake. Nach Art. 3 Nr. 60 KI-VO kommt es darauf an, dass der Inhalt etwas tatsächlich Existierendem ähnelt und dadurch der falsche Eindruck entstehen kann, die Darstellung sei authentisch oder wahr. Ein vollständig KI-generiertes Bild einer fiktiven Person für eine Werbekampagne ist daher nicht allein deshalb ein Deepfake, weil die Person täuschend echt aussieht. Wird dagegen etwa der Geschäftsführer eines Unternehmens mittels KI in einem Video so dargestellt, als habe er auf einer Veranstaltung eine bestimmte Aussage getroffen, obwohl dies tatsächlich nie geschehen ist, liegt ein typischer Deepfake-Fall vor.
Maßgeblich ist damit die Gefahr einer Verwechslung mit einem realen Sachverhalt und nicht zwingend nur die Realitätsnähe in der Darstellung.
Deepfakes sind nach Art. 50 Abs. 4 KI-VO als künstlich erzeugt oder manipuliert offenzulegen. Die Information muss nach Art. 50 Abs. 5 KI-VO spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung klar, unterscheidbar und barrierefrei nach den
geltenden Barrierefreiheitsanforderungen bereitgestellt werden.
Für offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Werke reduziert Art. 50 Abs. 4 UAbs. 1 Satz 2 KI-VO die Offenlegung auf ein Maß, das die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Für Zwecke der Strafverfolgung sieht die Vorschrift zusätzliche Ausnahmen vor.
Chatbots: Transparenz ja – aber korrekt umgesetzt
Auch bei Chatbots, virtuellen Assistenten und vergleichbaren Dialogsystemen bestehen Transparenzanforderungen.
Nach Art. 50 Abs. 1 KI-VO müssen Anbieter Systeme, die zur direkten Interaktion mit natürlichen Personen bestimmt sind, nämlich so ausgestalten, dass die betroffenen Personen erkennen können, dass sie mit einem KI-System interagieren.
Eine zusätzliche Information ist nicht erforderlich, wenn dies für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist.
Unternehmen sollten sich auf diese Ausnahme allerdings nicht vorschnell verlassen. Gerade bei in Webseiten, Kundenportalen oder Serviceprozessen integrierten Assistenten empfiehlt es sich, zu prüfen, ob die KI-Interaktion für Nutzer tatsächlich zweifelsfrei erkennbar ist. Die von der EU-Kommission am 20. Juli 2026 veröffentlichten Leitlinien zu Art. 50 KI-VO stellen daran strenge Anforderungen: „Offensichtlich“ ist der KI-Charakter etwa bei KI-Assistenzsystemen für Fachpersonal, nicht aber regelmäßig bei Helpdesk-Chatbots oder humanoiden Avataren im Verbraucherumfeld.
KI-generierte Texte: Keine pauschale Kennzeichnungspflicht – aber zwingende menschliche Kontrolle
Besonders häufig stellt sich die Frage, ob künftig jeder mit Hilfe von KI erstellte Text als KI-generiert gekennzeichnet werden muss.
Eine allgemeine Kennzeichnungspflicht für KI-gestützte Marketingtexte besteht nicht. Die Transparenzpflicht nach Art. 50 Abs. 4 KI-VO erfasst künstlich erzeugte oder manipulierte Texte nur dann, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Auch in diesem Anwendungsbereich entfällt die Offenlegungspflicht, wenn der Text einem menschlichen Überprüfungs- oder redaktionellen Kontrollprozess unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Diese Ausnahme ist jedoch kein Freibrief für einen ungeprüften KI-Einsatz. Sie setzt gerade voraus, dass eine verantwortliche Person die Inhalte tatsächlich prüft, gegebenenfalls überarbeitet und die Veröffentlichung bewusst (und qualifiziert) freigibt.
Für Produktbeschreibungen, Newsletter, Webseitentexte und Social-Media-Beiträge folgt aus der KI-VO daher grundsätzlich keine pauschale Pflicht, die bloße Nutzung von KI auszuweisen. Gleichwohl sollten Unternehmen jeden KI-generierten Entwurf vor Veröffentlichung fachlich, inhaltlich und redaktionell überprüfen. Denn das veröffentlichende Unternehmen trägt die Verantwortung für seine Kommunikation unabhängig davon, ob der Text durch Mitarbeitende, Agenturen oder ein KI-System erstellt wurde.
Werberechtliche Risiken bleiben bestehen
KI kann unzutreffende Tatsachenbehauptungen, unbelegte Superlative, irreführende Produktvorteile oder rechtlich sensible Aussagen erzeugen. Insbesondere Marketingtexte können durch eine fehlende Prüfung oftmals unwahre oder zur Täuschung geeignete Angaben über wesentliche Merkmale und Vorteile eines Produkts oder einer Dienstleistung enthalten und damit nach §§ 3, 5, 5a UWG als unlautere geschäftliche Handlung gelten.
Bei gesundheitsbezogener, medizinischer, nachhaltigkeitsbezogener oder sonst besonders regulierter Werbung (siehe auch die neuen Wettbewerbsvorgaben für umweltbezogene Aussagen) steigen die jeweiligen Anforderungen weiter. Gesundheitsbezogene Wirkungsbehauptungen müssen insbesondere nach dem Heilmittelwerbegesetz (HWG) und der HCVO insbesondere objektiv richtig, eindeutig und durch gesicherte wissenschaftliche Erkenntnisse abgesichert sein. Die Gesamtverantwortung für veröffentlichte Werbeaussagen verbleibt beim Unternehmen, egal ob KI bei der Entstehung eine Rolle gespielt hat oder nicht.
Unternehmen sollten KI nicht nur als Textgenerator, sondern als Assistenzwerkzeug innerhalb eines kontrollierten Freigabeprozesses einsetzen. Vor jeder Veröffentlichung empfiehlt sich dringend eine dokumentierte menschliche Prüfung, insbesondere hinsichtlich der Tatsachenrichtigkeit, Belegbarkeit von Leistungs- und Vergleichsaussagen, Urheber- und Markenrechten, Datenschutz sowie branchenspezifischen Werbevorgaben.
Die KI-VO beantwortet nicht jede rechtliche Frage
Eine fehlende oder auch eine umgesetzte Kennzeichnungspflicht nach Art. 50 KI-VO bedeutet letzten Endes nicht automatisch, dass ein KI-generierter Inhalt rechtlich unproblematisch ist.
Daneben können nämlich insbesondere Urheberrecht, Persönlichkeitsrecht, Markenrecht, Datenschutz, Lauterkeitsrecht sowie sektorspezifische Informations- und Transparenzpflichten relevant werden.
Für Unternehmen sollte die Prüfung deshalb nicht bei der Frage enden, ob Inhalte als KI-erzeugt gekennzeichnet werden müssen. Mindestens ebenso wichtig ist, ob der Inhalt überhaupt in der vorgesehenen Form erzeugt, verarbeitet und veröffentlicht werden darf und dabei spielen eben auch Wettbewerbs-, Marken-, Urheber- und Datenschutzrecht eine wichtige Rolle.
Praxis-Check: Fünf Fragen für Unternehmen
Zusammenfassend lässt sich sagen, dass die zentrale Aufgabe weniger darin besteht, pauschale Kennzeichnungspflichten in der Organisation auszurollen. Unternehmen müssen vielmehr ihre konkreten Anwendungsfälle kennen, ihre Rolle nach der KI-VO bestimmen und daraus die jeweils einschlägigen Transparenzanforderungen ableiten.
Folgende Fragen können dabei eine Hilfestellung sein:
- Wo setzen wir KI-Systeme ein, die mit natürlichen Personen unmittelbar interagieren oder synthetische Inhalte erzeugen?
- Veröffentlichen wir KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte, die unter die Deepfake-Regelung fallen könnten?
- Ist bei Chatbots und virtuellen Assistenten für Nutzer hinreichend klar, dass sie mit einem KI-System interagieren?
- Welche Prozesse bestehen für menschliche Prüfung, redaktionelle Freigabe und Verantwortungsübernahme bei KI-generierten Inhalten?
- Sind interne KI-Richtlinien, Freigabeprozesse und Schulungen bereits auf die Transparenzpflichten des Art. 50 KI-VO abgestimmt?
- Sind unsere Verträge mit Agenturen, KI-Anbietern und Content-Dienstleistern so gestaltet, dass Kennzeichnungspflichten, redaktionelle Verantwortung und Haftung eindeutig zugewiesen sind?
Wir bei KUNZ Rechtsanwälte unterstützen Sie bei allen Fragen rund um den Einsatz von KI-Lösungen und in der AI Governance. Sprechen Sie uns an!
