Beim Agentur-Netzwerktreffen am 1. Oktober gab Benjamin Kraudinger, Rechtsanwaltsanwärter bei DORDA Rechtsanwälte mit Schwerpunkten in IT-, IP- und Datenschutzrecht sowie New Technology, einen praxisnahen Überblick über die neuen Aufklärungs- und Transparenzpflichten für Agenturen. Kraudinger war zuvor unter anderem als AI Compliance Officer und Legal Counsel bei einem KI-Startup tätig und beschäftigt sich auch wissenschaftlich mit urheberrechtlichen Fragen rund um KI.
KI eingesetzt? Die Transparenz beginnt mitunter schon beim Briefing
Ein wichtiger Punkt des Abends: Nicht erst die Veröffentlichung eines KI-generierten Inhalts kann rechtlich relevant sein. Bereits gegenüber Auftraggeber:innen kann eine Aufklärung über die Verwendung von KI notwendig werden.
Nach dem UWG ist insbesondere die Erwartungshaltung der Kund:innen relevant. Eine Aufklärung kann erforderlich sein, wenn die Verwendung von KI ein wesentliches Entscheidungskriterium für die Beauftragung darstellt, etwa wenn eine Leistung typischerweise persönlich erbracht wird, ausdrücklich menschliche Leistung zugesichert wurde oder ein besonderes Interesse an der urheberrechtlichen Schutzfähigkeit des Ergebnisses besteht. In solchen Fällen muss die Information bereits vor der Beauftragung und vor der Erstellung des KI-Inhalts erfolgen.
Für Agenturen bedeutet das: KI-Nutzung gehört zunehmend auch ins Erwartungsmanagement mit Kund:innen.
Seit 2. August 2026 gelten die Transparenzregeln des AI Acts
Ergänzend zum Vortrag zeigt die aktuelle Rechtslage: Der AI Act folgt einem risikobasierten Ansatz und unterscheidet zwischen inakzeptablem Risiko, Hochrisiko-Anwendungen, Transparenzrisiken sowie minimalem oder keinem Risiko. Für den Kommunikationsalltag ist vor allem die Kategorie der Transparenzrisiken relevant.
Die Transparenzpflichten aus Artikel 50 gelten seit 2. August 2026. Sie sollen insbesondere sicherstellen, dass Menschen erkennen können, wann sie mit einem KI-System interagieren oder mit bestimmten KI-generierten beziehungsweise manipulierten Inhalten konfrontiert sind.
Dabei lohnt sich eine wichtige Unterscheidung:
Chatbots und interaktive KI-Systeme: Menschen müssen grundsätzlich erkennen können, dass sie mit einem KI-System und nicht mit einem Menschen interagieren, sofern dies nicht ohnehin offensichtlich ist. Der AI Act verlangt außerdem von Anbieter:innen generativer Systeme, synthetische Audio-, Bild-, Video- und Textinhalte technisch so zu kennzeichnen, dass sie maschinenlesbar als künstlich erzeugt oder manipuliert erkannt werden können. AI Act
Nicht jedes KI-Bild braucht automatisch ein sichtbares „AI“-Label
Für Kommunikationsschaffende besonders wichtig: Maschinenlesbare Kennzeichnung und sichtbare Offenlegung sind nicht dasselbe.
Eine sichtbare Offenlegungspflicht besteht insbesondere bei Deepfakes. Darunter versteht der AI Act KI-erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirkliche Personen, Orte, Gegenstände oder Ereignisse so darstellen, dass der Eindruck von Authentizität entsteht. Werden solche Inhalte eingesetzt, muss offengelegt werden, dass sie künstlich erzeugt oder manipuliert wurden.
Das heißt umgekehrt: Nicht jedes mit KI unterstützte Sujet oder jede kleinere KI-Bearbeitung ist automatisch ein kennzeichnungspflichtiger Deepfake. Entscheidend sind Inhalt, Art der Manipulation und der Eindruck, den die Darstellung bei Betrachter:innen erzeugt.
Die Europäische Kommission hat dazu 2026 zusätzlich einen Code of Practice zur Kennzeichnung KI-generierter Inhalte veröffentlicht. Dieser ist freiwillig und soll Anbieter:innen und Betreiber:innen dabei unterstützen, die gesetzlichen Transparenzpflichten praktisch umzusetzen. Dazu gehören etwa einheitliche Hinweise und Kennzeichnungsformen für KI-generierte beziehungsweise manipulierte Inhalte.
Besonders relevant für PR: KI-generierte Texte zu Themen von öffentlichem Interesse
Ein Punkt des AI Acts betrifft die Kommunikationsbranche besonders unmittelbar: KI-generierte oder wesentlich manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen grundsätzlich als solche offengelegt werden.
Es gibt allerdings eine wichtige Ausnahme: Eine Kennzeichnung ist nach Artikel 50 nicht erforderlich, wenn der Inhalt einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Für PR-Teams ist diese Unterscheidung wesentlich. Ein mit KI vorbereiteter Text, der anschließend von Kommunikationsverantwortlichen geprüft, bearbeitet und unter redaktioneller Verantwortung veröffentlicht wird, ist rechtlich anders zu beurteilen als vollautomatisch erzeugter und ungeprüft publizierter Content.
Auch KI-Kompetenz ist inzwischen eine Verpflichtung
Bei der eigenen Recherche zum AI Act zeigt sich noch ein weiterer Punkt, der im Kommunikationsalltag leicht übersehen wird: Unternehmen müssen sich nicht nur mit Kennzeichnungen beschäftigen, sondern auch mit der Kompetenz ihrer Mitarbeiter:innen.
Artikel 4 des AI Acts verpflichtet Anbieter:innen und Betreiber:innen von KI-Systemen dazu, Maßnahmen zu treffen, damit Mitarbeiter:innen und andere Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ein angemessenes Maß an KI-Kompetenz verfügen. Dabei sollen unter anderem technisches Wissen, Erfahrung, Ausbildung und der konkrete Einsatzkontext berücksichtigt werden.
Diese Verpflichtung gilt bereits seit 2. Februar 2025. Die Europäische Kommission nennt als mögliche Maßnahmen beispielsweise Trainings, E-Learnings, Workshops oder andere interne Lernformate. Ein bestimmtes einheitliches Zertifikat ist dagegen nicht vorgeschrieben.
Für Agenturen und Kommunikationsabteilungen heißt das praktisch: Ein internes KI-Training, klare Guidelines für die Verwendung von Tools und definierte Freigabeprozesse sind inzwischen nicht nur organisatorisch sinnvoll.
Was gilt für klassische GenAI-Tools?
Der AI Act reguliert nicht jede Nutzung von ChatGPT, Copilot oder vergleichbaren Anwendungen automatisch als Hochrisiko-Anwendung. Der Großteil der KI-Systeme fällt laut EU-Kommission in die Kategorie „minimal oder kein Risiko“. Zusätzliche Transparenzpflichten entstehen jedoch abhängig davon, wie ein System eingesetzt wird und was mit seinem Output geschieht.
Für Kommunikationsschaffende ist daher weniger die Frage „Haben wir KI verwendet?“ entscheidend als:
- Was wurde mit KI gemacht? Recherche, Textentwurf, Bildgenerierung, Stimmenklon oder vollständig automatisierte Veröffentlichung?
- Was wird nach außen gegeben? Internes Brainstorming ist anders zu beurteilen als ein realistisches KI-Video einer realen Person.
- Gibt es menschliche redaktionelle Kontrolle?
- Wer übernimmt die Verantwortung für den veröffentlichten Inhalt?
- Erwartet die auftraggebende Person ausdrücklich eine menschlich erbrachte Leistung?
Achtung bei Deepfakes
Im Vortrag wurde anhand verschiedener Beispiele diskutiert, wann ein synthetischer Inhalt als Deepfake einzustufen sein kann. Der AI Act definiert Deepfakes als KI-erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise authentisch erscheinen können.
Gerade für Kampagnen, Social Media, Influencer:innen-Kommunikation oder Corporate Content ist das relevant. Wer beispielsweise eine reale Führungskraft künstlich sprechen lässt, eine echte Situation glaubwürdig verändert oder eine Person in einen nie stattgefundenen Kontext setzt, sollte die Deepfake-Regeln bereits bei der Konzeption mitdenken.
Und wie soll gekennzeichnet werden?
Der beim Treffen vorgestellte Code of Practice sieht unter anderem Kennzeichnungen mit dem Kernelement „AI“ und ergänzenden Angaben wie „KI-generiert“, „erstellt mit KI“ oder „verändert durch KI“ vor. Auch Sichtbarkeit, Kontrast und Barrierefreiheit spielen dabei eine Rolle. Bei Audioinhalten können akustische Hinweise vorgesehen werden.
Die Transparenzinformation muss grundsätzlich klar und eindeutig erfolgen und spätestens bei der ersten Interaktion beziehungsweise Konfrontation mit dem betreffenden Inhalt verfügbar sein. Der AI Act verlangt zudem die Einhaltung geltender Barrierefreiheitsanforderungen.
Aktuell wichtig: Für Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, sieht die Kommission für die technische Markierungs- und Erkennungspflicht nach Art. 50 Abs. 2 eine begrenzte Übergangsfrist bis 2. Dezember 2026 vor. Für die übrigen Transparenzpflichten gibt es diese allgemeine Schonfrist nicht.
Fehlende Transparenz kann teuer werden
Die neuen Vorgaben sind kein bloßes „Nice-to-have“. Verstöße gegen die Transparenzpflichten des Artikel 50 können nach dem AI Act grundsätzlich mit Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres sanktioniert werden. Für KMU gelten besondere Verhältnismäßigkeitsregeln.
Daneben können weiterhin andere Rechtsbereiche relevant sein. Auch der AI Act selbst ersetzt etwa Datenschutz-, Verbraucher:innen- oder andere bestehende unionsrechtliche Vorschriften nicht.
Vier Punkte für den Kommunikationsalltag
Kraudinger fasste die Risikoreduktion beim Einsatz generativer KI beim Agentur-Netzwerktreffen in vier Punkten zusammen:
- Erwartungen berücksichtigen
- Inhalte frühzeitig auf ihre Deepfake-Eignung prüfen
- im Zweifel eine Kennzeichnungspflicht annehmen
- die Vorgaben beziehungsweise Empfehlungen zur Kennzeichnung berücksichtigen.
Ergänzt um die aktuelle Recherche zum AI Act ergibt sich daraus für Kommunikationsschaffende noch ein fünfter Punkt: KI-Kompetenz und klare interne Prozesse aufbauen. Wer definiert, welche Tools eingesetzt werden dürfen, wann menschliche Kontrolle notwendig ist, wie sensible Inhalte geprüft werden und wann gekennzeichnet werden muss, reduziert Unsicherheiten bereits lange vor der Veröffentlichung.
Das Agentur-Netzwerktreffen zeigte damit sehr deutlich: KI-Compliance beginnt nicht beim kleinen Hinweis unter einem Social-Media-Posting. Sie beginnt beim Briefing, bei der Wahl des Tools und bei der Frage, wer am Ende die Verantwortung für den Inhalt übernimmt. Gerade hier ist der Austausch im Netzwerk wertvoll, denn mit den neuen Regeln entstehen für Kommunikationsschaffende viele Fragen, die sich am besten frühzeitig und gemeinsam in die Praxis übersetzen lassen.
Hinweis: Der Beitrag gibt einen Überblick über die beim Agentur-Netzwerktreffen behandelten Themen und wurde um aktuelle Informationen aus dem AI Act, dem AI Act Service Desk und den Leitlinien der Europäischen Kommission ergänzt. Er stellt keine Rechtsberatung dar.
Quellen:
Official Journal of the European Union
AI Pact | Shaping Europe’s digital future
AI Act Single Information Platform | AI Act Service Desk
DORDA | Legal AI Update: Aufklärungspflichten für Agenturen