Ein kanadischer Abgeordneter liest im Parlament versehentlich eine typische AI-Arbeitsanweisung mit vor. In Deutschland geraten mutmaßlich AI-gestützte Politikerreden und Gastbeiträge in die Kritik. Solche Fälle zeigen, weshalb die Europäische Union nun verbindliche Transparenz verlangt – allerdings deutlich differenzierter, als es die Formel "Alles mit AI muss gekennzeichnet werden" vermuten lässt.
Der Moment dauerte nur wenige Sekunden, doch er lieferte ein Lehrstück über den sorglosen Einsatz generativer AI. Bill Oliver, Abgeordneter in der kanadischen Provinz New Brunswick, stand am 9. Juni 2026 im Parlament und las aus seinem Manuskript vor. Dann sagte er sinngemäß: "Hier ist eine natürlichere, flüssigere Fassung dieses Abschnitts." Es war keine politische Botschaft, sondern eine Arbeitsanweisung des verwendeten AI-Systems, die im Text stehen geblieben war. Oliver räumte später ein, künstliche Intelligenz zur Vorbereitung der Rede genutzt und das Manuskript nicht ausreichend geprüft zu haben. Ausgerechnet der versehentlich vorgelesene Hinweis machte sichtbar, was zuvor unsichtbar geblieben war: Ein Teil der öffentlichen Kommunikation war mit Hilfe einer Maschine entstanden, ohne dass das Publikum davon wusste.
Auch in Deutschland ist die Frage nach der Urheberschaft politischer Texte längst im Regierungsalltag angekommen. Besonders deutlich wurde dies im Juni 2026 am Fall des thüringischen Ministerpräsidenten Mario Voigt. Das Rechercheportal "Frag den Staat" hatte mehrere unter seinem Namen veröffentlichte Beiträge und Reden mit Programmen zur Erkennung AI-generierter Texte untersuchen lassen. Betroffen waren unter anderem der am 13. August 2025 in der "Frankfurter Allgemeinen Zeitung" erschienene Gastbeitrag "Smartphone 14, Social Media 16", ein Beitrag in der "Welt" mit dem Titel "Wir brauchen mehr Raum für deutsche Stimmen", eine Rede zum Holocaust-Gedenktag, eine Ansprache zur Befreiung des Konzentrationslagers Buchenwald am 6. April 2025, eine Trauerrede und eine Neujahrsansprache. Die Thüringer Staatskanzlei räumte den unterstützenden Einsatz moderner digitaler Werkzeuge einschließlich generativer AI grundsätzlich ein, bestätigte jedoch nicht im Einzelnen, welche Passagen welcher Rede unmittelbar von einem AI-System stammten.
Besonders folgenreich war der Fall des FAZ-Gastbeitrags. Das Analyseprogramm Pangram bewertete den Text nach Angaben der Recherche als vollständig AI-generiert. Ein solcher Prozentwert ist allerdings kein gerichtsfester Beweis: Automatische AI-Detektoren produzieren Fehlalarme, sind häufig überwiegend mit englischsprachigen Texten trainiert und können bei der formelhaften Sprache politischer Beiträge menschliche und maschinelle Urheberschaft nur eingeschränkt voneinander unterscheiden. Deutlich schwerer wiegt deshalb ein anderer Befund: Drei im Beitrag verwendete Zitate, die den Wissenschaftlern Jonathan Haidt, Gerald Hüther und Manfred Spitzer zugeschrieben wurden, ließen sich nicht belegen. Die FAZ nahm den Beitrag daraufhin aus dem Netz und sperrte ihn im Archiv. Ihre Begründung: Die Zeitung veröffentliche keine Originalbeiträge mit AI-generiertem Text und habe bei Gastautoren auf eine menschliche Urheberschaft vertraut.
Der entscheidende Kritikpunkt ist damit nicht allein, dass bei der Formulierung AI eingesetzt wurde. Problematisch wird die maschinelle Unterstützung dort, wo Quellen nicht geprüft, erfundene Aussagen übernommen oder Art und Umfang der Bearbeitung gegenüber einer Redaktion verschwiegen werden.
Wenig später geriet auch Bundesdigitalminister Karsten Wildberger in den Fokus. Eine Recherche der "Zeit" kam mithilfe einer Analysesoftware zu dem Ergebnis, dass sein am 4. April 2026 im "Handelsblatt" veröffentlichter Gastbeitrag "Deutschlands Digitalproblem – Viele Projekte, wenig Produkte" fast vollständig und ein im März in der "Frankfurter Allgemeinen Sonntagszeitung" erschienener Beitrag überwiegend von AI verfasst worden sein könnte. Auch Wildbergers Rede beim Atlantic Council in Washington am 24. Juli 2025 sowie mehrere Bundestagsreden zeigten nach der Analyse umfangreiche Hinweise auf maschinelle Texterzeugung. Das Digitalministerium bestätigte die Verwendung von AI als Arbeitswerkzeug, nicht jedoch die von den Erkennungsprogrammen errechneten Anteile.
Die Recherche verwies beim Handelsblatt-Beitrag zusätzlich auf sprachliche Auffälligkeiten: Der Text enthielt 25 Gedankenstriche, zahlreiche schematische Dreierfiguren, demonstrative Verneinungen und bisweilen schiefe Bilder. So hieß es etwa, ein Projekt habe einen Anfang, ein Ende und ein Budget, während ein Produkt einen Lebenszyklus, eine Nutzerbasis und einen Markt habe. Solche Stilmerkmale können auf die Verwendung eines Sprachmodells hindeuten, beweisen sie aber nicht. Auch menschliche Redenschreiber greifen regelmäßig auf Dreierfiguren, Wiederholungen und zugespitzte Gegensätze zurück.
Kritikwürdig war vor allem der Umgang mit den beteiligten Redaktionen. Das Ministerium hatte weder das "Handelsblatt" noch die FAS über den AI-Einsatz informiert. Zur Begründung erklärte ein Sprecher, Wildberger betrachte AI als unterstützendes Arbeitsmittel, über dessen Verwendung man ebenso wenig Rechenschaft ablege wie über Textverarbeitungsprogramme, Recherchewerkzeuge oder redaktionelle Unterstützung. Dieser Vergleich greift zu kurz. Eine Textverarbeitung korrigiert Rechtschreibung oder formatiert Absätze; ein generatives Sprachmodell kann dagegen Formulierungen, Argumentationslinien, Beispiele und vermeintliche Tatsachen selbst erzeugen. Es übernimmt damit potenziell einen Teil der geistigen Leistung, die Leser bei einem namentlich gekennzeichneten Gastbeitrag dem Autor zuschreiben.
Seit dem 2. August 2026 gilt Artikel 50
Seit Sonntag, dem 2. August 2026, gelten die Transparenzpflichten des Artikels 50 der europäischen AI-Verordnung. Sie sind der bislang sichtbarste Teil des AI Act im Alltag: Menschen sollen erkennen können, wann sie mit einem AI-System kommunizieren und wann ihnen Inhalte begegnen, die künstlich erzeugt oder erheblich manipuliert wurden.
Der Rechtsrahmen unterscheidet dabei zwischen Anbietern und Betreibern. Anbieter entwickeln ein AI-System oder bringen es unter eigenem Namen auf den europäischen Markt. Betreiber – im Gesetz "Deployer" genannt – setzen ein solches System unter eigener Verantwortung ein, etwa ein Unternehmen, eine Behörde, eine Redaktion oder eine Werbeagentur. Für beide Gruppen gelten unterschiedliche Pflichten.
Die Regeln erfassen nicht nur Hochrisiko-AI. Auch ein Kundenservice-Chatbot, ein AI-Avatar, ein Sprachassistent, ein Bildgenerator oder ein System zur automatischen Texterstellung kann unter Artikel 50 fallen. Entscheidend ist, wie das System eingesetzt wird und welche Inhalte es erzeugt.
| Direkte AI-Interaktion | Menschen müssen zu Beginn klar erfahren, dass sie mit einem AI-System interagieren – etwa mit einem Chatbot, AI-Agenten oder Avatar. Eine Ausnahme gilt nur, wenn dies für eine durchschnittlich informierte Person offensichtlich ist. |
|---|---|
| Synthetische Inhalte | Anbieter generativer Systeme müssen Texte, Bilder, Audio- und Videoinhalte maschinenlesbar markieren und deren Erkennung ermöglichen. Die technische Markierung soll wirksam, robust, zuverlässig und möglichst interoperabel sein. |
| Deepfakes und öffentliche Texte | Betreiber müssen Deepfakes sichtbar oder hörbar offenlegen. AI-generierte Texte über Angelegenheiten von öffentlichem Interesse sind zu kennzeichnen, wenn keine substanzielle menschliche Prüfung oder redaktionelle Kontrolle erfolgt ist. |
| Emotionen und Biometrie | Wer Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss die betroffenen Personen über deren Betrieb informieren, soweit keine eng begrenzte gesetzliche Ausnahme greift. |
Tab. 01: Vier Situationen, in denen Transparenz verlangt wird [Quelle: Eigene Abbildung]
Die sichtbare Kennzeichnung und die technische Markierung sind zwei verschiedene Ebenen. Ein unsichtbares Metadatum allein genügt bei einem Deepfake nicht. Umgekehrt muss nicht jeder einzelne AI-Output mit einem großen Warnhinweis versehen werden, wenn das Gesetz lediglich eine maschinenlesbare Herkunftsmarkierung verlangt.
Was "AI-Assistenten kennzeichnen" konkret bedeutet
Für Unternehmen wird die neue Pflicht besonders im Kundenkontakt spürbar. Ruft ein Kunde bei einer Hotline an und spricht tatsächlich mit einem Sprachbot, muss dies zu Beginn erkennbar sein. Dasselbe gilt für AI-gestützte Bewerbungsassistenten, digitale Verkaufsberater oder automatisierte Terminagenten, sofern sie direkt und eigenständig mit Menschen kommunizieren.
Das Gesetz verlangt keine immer identische Formulierung. Möglich sind Hinweise wie "Sie sprechen mit einem AI-Assistenten" oder eine klar erkennbare Anzeige in der Benutzeroberfläche. Die Information muss spätestens bei der ersten Interaktion klar, unterscheidbar und barrierefrei erfolgen. Versteckte Hinweise in Allgemeinen Geschäftsbedingungen reichen dafür nicht.
Offensichtliche Fälle sind ausgenommen. Wer ausdrücklich eine bekannte AI-Anwendung öffnet, muss nicht zwangsläufig vor jeder Antwort erneut gewarnt werden. Die Ausnahme soll jedoch eng ausgelegt werden. Ein menschlich klingender Bot, der sich als Servicekraft ausgibt oder seinen technischen Charakter verschleiert, dürfte kaum davon profitieren.
Nicht jedes AI-Bild ist automatisch ein Deepfake
Besonders konfliktträchtig ist die Grenze zwischen kreativer Produktion und täuschend echter Manipulation. Ein Deepfake im Sinne des AI Act ist ein AI-generierter oder manipulierter Bild-, Audio- oder Videoinhalt, der einer existierenden oder plausibel existierenden Person, einem Objekt, Ort, Unternehmen oder Ereignis ähnelt und fälschlich authentisch oder wahr wirkt. Das erfasst den erfundenen Videoclip eines Vorstandsvorsitzenden, der angeblich eine Gewinnwarnung verkündet, ebenso wie eine synthetische Tonaufnahme eines Politikers oder ein realistisches Bild eines nie geschehenen Unglücks. Solche Inhalte müssen beim ersten Kontakt sichtbar oder hörbar als künstlich erzeugt beziehungsweise manipuliert offengelegt werden.
Nicht jede Retusche fällt darunter. Standardbearbeitungen und Hilfsfunktionen, die Eingabedaten oder deren Bedeutung nicht wesentlich verändern, sind von der technischen Markierungspflicht ausgenommen. Auch bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken ist die Offenlegung nur so weit erforderlich, dass sie den Werkgenuss nicht beeinträchtigt.
Der Streit um AI-Werbung
Für die Privatwirtschaft liegt die praktische Brisanz vor allem im Marketing. Mode-, Handels- und Plattformunternehmen produzieren bereits große Mengen an Produktbildern, Kampagnenmotiven und Varianten mit generativer AI. Nach Angaben des europäischen Handelsverbands EuroCommerce konnte Zalando seine Kosten für die Content-Produktion durch AI stark senken; H&M und Zara experimentieren mit digitalen Klonen realer Models. Der Verband warnte vor einer zu breiten Auslegung und nannte als Beispiel das künstlich erzeugte Bild eines Wohnzimmers, in dem ein Sofa präsentiert wird. Würde schon ein solches Motiv wie ein politischer Deepfake behandelt, drohe eine Flut von Hinweisen, die Verbraucher am Ende kaum noch wahrnehmen. Die EU setzt dem entgegen, dass Kontext, Erwartung des Publikums und Täuschungseignung berücksichtigt werden müssen.
Für Unternehmen bleibt dennoch ein Risiko: Eine Kampagne kann aus mehreren Elementen bestehen, für die unterschiedliche Regeln gelten. Das Modellbild könnte sichtbar zu kennzeichnen sein, der vom Generator erzeugte Werbetext lediglich technisch markiert werden, während eine einfache Farbkorrektur gar nicht erfasst wird. Pauschale Aussagen wie "Unsere Agentur nutzt AI" ersetzen deshalb keine konkrete Prüfung des einzelnen Anwendungsfalls.
Übergangsfrist nur für einen Teil der Pflichten
Artikel 50 gilt grundsätzlich seit dem 2. August 2026. Für generative AI-Systeme, die bereits vor diesem Stichtag auf den Markt gebracht oder in Betrieb genommen wurden, nennt die Europäische Kommission jedoch eine begrenzte Frist bis zum 2. Dezember 2026 - ausschließlich für die technische Markierungs- und Erkennungspflicht der Anbieter. Die übrigen Pflichten, insbesondere die Information bei direkter AI-Interaktion sowie die Offenlegung von Deepfakes und ungeprüften Texten über öffentliche Angelegenheiten, gelten seit dem Stichtag. Bereits vor dem 2. August erzeugte und veröffentlichte Inhalte müssen nicht nachträglich gekennzeichnet werden; die Kommission empfiehlt eine freiwillige Nachkennzeichnung, soweit sie möglich ist.
Bis zu 15 Millionen Euro Bußgeld
Verstöße gegen Artikel 50 sind kein bloßes Kommunikationsproblem. Der AI Act sieht einen Bußgeldrahmen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor. Für kleine und mittlere Unternehmen gelten verhältnismäßige Begrenzungen; bei der konkreten Höhe müssen unter anderem Schwere, Dauer, Vorsatz oder Fahrlässigkeit, wirtschaftliche Vorteile und die Kooperation mit den Behörden berücksichtigt werden.
Die Durchsetzung liegt vor allem bei den nationalen Marktüberwachungsbehörden. Das europäische AI Office ist nur für bestimmte Systeme und Konstellationen unmittelbar zuständig, etwa wenn ein Anbieter zugleich ein allgemeines AI-Modell und das darauf aufbauende System bereitstellt. Unternehmen müssen daher nicht nur Brüssel, sondern auch die nationale Aufsichtsstruktur im Blick behalten.
Ein Bußgeld wird nicht automatisch fällig, weil irgendwo ein AI-unterstützter Satz ohne Label auftaucht. Zunächst muss die jeweilige Pflicht überhaupt anwendbar sein. Doch wer keine Bestandsaufnahme, keine Verantwortlichkeiten und keine dokumentierte Prüfung vorweisen kann, wird im Konfliktfall Schwierigkeiten haben zu belegen, dass die eigene Lösung den gesetzlichen Anforderungen entspricht.
Was Unternehmen jetzt organisatorisch tun müssen
Die neuen Transparenzpflichten sind auch eine Aufgabe für das unternehmensweite Risikomanagement. Entscheidend ist, ob ein Unternehmen oder eine Organisation (siehe die Beispiele aus der Einleitung im Kontext der öffentlichen Hand) seine AI-bezogenen Risiken systematisch identifiziert, bewertet, steuert und überwacht. Dafür müssen Unternehmen zunächst Transparenz über ihre eigene AI-Nutzung schaffen: An welchen Stellen kommunizieren AI-Systeme mit Kunden, Beschäftigten, Geschäftspartnern oder der Öffentlichkeit? Wo werden Texte, Bilder, Videos oder Entscheidungen automatisiert erzeugt oder wesentlich verändert? Und welche rechtlichen, finanziellen und reputativen Schäden können entstehen, wenn diese Nutzung nicht erkennbar ist?
Eine solche Bestandsaufnahme sollte Teil eines unternehmensweiten AI-Risikoinventars sein. Dabei ist zu unterscheiden, ob das Unternehmen als Anbieter, Betreiber oder in beiden Rollen handelt. Aus dieser Einordnung ergeben sich unterschiedliche Pflichten, Verantwortlichkeiten und Haftungsrisiken. Klar geregelt werden muss insbesondere, wer für Kennzeichnung, technische Markierung, fachliche Kontrolle, Freigabe, Dokumentation und laufende Überwachung verantwortlich ist. Bleiben diese Zuständigkeiten unklar, entsteht ein typisches Governance-Risiko: Viele oder Alle nutzen AI, aber niemand trägt erkennbar die Verantwortung für fehlerhafte oder irreführende Ergebnisse.
Besondere Bedeutung kommt dem redaktionellen und fachlichen Kontrollprozess zu. Wer sich bei öffentlich verbreiteten Texten auf eine substanzielle menschliche Prüfung berufen will, benötigt mehr als eine formale Freigabe. Unternehmen sollten festlegen, welche Inhalte zu prüfen sind, welche fachliche Qualifikation die prüfende Person benötigt, welche Quellen zu verifizieren sind und wie die Entscheidung dokumentiert wird. Ein bloßes Häkchen im Workflow reduziert das Risiko nicht. Wirksam ist eine Kontrolle erst dann, wenn Fehler, erfundene Quellen, verzerrte Aussagen und missverständliche Formulierungen tatsächlich erkannt und korrigiert werden können.
Aus Sicht des Risikomanagements sollte die Intensität der Prüfung im Sinne eines risikoorientierten Ansatzes vom möglichen Schaden abhängen. Ein intern verwendeter Entwurf erfordert ein anderes Kontrollniveau als eine Kapitalmarktmitteilung, eine politische Stellungnahme, eine Kundenberatung oder eine öffentliche Krisenkommunikation. Je größer die mögliche Auswirkung auf Vermögen, Reputation, Sicherheit oder Entscheidungsverhalten Dritter ist, desto strenger müssen Prüfung, Freigabe und Nachweisführung ausgestaltet sein.
Auch das Drittparteienrisiko gewinnt an Bedeutung. Verträge mit Softwareanbietern, Agenturen und externen Dienstleistern sollten regeln, welche maschinenlesbaren Kennzeichnungen ein System erzeugt, ob diese bei Export, Bearbeitung oder Weiterverbreitung erhalten bleiben und welche Nachweise der Anbieter zur Verfügung stellt. Darüber hinaus sind Haftungsfragen, Informationspflichten, Audit-Rechte und Verfahren für technische Änderungen zu klären. Unternehmen dürfen sich nicht darauf verlassen, dass ein eingekauftes System automatisch rechtskonform arbeitet. Die Verantwortung für den konkreten Einsatz verbleibt regelmäßig beim Unternehmen selbst.
Ein wirksames AI-Risikomanagement muss technische, rechtliche, organisatorische und kommunikative Maßnahmen miteinander verbinden. Nur so wird aus einer Kennzeichnungspflicht ein kontrollierbarer Prozess statt eines zusätzlichen Compliance-Formulars.
Transparenz als Schutz vor Vertrauens- und Reputationsrisiken
Mit Artikel 50 verbietet die Europäische Union den Einsatz generativer AI nicht. Sie versucht vielmehr, ein zentrales Risiko zu begrenzen: Menschen könnten automatisiert erzeugte Inhalte für authentische menschliche Kommunikation halten und darauf Entscheidungen stützen, ohne die Entstehungsweise zu kennen. Transparenz soll daher Informationsasymmetrien reduzieren und Nutzern eine realistischere Einschätzung der Verlässlichkeit eines Inhalts ermöglichen.
Für Unternehmen geht es dabei um mehr als Rechtskonformität. Fehlende Kennzeichnung kann Bußgelder auslösen, zugleich aber auch erhebliche Reputations-, Haftungs- und Vertrauensrisiken verursachen. Wird nachträglich bekannt, dass ein vermeintlich persönlicher Beitrag, eine Kundeninformation oder eine öffentliche Stellungnahme weitgehend automatisiert erzeugt wurde, kann der Eindruck bewusster Täuschung entstehen (siehe hierzu die zitierten Beispiele aus der Politik). Der persönliche oder wirtschaftliche Schaden eines solchen Vertrauensverlusts kann die unmittelbare Sanktion deutlich übersteigen.
Allerdings ist auch eine übermäßige Kennzeichnung nicht risikofrei. Zu wenige Hinweise machen Manipulation unsichtbar; zu viele pauschale Warnungen führen zu einem Gewöhnungseffekt. Werden selbst geringfügig bearbeitete Inhalte unterschiedslos mit auffälligen AI-Labels versehen, verlieren die Hinweise ihren Informationswert. Das Transparenzsystem würde dann ähnlich wahrgenommen wie viele Cookie-Banner: formal vorhanden, praktisch jedoch kaum noch beachtet.
Aus Sicht des Risikomanagements ist deshalb ein risikobasierter Ansatz erforderlich. Kennzeichnungen sollten insbesondere dort klar, verständlich und gut sichtbar sein, wo die AI-Beteiligung die Wahrnehmung, Glaubwürdigkeit oder Entscheidung des Adressaten wesentlich beeinflussen kann.
Unternehmen sollten Transparenz daher als Kontrollmaßnahme innerhalb eines umfassenderen Risikomanagementsystems verstehen. Kennzeichnung allein verhindert weder fehlerhafte Inhalte noch manipulierte Bilder, erfundene Quellen oder ungeprüfte Aussagen. Sie muss ergänzt werden durch Qualitätskontrollen, klare Verantwortlichkeiten, Schulungen, technische Sicherungen und ein Verfahren zur Behandlung von Vorfällen. Dazu gehört auch die Frage, wie das Unternehmen reagiert, wenn Inhalte falsch gekennzeichnet, Markierungen entfernt oder AI-generierte Aussagen nachträglich als fehlerhaft erkannt werden.
Der peinliche Satz aus dem kanadischen Parlament war eine unfreiwillige Offenlegung fehlender Kontrolle. Für Unternehmen, Behörden, Medien und Politik beginnt damit eine neue Phase: Nicht der Einsatz von AI ist das zentrale Risiko, sondern ein Einsatz ohne Transparenz, wirksame Kontrolle und klar zuordenbare Verantwortung.
