Bilder von Menschen, die nie fotografiert wurden. Videos, in denen Politiker scheinbar Dinge sagen, die sie nie gesagt haben. Stimmen, die täuschend echt nach einem Familienmitglied klingen. Und Texte, bei denen kaum noch zu erkennen ist, ob sie ein Mensch oder eine Künstliche Intelligenz geschrieben hat.
Mit moderner Künstlicher Intelligenz ist all das inzwischen möglich – und teilweise erstaunlich einfach.
Deshalb stellt sich neben der Frage „Was kann KI?“ zunehmend eine zweite Frage:
„Wie erkenne ich eigentlich, ob etwas mit KI erzeugt wurde?“
Seit dem 2. August 2026 gelten in der Europäischen Union neue Transparenzpflichten des sogenannten AI Act, auf Deutsch meist KI-Verordnung genannt. Sie sollen dafür sorgen, dass Menschen in bestimmten Situationen erkennen können, wenn sie mit einer KI zu tun haben oder wenn Inhalte künstlich erzeugt oder wesentlich verändert wurden.
Gerade für ältere Internetnutzer ist das wichtig. Denn künftig wird es immer weniger ausreichen, einem Bild, einer Stimme oder einem Video allein deshalb zu vertrauen, weil es „echt aussieht“.
Ein Foto ist nicht mehr automatisch ein Beweis
Viele von uns sind mit einer einfachen Vorstellung aufgewachsen:
Was fotografiert wurde, muss irgendwann vor einer Kamera gewesen sein.
Das stimmt heute nicht mehr.
Eine KI kann innerhalb weniger Sekunden das Bild eines Menschen erzeugen, der niemals existiert hat. Sie kann eine bekannte Person in eine Situation versetzen, in der sie niemals war. Und sie kann aus wenigen Sekunden einer echten Sprachaufnahme eine künstliche Stimme erzeugen, die dem Original verblüffend ähnlich klingt.
Besonders problematisch wird es, wenn solche Inhalte den Eindruck erwecken, sie seien authentisch.
Hier setzen die neuen Transparenzregeln der EU an.
Was muss künftig gekennzeichnet werden?
Die Regeln unterscheiden mehrere Fälle.
Wenn wir mit einer KI sprechen
Wer direkt mit einem KI-System interagiert, soll grundsätzlich darüber informiert werden, dass auf der anderen Seite kein Mensch antwortet.
Das betrifft beispielsweise Chatbots, KI-Assistenten oder künstliche Personen, sogenannte Avatare.
Die Information muss grundsätzlich bereits zu Beginn der Interaktion erfolgen. Eine Ausnahme gibt es, wenn für einen durchschnittlichen Nutzer ohnehin offensichtlich ist, dass er mit einer KI kommuniziert.
Das kann beispielsweise beim Kundenservice wichtig werden. Ein freundlich formulierter Dialog bedeutet künftig noch lange nicht, dass tatsächlich ein Mitarbeiter des Unternehmens antwortet.
KI-Inhalte bekommen eine Art digitalen Herkunftshinweis
Anbieter von Systemen, die künstliche Texte, Bilder, Videos oder Audiodateien erzeugen, müssen grundsätzlich dafür sorgen, dass solche Inhalte maschinenlesbar gekennzeichnet werden können.
„Maschinenlesbar“ bedeutet: Die Kennzeichnung muss für technische Systeme erkennbar sein. Sie muss also nicht unbedingt als großer sichtbarer Hinweis mitten auf einem Foto stehen.
Solche technischen Markierungen können künftig dabei helfen, die Herkunft eines Inhalts zu überprüfen.
Das ist ein wichtiger Unterschied:
Nicht jede vorgeschriebene KI-Kennzeichnung werden wir mit bloßem Auge sehen können.
Deepfakes müssen erkennbar gemacht werden
Besonders wichtig sind die Regeln für sogenannte Deepfakes.
Damit sind künstlich erzeugte oder manipulierte Bilder, Videos oder Tonaufnahmen gemeint, die bestehende Personen, Orte, Gegenstände oder Ereignisse so wirklichkeitsnah darstellen, dass man sie für authentisch halten könnte.
Ein Beispiel:
Im Internet taucht ein Video auf, in dem ein bekannter Politiker scheinbar eine überraschende Erklärung abgibt. Das Bild sieht echt aus, die Lippen bewegen sich passend zur Sprache und auch die Stimme klingt überzeugend.
Tatsächlich hat der Politiker diese Worte nie gesprochen.
Ein solcher Deepfake muss grundsätzlich als künstlich erzeugt oder manipuliert kenntlich gemacht werden. Dabei reicht eine nur technisch versteckte Markierung nicht aus. Die Information muss für Menschen verständlich und wahrnehmbar sein.
Das ist gerade mit Blick auf Betrugsversuche wichtig.
Denn ähnliche Techniken können auch verwendet werden, um Stimmen oder Bilder vermeintlicher Angehöriger zu erzeugen. Der bekannte „Enkeltrick“ bekommt damit eine technische Variante, die erheblich überzeugender wirken kann.
Muss jetzt jeder mit ChatGPT geschriebene Text gekennzeichnet werden?
Nein.
Das ist einer der wichtigsten Punkte der neuen Regelung.
Es gibt keine allgemeine Vorschrift, nach der jeder Text mit dem Hinweis „Dieser Text wurde mit KI erstellt“ versehen werden müsste.
Besondere Regeln gelten jedoch für KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Dazu können beispielsweise politische und gesellschaftliche Themen, öffentliche Sicherheit, Gesundheit, Umwelt, Verbraucherschutz oder wichtige wirtschaftliche und wissenschaftliche Entwicklungen gehören.
Aber auch hier gibt es eine wichtige Ausnahme.
Der Mensch darf weiterhin die Verantwortung übernehmen
Ein mit KI unterstützter Text muss nicht allein deshalb als KI-Text gekennzeichnet werden, weil bei seiner Entstehung ein KI-Werkzeug benutzt wurde.
Wurde der Inhalt von einem Menschen fachlich überprüft oder redaktionell kontrolliert und übernimmt ein Mensch beziehungsweise eine Redaktion die Verantwortung für die Veröffentlichung, greift die besondere Kennzeichnungspflicht für solche Texte nicht.
Dabei reicht allerdings nicht, lediglich Rechtschreibung und Grammatik zu kontrollieren.
Die EU-Kommission versteht darunter eine tatsächliche inhaltliche Prüfung: Informationen müssen beurteilt, Quellen gegebenenfalls überprüft und Inhalte geändert oder auch verworfen werden können.
Das ist auch für Blogs, Vereine, Bildungseinrichtungen und andere Veröffentlichungen interessant.
KI darf also durchaus ein Werkzeug sein. Entscheidend bleibt, ob am Ende ein Mensch den Inhalt prüft und die redaktionelle Verantwortung übernimmt.
Und was ist mit KI-Bildern?
Auch hier lohnt sich eine genaue Unterscheidung.
Ein offensichtlich künstliches Symbolbild ist nicht automatisch ein Deepfake. Entscheidend ist unter anderem, ob ein KI-generiertes oder manipuliertes Bild, Video oder eine Tonaufnahme bestehende oder plausibel reale Personen, Orte, Dinge oder Ereignisse so darstellt, dass das Publikum sie fälschlicherweise für authentisch halten könnte.
Auch für künstlerische, kreative, satirische und fiktionale Werke gibt es besondere Regeln. Die Kennzeichnung soll dort so erfolgen können, dass sie das Werk nicht unnötig beeinträchtigt.
Es geht also nicht darum, jedes mit KI erzeugte Bild mit einem riesigen Warnhinweis zu versehen.
Es geht vor allem darum, Täuschung zu verhindern.
Kennzeichnung hilft – aber sie löst das Problem nicht
Für uns als Internetnutzer ergibt sich daraus allerdings ein wichtiger Punkt:
Wir sollten uns nicht darauf verlassen, dass künftig jeder künstliche Inhalt zuverlässig mit einem gut sichtbaren Hinweis versehen ist.
Dafür gibt es mehrere Gründe. Die Vorschriften enthalten Ausnahmen, manche Kennzeichnungen sind nur maschinenlesbar, und Menschen, die bewusst betrügen oder manipulieren wollen, werden sich vermutlich nicht immer an Kennzeichnungspflichten halten.
Deshalb bleibt die eigene Aufmerksamkeit wichtig.
Wenn ein Video, Bild oder eine Sprachnachricht ungewöhnlich, sensationell oder emotional aufwühlend wirkt, sollten wir uns einige einfache Fragen stellen:
- Woher stammt der Inhalt?
- Ist die Quelle vertrauenswürdig?
- Berichten auch andere seriöse Quellen darüber?
- Soll ich unter Zeitdruck etwas tun, bezahlen oder weiterleiten?
- Könnte Bild, Stimme oder Video künstlich erzeugt worden sein?
Gerade der letzte Punkt wird in Zukunft immer wichtiger.
Ein neues Stück Medienkompetenz
Lange bestand digitale Kompetenz vor allem darin, einen Computer oder ein Smartphone bedienen zu können.
Später kam die Frage hinzu, wie man sichere Passwörter verwendet, betrügerische E-Mails erkennt oder persönliche Daten schützt.
Nun kommt eine weitere Fähigkeit dazu:
Wir müssen lernen, digitale Inhalte nach ihrer Herkunft zu beurteilen.
Ein Foto kann echt sein – muss es aber nicht.
Eine vertraute Stimme kann tatsächlich zu dieser Person gehören – muss es aber nicht. Und ein freundlich formulierter Gesprächspartner im Internet kann ein Mensch sein – oder ein Computerprogramm.
Die neuen Transparenzregeln der Europäischen Union sind deshalb sinnvoll. Sie schaffen Hinweise und technische Möglichkeiten, künstlich erzeugte Inhalte besser erkennbar zu machen.
Sie nehmen uns aber eines nicht ab:
Auch im Zeitalter der Künstlichen Intelligenz müssen wir selbst kritisch hinschauen.
Vielleicht sogar ein bisschen genauer als bisher.
Quellen und weiterführende Informationen
Die rechtlichen Angaben in diesem Beitrag beruhen auf Informationen der Europäischen Kommission zum europäischen KI-Gesetz (AI Act), insbesondere zu den Transparenzpflichten nach Artikel 50.
Europäische Kommission: Leitlinien zu den Transparenzpflichten für bestimmte KI-Systeme
https://digital-strategy.ec.europa.eu/de/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems
Europäische Kommission: Transparenzpflichten nach Artikel 50 des KI-Gesetzes – Fragen und Antworten
https://digital-strategy.ec.europa.eu/de/faqs/transparency-obligations-under-article-50-ai-act
Europäische Kommission: Überblick über die Transparenzregeln für KI-Systeme
https://digital-strategy.ec.europa.eu/en/factpages/quick-facts-transparency-rules-ai-systems
Europäische Kommission: Kennzeichnung von KI-generierten Inhalten
https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
ASW
Alle neuen Artikel kostenlos direkt in Ihre Email-Inbox. So bleiben Sie immer auf dem Laufenden und verpassen nichts mehr. Melden Sie sich an!
