KI transparent einsetzen: Was Unternehmen ab 2. August 2026 kennzeichnen und offenlegen müssen

Ab dem 2. August 2026 gilt eine weitere Stufe des EU AI Acts. Unternehmen müssen in bestimmten Fällen offenlegen, dass Menschen mit einem KI-System interagieren oder Inhalte mithilfe von KI erzeugt beziehungsweise manipuliert wurden. Eine allgemeine Kennzeichnungspflicht für jeden KI-generierten Inhalt gibt es jedoch nicht. Die Transparenzpflichten ergeben sich insbesondere aus Artikel 50 des EU AI Acts. Sie sollen sicherstellen, dass Menschen erkennen können, wann sie unmittelbar mit KI kommunizieren oder mit potenziell täuschenden KI-Inhalten konfrontiert werden.

Für wen gelten die Transparenzpflichten?

Die Vorgaben gelten für Unternehmen und Organisationen, die entsprechende KI-Systeme in der EU anbieten oder beruflich einsetzen. Auch Unternehmen außerhalb der EU können erfasst sein, wenn ihre KI-Systeme oder deren Ergebnisse in der EU verwendet werden.

Welche Anforderungen ein Unternehmen erfüllen muss, hängt von seiner Rolle ab:

Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter ihrem eigenen Namen oder ihrer Marke auf den Markt beziehungsweise nehmen es entsprechend in Betrieb.
Betreiber verwenden ein KI-System in eigener Verantwortung. Die private, nicht berufliche Nutzung ist davon ausgenommen.

Ein Unternehmen kann je nach Anwendung unterschiedliche Rollen einnehmen. Wer eine fertige KI-Lösung verwendet, ist regelmäßig Betreiber. Wer ein System selbst entwickelt, wesentlich verändert oder unter eigenem Namen anbietet, kann dagegen zum Anbieter werden und weitergehende Pflichten haben.

Für Unternehmen sind insbesondere folgende Anwendungsfälle relevant:

Chatbots und digitale Assistenten
KI-generierte oder manipulierte Bilder, Videos und Audiodateien
KI-generierte Texte zu Themen von öffentlichem Interesse
Emotionserkennung und biometrische Kategorisierung

Chatbots müssen als KI erkennbar sein

„Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.“
Art. 50 Abs. 1 EU AI Act

Die Vorgabe betrifft beispielsweise:

Kundenservice-Chatbots
KI-Telefonassistenten
virtuelle Assistenten und Avatare
KI-Agenten für Terminbuchungen

Die Information muss klar und spätestens zu Beginn der ersten Interaktion erfolgen. Ein möglicher Hinweis lautet:

Sie kommunizieren mit einem KI-gestützten Chatbot.

Eine Information ist nicht erforderlich, wenn aufgrund des Nutzungskontextes offensichtlich ist, dass es sich um ein KI-System handelt. Diese Ausnahme soll jedoch eng ausgelegt werden.

Setzt ein Unternehmen die Lösung eines externen Anbieters ein, sollte es prüfen, ob der erforderliche Hinweis in der konkreten Anwendung tatsächlich sichtbar ist. Die technische Gestaltungspflicht liegt grundsätzlich beim Anbieter. Für Nutzerinnen und Nutzer zählt jedoch die konkrete Darstellung auf der Website oder in der Anwendung.

KI-generierte Inhalte müssen technisch erkennbar sein

Anbieter entsprechender KI-Systeme müssen sicherstellen, dass deren Ausgaben „in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind“.
Art. 50 Abs. 2 EU AI Act

Die technische Kennzeichnung betrifft grundsätzlich synthetische Bild-, Audio-, Video- und Textinhalte. Dafür kommen beispielsweise Metadaten, Wasserzeichen oder andere maschinenlesbare Verfahren infrage. Die technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch möglich ist.

Ausnahmen gelten unter anderem, wenn ein KI-System lediglich bei üblichen Bearbeitungsschritten unterstützt und die Eingabedaten oder deren Bedeutung nicht wesentlich verändert.

Artikel 50 gilt grundsätzlich ab dem 2. August 2026. Eine begrenzte Übergangsfrist bis zum 2. Dezember 2026 besteht nur für die technische Kennzeichnung von Ausgaben solcher KI-Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden. Für neue Systeme greift diese Übergangsregelung nicht.

Unternehmen, die lediglich Standardlösungen wie ChatGPT oder Microsoft Copilot verwenden, sind in der Regel nicht selbst Anbieter des zugrunde liegenden KI-Systems. Entwickeln oder vermarkten sie dagegen eigene Systeme, können die technischen Pflichten unmittelbar für sie gelten.

Deepfakes müssen sichtbar offengelegt werden

Betreiber eines KI-Systems, das Deepfakes erzeugt oder manipuliert, müssen „offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden“.
Art. 50 Abs. 4 EU AI Act

Deepfakes sind KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden oder realistisch vorstellbaren Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlicherweise echt erscheinen könnten.

Das betrifft beispielsweise:

ein KI-generiertes Video, in dem eine reale Person scheinbar eine Aussage trifft,
eine künstlich erzeugte Aufnahme mit der Stimme einer realen Person,
ein manipuliertes Bild eines tatsächlich nicht stattgefundenen Ereignisses.

Die Offenlegung muss für Menschen klar wahrnehmbar sein. Eine ausschließlich im Inhalt hinterlegte technische Kennzeichnung genügt dafür nicht. Für offensichtlich künstlerische, kreative, satirische oder fiktionale Inhalte gelten Erleichterungen. Auch hier muss der KI-Einsatz jedoch in angemessener Form offengelegt werden. chen Pflichten unmittelbar für sie gelten.

Nicht jeder KI-generierte Text ist kennzeichnungspflichtig

Betreiber müssen offenlegen, wenn KI-generierter oder manipulierter Text veröffentlicht wird, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“.
Art. 50 Abs. 4 EU AI Act

Unternehmen müssen daher nicht jede mit ChatGPT, Copilot oder einem anderen KI-Werkzeug erstellte Formulierung kennzeichnen. Das gilt beispielsweise für:

interne Protokolle und Dokumente
E-Mails und Übersetzungen
gewöhnliche Werbe- und Produkttexte
Textentwürfe, die anschließend fachlich geprüft werden

Eine Kennzeichnung ist grundsätzlich erforderlich, wenn ein KI-generierter oder manipulierter Text veröffentlicht wird, um die Öffentlichkeit über ein Thema von öffentlichem Interesse zu informieren. Dazu können politische, gesellschaftliche, wirtschaftliche, wissenschaftliche, gesundheitliche oder umweltbezogene Themen gehören.

Die Kennzeichnungspflicht entfällt, wenn der Text einer substanziellen menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Eine reine Rechtschreib- oder Grammatikprüfung genügt dafür nicht.

Für Pressemitteilungen, Fachartikel und andere redaktionelle Unternehmensbeiträge bedeutet das: KI kann weiterhin als Hilfsmittel eingesetzt werden. Entscheidend sind eine inhaltliche Prüfung und die klare Übernahme der redaktionellen Verantwortung.

Information bei Emotionserkennung und biometrischer Kategorisierung

Betreiber entsprechender Systeme „informieren die davon betroffenen natürlichen Personen über den Betrieb des Systems“.
Art. 50 Abs. 3 EU AI Act

Die Informationspflicht gilt beim zulässigen Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung. Betroffene Personen müssen sowohl bei einer unmittelbaren Analyse als auch bei einer späteren Auswertung informiert werden.

Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen ist allerdings grundsätzlich verboten. Ausnahmen bestehen nur für medizinische oder sicherheitsbezogene Zwecke. Eine Information der betroffenen Personen macht einen ansonsten verbotenen Einsatz daher nicht zulässig.

Kennzeichnungen bei der Weiterverarbeitung erhalten

Bei der Bearbeitung und Veröffentlichung KI-generierter Inhalte sollten Unternehmen darauf achten, vorhandene Herkunftsinformationen und maschinenlesbare Kennzeichnungen nicht unbeabsichtigt zu entfernen. Das kann etwa beim Komprimieren, beim Wechsel des Dateiformats oder beim Hochladen auf Plattformen geschehen.

Soweit eine sichtbare Kennzeichnung vorgeschrieben ist, muss auch diese erhalten bleiben. Unternehmen können sich bei Deepfakes und kennzeichnungspflichtigen Texten nicht allein auf technische Metadaten verlassen.

Was Unternehmen jetzt prüfen sollten

Setzen wir Chatbots oder digitale Assistenten mit direktem Kontakt zu Menschen ein?
Ist zu Beginn der Interaktion eindeutig erkennbar, dass es sich um ein KI-System handelt?
Veröffentlichen wir KI-generierte oder manipulierte Bilder, Videos oder Audiodateien, die echt erscheinen könnten?
Veröffentlichen wir KI-generierte Texte zu Themen von öffentlichem Interesse?
Sind inhaltliche Prüfung, redaktionelle Verantwortung und Freigabe klar geregelt?
Nutzen wir Systeme zur Emotionserkennung oder biometrischen Kategorisierung?
Bleiben technische und sichtbare Kennzeichnungen bei der Weiterverarbeitung erhalten?
Wer ist intern für Prüfung, Freigabe und Kennzeichnung verantwortlich?

Unterstützung bei Einordnung und Kennzeichnung

Der KI-Service Desk der Bundesnetzagentur unterstützt Unternehmen bei der Einordnung ihrer KI-Anwendungen. Mit dem KI-Compliance-Kompass können insbesondere kleine und mittlere Unternehmen eine erste Einschätzung zum Anwendungsbereich und zur möglichen Risikoklasse eines KI-Systems erhalten. Das Angebot dient der Orientierung, ersetzt aber keine verbindliche rechtliche Bewertung.

Für die praktische Umsetzung hat die Europäische Kommission außerdem Leitlinien zu den Transparenzpflichten und freiwillig nutzbare Kennzeichnungssymbole veröffentlicht. Die Symbole können insbesondere für Deepfakes und bestimmte KI-generierte Texte verwendet werden. Andere Kennzeichnungsformen sind ebenfalls möglich. Entscheidend ist, dass der Hinweis klar, wahrnehmbar und spätestens beim ersten Kontakt mit dem Inhalt erkennbar ist. Ein Symbol allein belegt noch keine vollständige Rechtskonformität.

Ergänzend bietet das unabhängige Future of Life Institute einen EU AI Act Compliance Checker an. Das Online-Tool ermöglicht eine erste, unverbindliche Einschätzung, welche Anforderungen des EU AI Acts für eine KI-Anwendung relevant sein können. Eine rechtliche Prüfung des Einzelfalls ersetzt es nicht.

Fazit

Ab dem 2. August 2026 müssen Unternehmen nicht jeden Einsatz generativer KI offenlegen. Handlungsbedarf besteht insbesondere bei Chatbots, Deepfakes, ungeprüften Texten zu Themen von öffentlichem Interesse sowie beim Einsatz von Emotionserkennung und biometrischer Kategorisierung.

Unternehmen sollten diese Anwendungsfälle erfassen, ihre Rolle klären, Verantwortlichkeiten festlegen und erforderliche Hinweise integrieren. Entscheidend ist nicht allein, ob KI verwendet wurde, sondern wofür und in welcher Form ihre Ergebnisse eingesetzt werden.