Artikel 50 des EU-KI-Gesetzes (AI Act) gilt seit dem 2. August 2026. Er verpflichtet Anbieter generativer KI dazu, ihre Ausgaben maschinenlesbar zu kennzeichnen. Organisationen, die KI einsetzen, müssen Deepfakes sowie KI-generierte Texte offenlegen, die zu Themen von öffentlichem Interesse veröffentlicht werden.
Generative KI-Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, haben bis zum 2. Dezember 2026 Zeit, die Kennzeichnungspflicht zu erfüllen. Daher sollte der Dezember bei der Planung Ihrer Compliance-Maßnahmen im Mittelpunkt stehen.
Die wichtigsten Fakten
- Artikel 50 des AI Act gilt seit dem 2. August 2026.
- Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, haben bis zum 2. Dezember 2026 Zeit, die Kennzeichnungs- und Erkennungspflichten gemäß Artikel 50 Absatz 2 zu erfüllen.
- Menschen müssen darüber informiert werden, wenn sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist.
- Deepfakes und KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen gekennzeichnet werden. Ausgenommen sind Texte, die einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden.
- Bei Verstößen gegen diese Pflichten können Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes verhängt werden.
Wer muss gemäß Artikel 50 welche Pflichten erfüllen?
Die Pflichten hängen von der jeweiligen Rolle ab. Anbieter, also Organisationen, die KI-Systeme entwickeln oder auf den Markt bringen, müssen Chatbots so gestalten, dass Nutzer erkennen können, dass sie mit einer KI kommunizieren. Außerdem müssen sie generierte Audioinhalte, Bilder, Videos und Texte technisch so kennzeichnen, dass diese als KI-generiert erkannt werden können.
Betreiber, also Organisationen, die KI in ihren eigenen Geschäftsprozessen einsetzen, müssen betroffene Personen über den Einsatz von Emotionserkennung oder biometrischer Kategorisierung informieren, Deepfakes offenlegen und KI-generierte Texte kennzeichnen, die zu Themen von öffentlichem Interesse veröffentlicht werden.
Viele Unternehmen übernehmen je nach eingesetztem Werkzeug beide Rollen.
Was bedeutet Kennzeichnung in der Praxis?
Für Anbieter bedeutet Kennzeichnung eine technische Markierung, beispielsweise durch Wasserzeichen oder Metadaten, die von Maschinen ausgelesen werden können.
Für Betreiber bedeutet sie eine klare und sichtbare Offenlegung spätestens zu dem Zeitpunkt, an dem Menschen den Inhalt zum ersten Mal sehen.
Der freiwillige Verhaltenskodex der EU zur Transparenz KI-generierter Inhalte beschreibt anerkannte Vorgehensweisen für beide Arten der Kennzeichnung.
Wie können Sie sich bis Dezember vorbereiten?
- Erstellen Sie eine Liste aller Tools zur Inhaltserstellung. Berücksichtigen Sie dabei auch KI-Funktionen, die in bereits verwendete SaaS-Produkte integriert sind.
- Bestimmen Sie Ihre Rolle für jedes Tool. Prüfen Sie, ob Sie als Anbieter, Betreiber oder in beiden Funktionen handeln.
- Fragen Sie Ihre Lieferanten nach ihren Kennzeichnungsverfahren. Fordern Sie eine schriftliche Bestätigung an, wie KI-generierte Inhalte markiert werden.
- Legen Sie eine redaktionelle Richtlinie fest. Definieren Sie, welche Inhalte menschlich überprüft werden müssen, wer sie freigibt und wo Kennzeichnungen erscheinen sollen.
- Dokumentieren Sie Ihre Entscheidungen. So können Sie gegenüber Aufsichtsbehörden nachweisen, wie Sie Ihre Pflichten erfüllen.
Unsere Dienstleistungen zur Einhaltung des AI Act und zur KI-Governance unterstützen Sie dabei, KI-Anwendungen und die damit verbundenen Pflichten systematisch zu erfassen. Mit unserer Entwicklung von KI-Richtlinien lassen sich diese Anforderungen in klare Regeln für Ihre Teams überführen.
Häufig gestellte Fragen
Müssen wir Inhalte kennzeichnen, die vor August 2026 erstellt wurden?
Eine rückwirkende Kennzeichnung ist nicht vorgeschrieben, die Europäische Kommission empfiehlt sie jedoch.
Müssen Marketingtexte, die mit Unterstützung von KI erstellt wurden, gekennzeichnet werden?
Die Kennzeichnungspflicht für Texte betrifft KI-generierte Inhalte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Sie gilt nicht, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine Person die redaktionelle Verantwortung trägt.
Ist der Verhaltenskodex verpflichtend?
Nein. Der Kodex ist freiwillig. Unternehmen, die ihn unterzeichnen, können sich jedoch darauf berufen, um ihre Compliance nachzuweisen. Andere Unternehmen müssen die Einhaltung der Vorschriften auf andere geeignete Weise belegen.
Was sollten Sie als Nächstes tun?
Transparenzpflichten lassen sich leichter erfüllen, wenn sie von Anfang an in die Prozesse zur Erstellung und Veröffentlichung von Inhalten integriert sind, statt Kennzeichnungen erst in letzter Minute hinzuzufügen.
Wenn Sie einen klaren Überblick darüber erhalten möchten, wo KI in Ihrem Unternehmen eingesetzt wird und welche Anforderungen für die einzelnen Anwendungen gelten, kontaktieren Sie uns.
