EU-Gesetz für künstliche Intelligenz

Mit der europäischen KI-Verordnung (KI-VO / AI Act) entsteht nun erstmals ein umfassender gesetzlicher Rahmen für die Nutzung künstlicher Intelligenz in der Europäischen Union. Dabei betrifft die KI-VO längst nicht nur Tech-Konzerne oder Softwareentwickler. Vielmehr geraten nahezu alle Unternehmen, die künstliche Intelligenz beruflich einsetzen, in den Anwendungsbereich der neuen Regulierung. Dies gilt insbesondere für Agenturen, Content- und Medien-Unternehmen, Fotografen, Designer, Filmproduktionen, Verlage, Marketingabteilungen, E-Commerce-Unternehmen sowie den gesamten Mittelstand. Aber die neuen Regelungen werfen zahlreiche praktische und rechtliche Fragen auf:

• Welche Pflichten bestehen beim Einsatz von KI-Tools?
• Wer gilt als Betreiber oder Anbieter eines KI-Systems?
• Welche Anforderungen stellt die KI-VO an Unternehmen?
• Wann müssen KI-generierte Inhalte gekennzeichnet werden?
• Welche Haftungsrisiken entstehen durch KI-generierte Inhalte?
• Welche Anforderungen gelten für KI-Kompetenz und Mitarbeiterschulungen?
• Wie geht man mit Datenschutz, Geschäftsgeheimnissen und Urheberrechten beim Einsatz von KI um?
• Welche Vertragsklauseln und internen KI-Richtlinien sind erforderlich?

Unternehmen, die KI-Systeme einsetzen, müssen sich daher frühzeitig mit KI-Compliance, Governance-Strukturen und rechtssicheren Prozessen auseinandersetzen.

Wer muss die KI-VO beachten?

Die KI-VO richtet sich an verschiedene „Akteure“. Dabei ist die Rolle des sogenannten „Betreibers“ eines KI-Systems hervorzuheben, die insbesondere für Agenturen, Kreativunternehmen und mittelständische Betriebe relevant ist. Gemäß der KI-VO ist „Betreiber“, wer ein KI-System im beruflichen oder wirtschaftlichen Kontext in eigener Verantwortung nutzt. Dies betrifft heute praktisch nahezu jedes Unternehmen. Denn KI steckt längst nicht mehr nur in bekannten Bildgeneratoren oder Chatbots, sondern inzwischen auch in CRM-Systemen, Office-Anwendungen, Übersetzungstools, Analyseprogrammen, Marketingsoftware, Bildbearbeitung, Suchmaschinen, Projektmanagementsystemen oder Social-Media-Tools.

Sobald Unternehmen KI einsetzen, um Dienstleistungen zu erbringen, Kundenaufträge abzuwickeln, Inhalte zu erstellen oder interne Prozesse zu optimieren, übernehmen sie die Rolle eines KI-Betreibers.

Daneben kann ein Unternehmen auch „Anbieter“ eines KI-Systems sein. Dies ist insbesondere relevant, wenn Agenturen oder Unternehmen eigene KI-Lösungen entwickeln oder unter eigenem Namen vertreiben, etwa:

• KI-gestützte Content-Systeme
• interne Unternehmens-KI
• KI-gestützte Marketing- oder Analyseplattformen
• automatisierte Design- oder Bildgeneratoren
• KI-gestützte Kundenkommunikationssysteme

Abhängig von der jeweiligen Rolle entstehen unterschiedliche rechtliche Pflichten, Verantwortlichkeiten und Haftungsrisiken.

KI-Kompetenz: Pflicht für Unternehmen und Mitarbeiter

Ein zentrales Element der KI-VO ist die sogenannte „KI-Kompetenz“. Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass sie selbst sowie ihre Mitarbeiter über ausreichende Kenntnisse im Umgang mit KI verfügen. Die Pflicht zur KI-Kompetenz betrifft daher nicht nur große Konzerne, sondern ausdrücklich auch:

• Agenturen
• Marketingunternehmen
• Content- und Medienunternehmen
• mittelständische Unternehmen
• Social-Media-Abteilungen
• Freelancer und Kreativschaffende

Sobald KI im geschäftlichen Kontext genutzt wird, entsteht die Pflicht, sich mit Chancen, Risiken und rechtlichen Anforderungen der KI-Nutzung auseinanderzusetzen. Dabei kommt es nicht darauf an, ob kostenlose oder kostenpflichtige Tools genutzt werden oder wie groß das Unternehmen ist. Entscheidend ist allein die berufliche Nutzung von KI.

Unternehmen müssen zudem sicherstellen, dass auch ihre Mitarbeiter, freien Mitarbeiter, Subunternehmer und Dienstleister über ausreichende KI-Kompetenz verfügen. Gerade in Agenturstrukturen und komplexen Produktionsketten wird KI-Kompetenz daher zunehmend zur vertraglichen Nebenpflicht.

Was bedeutet KI-Kompetenz konkret?

KI-Kompetenz umfasst weit mehr als die bloße Bedienung eines KI-Tools. Denn die KI-VO verlangt ein Verständnis der Funktionsweise, Risiken und rechtlichen Auswirkungen von KI-Systemen. Hierzu gehören insbesondere:

Technisches Grundverständnis

Unternehmen und Mitarbeiter müssen verstehen,

Praktische Fähigkeiten

Erforderlich ist außerdem die Fähigkeit,

• KI sachkundig einzusetzen,
• KI-Outputs kritisch zu prüfen,
• Fehler und Rechtsverletzungen zu erkennen,
• KI-generierte Inhalte rechtlich zu bewerten,
• Risiken zu minimieren.

Rechtliche Kenntnisse

Besonders relevant für Unternehmen der Kreativwirtschaft sind Kenntnisse in:

• Urheberrecht
• Markenrecht
• Designrecht
• Datenschutzrecht
• Persönlichkeitsrecht
• Wettbewerbsrecht
• Vertragsrecht
• Geheimnisschutz
• Transparenz- und Kennzeichnungspflichten

Insbesondere bei der Nutzung generativer KI entstehen erhebliche Risiken. Denn KI-generierte Inhalte können Rechte Dritter verletzen, urheberrechtlich geschützte Werke imitieren oder Marken und Designs enthalten. Unternehmen müssen daher lernen, KI-Outputs rechtlich zu prüfen und Risiken frühzeitig zu erkennen.

KI-Compliance für Unternehmen

Viele Unternehmen nutzen KI bereits intensiv – allerdings häufig ohne klare interne Regeln. Genau hierin liegt ein erhebliches Haftungsrisiko. Denn fehlende Governance-Strukturen können dazu führen, dass:

• Geschäftsgeheimnisse in öffentliche KI-Systeme gelangen,
• personenbezogene Daten unzulässig verarbeitet werden,
• urheberrechtlich problematische Inhalte entstehen,
• Mitarbeiter KI unkontrolliert einsetzen,
• vertragliche Verpflichtungen verletzt werden,
• Kennzeichnungspflichten missachtet werden.

Unternehmen benötigen daher eine professionelle KI-Compliance-Struktur. Hierzu gehören insbesondere:

• KI-Richtlinien für Unternehmen
• Mitarbeiter-Guidelines
• Nutzungsrichtlinien für KI-Tools
• Datenschutz- und Geheimhaltungskonzepte
• Vertragsklauseln für KI-Nutzung
• Regelungen zur Prompt-Nutzung
• Dokumentations- und Freigabeprozesse
• KI-Risikobewertungen
• Schulungs- und Fortbildungskonzepte

Gerade mittelständische Unternehmen verfügen häufig noch nicht über entsprechende Compliance-Strukturen. Gleichzeitig nutzen Mitarbeiter KI-Systeme bereits täglich, jedoch oft ohne rechtliche Koordination oder ausreichende Kontrolle.

Deepfakes und Kennzeichnungspflichten

Ein besonders praxisrelevantes Thema der KI-VO ist die Kennzeichnungspflicht für KI-generierte oder manipulierte Inhalte („Deepfakes“). Ab dem 02.08.2026 müssen Betreiber bestimmter KI-Systeme offenlegen, dass Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. Die Regelungen betreffen insbesondere:

• KI-generierte Werbebilder
• synthetische Personenabbildungen
• KI-generierte Videos
• virtuelle Models
• KI-generierte Sprecherstimmen
• digitale Avatare
• KI-generierte Produktdarstellungen
• Social-Media-Content
• Marketingkampagnen

Die praktische Umsetzung wirft dabei zahlreiche Fragen auf:

• Wann liegt überhaupt ein „Deepfake“ vor?
• Ab wann besteht Kennzeichnungspflicht?
• Müssen auch KI-generierte Hintergründe gekennzeichnet werden?
• Wie verhält es sich bei Bildretuschen mittels KI?
• Welche Transparenzpflichten gelten in der Werbung?
• Welche Anforderungen gelten für hybride Produktionen aus echten Bildern und KI?

Die Rechtsprechung hierzu steht noch am Anfang. Unternehmen sollten sich dennoch frühzeitig mit Kennzeichnungs- und Transparenzpflichten auseinandersetzen.

Watermarking und technische Kennzeichnung

Zusätzlich sieht die KI-VO technische Kennzeichnungspflichten („Watermarking“) vor. Anbieter bestimmter KI-Systeme müssen sicherstellen, dass KI-generierte Inhalte maschinenlesbar als künstlich erzeugt erkennbar sind. Diese Regelungen sollen insbesondere gegen:

• Desinformation,
• Identitätsmissbrauch,
• Phishing,
• Deepfakes,
• Manipulationen,
• Täuschungen,
• Fake-Content

schützen.

Gerade Unternehmen der Medien- und Kreativbranche werden sich daher künftig intensiv mit Transparenz-, Offenlegungs- und Kennzeichnungsanforderungen beschäftigen müssen.

Haftungsrisiken beim Einsatz von Künstlicher Intelligenz

Fehlende KI-Kompetenz und mangelhafte Compliance können erhebliche Haftungsrisiken verursachen. Beispielsweise dann, wenn:

• KI-generierte Inhalte Rechte Dritter verletzen,
• urheberrechtlich geschützte Werke übernommen werden,
• vertrauliche Kundendaten in KI-Systeme gelangen,
• falsche oder diskriminierende Inhalte veröffentlicht werden,
• Transparenzpflichten verletzt werden,
• KI-generierte Inhalte nicht gekennzeichnet werden,
• Kunden über den KI-Einsatz nicht informiert werden.

Gerade Agenturen und Content-Unternehmen tragen hier erhebliche Risiken, da sie regelmäßig Inhalte für Dritte produzieren und veröffentlichen.

KI-Recht als strategischer Wettbewerbsfaktor

KI-Recht ist längst nicht mehr nur ein Spezialthema für IT-Unternehmen. Denn die Regulierung künstlicher Intelligenz entwickelt sich zunehmend zu einem strategischen Wettbewerbsfaktor für Unternehmen aller Branchen. Dabei schafft professionelle KI-Governance:

• Rechtssicherheit,
• Vertrauen bei Kunden,
• transparente Prozesse,
• bessere Compliance,
• geringere Haftungsrisiken,
• sichere Innovationsprozesse.

Unternehmen, die frühzeitig tragfähige KI-Strategien entwickeln, können KI wirtschaftlich nutzen und gleichzeitig regulatorische Risiken minimieren.

Expertise im KI-Recht für Agenturen und Unternehmen

Als Fachanwältin für Urheber- und Medienrecht begleitet Dorothe Lanc Unternehmen, Agenturen, Kreativschaffende und mittelständische Betriebe bei den rechtlichen Herausforderungen rund um künstliche Intelligenz, KI-Compliance und digitale Transformation. Die Beratung umfasst insbesondere:

• KI-Compliance und KI-Governance
• rechtssichere Einführung von KI-Systemen
• KI-Richtlinien und Mitarbeiter-Guidelines
• Vertragsgestaltung und KI-Klauseln
• Datenschutz und Geheimnisschutz beim KI-Einsatz
• KI-Kompetenz und Schulungskonzepte
• AI & Copyright Audits
• rechtliche Bewertung von KI-generierten Inhalten
• Kennzeichnungs- und Transparenzpflichten
• Urheberrecht, Markenrecht und Designrecht bei KI
• Haftungsrisiken beim Einsatz von KI
• Beratung zu Deepfakes und generativer KI
• strategische KI-Roadmaps für Unternehmen
• rechtliche Begleitung von Agenturen und Kreativunternehmen
• B2B-Schulungen und Workshops zum KI-Recht

Derzeit verändert KI Geschäftsmodelle, Produktionsprozesse und kreative Arbeit fundamental. Daher sollten Unternehmen nicht erst reagieren, wenn bereits Konflikte, Abmahnungen oder Compliance-Probleme entstanden sind, sondern frühzeitig belastbare rechtliche Strukturen schaffen.