KI-Kompetenz: KI-VO für Fotoprofis Teil 2

KI-Kompetenz als solide Basis für den sicheren Umgang mit KI

Da fast ausnahmslos alle Fotoprofis in irgendeiner Form mit KI arbeiten – sei es zur Organisation ihres Fotobusiness, zur Ideenfindung, Bildoptimierung oder gar Bildgestaltung – müssen sie KI-Kompetenz erwerben.

KI-Kompetenz ist vergleichbar mit einem Führerschein. Man muss die im Auto verbaute Technik nicht verstehen und auch den Motor nicht selbst bauen können. Aber man muss wissen, wie man das Auto bedient, sicher steuert, wann man bremst. Und dass man besser nicht blind aufs Navi vertraut.

Schließlich ist der Out-Put, den eine KI liefert, immer nur so gut wie ihr In-Put. In einer Flut aus Daten, Meinungen und Ergebnissen kann KI dem User eine gewisse Richtung zeigen, aber nicht immer den richtigen Weg. Und die Antwort, die KI liefert ist immer nur eine unter mehreren möglichen Antworten – und auch nicht immer die richtige. Man muss daher in der Lage sein, die Landkarte zu lesen und zu erkennen, wenn das Navi spinnt.

Was sagt die KI-VO?

Ausgehend von dem Gedanken, dass KI einerseits Probleme löst und technischen Fortschritt bringt, andererseits aber Risiken und Gefahren birgt, verlangt der europäische Gesetzgeber von denjenigen, die KI einsetzen, den Erwerb von KI-Kompetenz. Direkt am Anfang der KI-VO befindet sich in Art. 4 hierzu eine der zentralen Regelungen, die bereits seit dem 02.02.2025 gilt. Sie verlangt, dass

• Anbieter und Betreiber von KI‑Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, über ein ausreichendes Maß an KI‑Kompetenz zu verfügen.

• Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen.

• Für Personal und andere Personen, die im Auftrag der Anbieter und Betreiber mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, gilt gleiches.

Doch was bedeutet dies für Fotoprofis und andere Kreative der Kreativwirtschaft, die mit KI-Tools arbeiten?

Wer muss KI-Kompetenz besitzen?

Der Gesetzeswortlaut adressiert an „Anbieter“ und „Betreiber“ von KI-Systemen. Infolge dessen muss jeder für sich zunächst einmal seine Rolle gemäß der KI-VO bestimmen. Da die allermeisten Kreativen wohl KI-Systeme nur nutzen – nicht aber selbst entwickeln und anbieten werden, werden sie häufig die Rolle von KI-Betreibern einnehmen. 

Geschieht die Nutzung zu beruflichen – also nicht privaten Zwecken, also z.B. um Kundenaufträge zu erledigen, E-Mails zu beantworten, Kalkulationen zu erstellen, fremdsprachige Texte zu übersetzen oder Bilder anhand von KI-Tools zu optimieren oder zu gestalten, ergibt sich die Pflicht zur KI-Kompetenz. Dabei kommt es nicht darauf an, ob man als Freelancer arbeitet oder ein Unternehmen mit Angestellten führt, bestimmte Umsatzgrößen erreicht, kostenlose oder kostenpflichtige KI-Tools nutzt. Die Pflicht KI-Kompetenz zu erwerben, besteht immer dann, sobald man KI im geschäftlichen Kontext nutzt.

KI-Kompetenz müssen aber nicht nur die KI-nutzenden Freelancer und Unternehmer erwerben. Auch auf alle diejenigen, die für sie tätig sind und ebenfalls mit KI-Systemen in Berührung kommen, haben diese Pflicht. Fotoprofis müssen also darauf achten, dass bei ihnen angestelltes Studiopersonal ebenso KI-Kompetenz erwirbt und Schulungen erhält. 

Ähnliches gilt für diejenigen, die Subunternehmer beauftragen, die ihrerseits KI-Systeme nutzen. Wenn Fotoprofis also Bildbearbeiter oder CGI-Experten beauftragen, die ihrerseits mit KI-Tools arbeiten, müssen sie als jeweilige Auftraggeber sicherstellen, dass die von ihnen beauftragten Subunternehmer ebenfalls KI-Kompetenz besitzen. 

Ebenso sollten Fotoprofis damit rechnen, dass wenn sie von einer Werbe- oder Produktionsagentur gebucht werden, selbst nach KI-Kompetenz gefragt werden und diese versichern müssen.

Bei derartigen Beauftragungsketten wird also zukünftig KI-Kompetenz vorausgesetzt. Diese kann als vertragliche Nebenpflicht zwischen den Vertragspartnern vereinbart werden. In Rahmenverträgen und AGB werden dazu zukünftig sicher auch Klauseln zu finden sein.

Was ist KI-Kompetenz?

Was unter KI-Kompetenz zu verstehen ist, definiert wiederum Art. 3 Nr. 56 KI-VO. „KI‑Kompetenz“ meint demnach Fähigkeiten, Kenntnisse und Verständnis, die es ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

KI-Kompetenz besteht demnach aus einem Dreiklang:

Verständnis für KI-Systeme

Verständnis für KI-Systeme impliziert, die Situation und ihrer Auswirkungen korrekt einordnen zu können. Voraussetzung dafür ist ein technisches Grundverständnis, etwa wie KI funktioniert und trainiert wird. Ausserdem ist die Sensibilisierung für deren Schwachpunkte, wie systemimmanente Verzerrungen (Bias), Halluzinationen, Überanpassung (Overfitting) und fehlerhafte Generalisierung wichtig.

Fähigkeiten in Bezug auf KI-Systeme

Fähigkeiten in Bezug auf KI-Systeme stellt auf die praktische Anwendung und das Handeln ab. Hierzu zählt, KI sachkundig einzusetzen und Anwendungsfälle für das eigene Unternehmen zu identifizieren. Aber auch ihre Grenzen und Risiken zu erkennen, den Out-Put kritisch zu hinterfragen und nicht blind zu übernehmen sowie Fehler zu identifizieren.

Kenntnisse in Bezug auf KI-Systeme

Schlussendlich beinhaltet Kenntnisse in Bezug auf KI-Systeme auch ein theoretisches Wissen. Und zwar in Bezug auf Rechtskenntnisse. Hierzu zählt das Wissen um Transparenz- und Kennzeichnungspflichten, Verboten und Haftungsrisiken, aber auch ethische Fragestellungen, wie z.B. Diskriminierung oder Manipulation.

In welchem Umfang und wie muss man KI-Kompetenz erwerben?

Wann ein ausreichendes Maß an KI-Kompetenz erreicht ist, lässt der EU-Gesetzgeber bewusst offen und macht hier keine starren Vorgaben. Eine „One-fits-all“-Lösung gibt es nicht. Denn Umfang und Tiefe der KI-Kompetenz hängen davon ab, in welcher Ausprägung und Intensität ein Unternehmen KI nutzt und welche Risikogruppe die benutzte KI einzuordnen ist. Je intensiver die KI-Nutzung und je risikobehafteter das genutzte KI-System, umso umfangreicher und intensiver müssen die jeweiligen KI-User KI-Kompetenz erwerben und vertiefen.

Die KI-VO schreibt auch nicht vor, welche Trainingsmaßnahmen man konkret ergreifen muss. Zwar hat sich inzwischen ein eigenes Marktsegment entwickelt und eine Vielzahl von Anbietern bewirbt neue Bildungsformate unter dem Stichwort „KI-Kompetenz“. Aber es gibt weder formalisierte oder standardisierte Schulungen noch Zertifizierungen zum Erwerb von KI-Kompetenz, die man zwingend durchlaufen oder erwerben muss.

KI-Kompetenz kann daher durch Selbststudium, Workshops sowie Schulungen bis hin zu mehrstufigen Fortbildungsprogrammen erworben werden, jeweils abhängig vom individuellen Bedarf und Kontext. 

Wichtig ist lediglich, alle Maßnahmen, die man zum Erwerb von KI-Kompetenz ergriffen hat, gut zu dokumentieren und sie regelmäßig aufzufrischen, um immer auf dem aktuellen Stand zu sein. 

Was bedeutet KI-Kompetenz für Fotoprofis und Kreativwirtschaft?

Was KI-Kompetenz für eine bestimmte Berufsgruppe und ein bestimmtes Unternehmen beinhaltet, ist also höchst unterschiedlich. Denn neben einem eher allgemeinen, technischen KI-Basisverständnis, ergeben sich für jede Profession auch immer Spezialfragen und besondere Schwerpunkte, die aus dem jeweiligen Kontext der speziell-individuell eingesetzten KI-Systeme resultieren.

Bei Fotoprofis und anderen Akteuren der Kreativwirtschaft, die vorwiegend die Rolle als Betreiber von KI-Systemen ausfüllen werden, weil sie KI-Tools in ihrem beruflichen Kontext zur Auftragsabwicklung einsetzen, wird KI-Kompetenz folgende Punkte umfassen:

Verständnis für das Funktionieren von KI

Neben dem oben beschriebenen technischen Verständnis in Bezug auf das allgemeine Funktionieren von KI, wird ein spezielleres Wissen zu branchenspezifischen Tools der Kreativwirtschaft, wie z.B. KI-Bild-, Text- und/oder Tongeneratoren nötig sein.

Fähigkeiten zur Steuerung und Nutzung von KI

Im Hinblick auf die verlangten Fähigkeiten müssen Fotoprofis und andere Kreative branchenspezifische Tools steuern können und prüfen. Beispielsweise ob der konkrete Out-Put nicht die Rechte Dritter verletzt. So könnte der Out-Put die Nachahmung eines anderen, älteren urheberrechtlich geschützten Werks sein. Oder andere fremde Werke, Designs oder Marken könnten in dem synthetisch erzeugten Bild enthalten sein.

Kenntnisse in Bezug auf mögliche Rechtsverletzungen 

Im Bereich der Kenntnisse wird man von Fotoprofis und anderen Kreativen zumindest rudimentäre Spezialkenntnisse in Bezug auf das Urheber-, Design und Markenrechte sowie die Persönlichkeitsrechte verlangen können. 

Letztendlich sind die rechtlichen Fragestellungen und Prüfpflichten aber in vielen Bereichen die gleichen, die sich Fotoprofis auch bisher beim Fotografieren ihrer Motive stellen mussten. Nur, dass sie hier eben ein anderes Werkzeug für ihre Produktion ihrer Bilder verwenden.

Desweiteren müssen Kreative sorgfältig mit Geschäftsgeheimnissen ihrer Kunden, wie z.B. noch geheimen, noch nicht gelaunchten Produkten, umgehen. Sie dürfen keine vertraulichen Informationen weitergeben. Gleiches gilt für den Schutz personenbezogener Daten, die sowohl von ihren Auftraggebern als auch von ihren Subunternehmern stammen können. Derartige Informationen dürfen also keinesfalls in öffentliche GPAI und generative KI-Modelle gelangen.

Schließlich müssen sich Fotoprofis mit dem Thema „Deepfakes“, deren Merkmale und der ab 02.08.2026 geltende Kennzeichnungspflichtig (dazu mehr in Teil 3) auseinandersetzen.

Außerdem kann es erforderlich sein, zumindest aus Gründen der Transparenz und auch aus dem Umstand heraus, dass z.B. Fotoprofis mitunter vertraglich dazu verpflichtet werden, die Leistung höchstpersönlich zu erbringen, Kunden über den Einsatz von KI-Tools zu informieren.

Was sind die Folgen fehlender KI-Kompetenz?

Da die Vorschrift nur Appell-Charakter hat, geht man derzeit davon aus, dass fehlende KI-Kompetenz bei Betreibern nicht mit Bußgeldern sanktioniert werden kann. Anders kann dies ausnahmsweise für Anbieter und Betreiber von Hochrisiko-Systemen aussehen.

Besitzt ein Kreativer aber keine oder nur unzureichende KI-Kompetenz, könnte er womöglich seine Sorgfaltspflichten gegenüber seinem Vertragspartner verletzen. Infolge dessen könnte er für von ihm verschuldete Fehler haften. Beispielsweise dann, wenn er fehlerhafte Entscheidungen getroffen oder Risiken nicht erkannt hat und es dadurch bei seinem Vertragspartner zu einem Schaden kommt. Ein konkretes Beispiel hierfür wäre der folgende Fall:

Ein Fotoprofi erstellt anhand eines KI-Bildgenerators ein synthetisches Bild ohne sich zuvor über die Funktionsweise und rechtlichen Risiken dieser KI zu informieren. Die KI implementiert urheberrechtlich geschützte Elemente Dritter, z.B. ein Gemälde. Der Fotoprofi bemerkt dies nicht. Er bietet das Bild seinem Kunden für Werbezwecke an. Außerdem weist er seinen Kunden nicht darauf hin, dass es sich um ein KI-Erzeugnis handelt. Der Kunde veröffentlicht sodann das Bild und erhält vom Urheber des im KI-Bild abgebildeten Gemäldes eine Abmahnung. Der Fotoprofi haftet. Denn er lieferte seinem Kunden ein Produkt lieferte, das nicht frei von Rechten Dritter ist. Zudem verstößt es gegen Transparenzpflichten (z. B. KI-Kennzeichnung).

Fazit

Abgesehen davon, dass es interessant und spannend ist, den rasanten technischen Fortschritt von KI sowie ihre beeindruckenden Ergebnisse zu verfolgen, ist es wichtig, sich mit KI-Tools zu beschäftigen, sie zu hinterfragen und sich kritisch mit ihnen auseinander zu setzen, um auf diese Weise KI-Kompetenz zu erwerben. 

Hinsichtlich eingangs erwähnter Metapher des Führerscheins verlangt die KI-VO von KI-Nutzern im beruflichen Kontext zwar keine verpflichtende „Führerscheinprüfung“. Dennoch liegt es in Interesse eines jedes KI-Nutzers KI-Kompetenz zu erwerben. Denn nur so lernt man, mit KI nicht nur zu spielen, sondern sie auch klug, sicher und verantwortungsvoll einzusetzen.