Seit 2. Februar 2025 gelten die Kapitel 1 & 2 der KI-Verordnung (offiziell: Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz). Am 2. August 2025 traten weitere Teile der KI-Verordnung inkraft und am 2. August 2026 gilt die KI-Verordnung (mit wenigen Ausnahmen) vollständig.
Was ist für Handwerksbetriebe relevant?
Die KI-Verordnung verfolgt einen risikobasierten Ansatz und gibt für die Anwendung (oder die Bereitstellung) verschiedener KI-Systeme je nach Risikoeinstufung verschiedene Pflichten vor. Falls Sie in Ihrem Betrieb lediglich einfache KI-Systeme wie beispielsweise KI-unterstützte Spam-Filter oder keine KI-Systeme betreiben, ergeben sich aus der KI-Verordnung keine Auflagen außer die interne Dokumentation darüber.
Transparenzpflicht nach Art. 50 (und ggf. weitere Pflichten)
Falls Sie gängige generative KI-Systeme wie ChatGPT oder Midjourney verwenden – sprich: Sie erstellen oder bearbeiten Inhalte wie Texte oder Bilder mithilfe von KI-Systemen – oder Chatbots zur Kundenkommunikation verwenden, dann unterliegen diese Systeme einem begrenzten Risiko. In diesen Fällen unterliegen Sie einer Transparenzpflicht bzw. Kennzeichnungspflicht nach Art. 50 und Sie müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Falls Kunden mit einem KI-System interagieren (bspw. Chatbot) muss ebenfalls transparent gemacht werden, dass die Interaktion mit einer Künstlichen Intelligenz stattfindet.
Der Großteil der in Handwerksbetrieben eingesetzten KI-Systeme sollte unter diese beiden Risikokategorien (begrenztes oder kein Risiko) fallen. KI-Systeme mit hohem Risiko erfordern weitergehende Pflichten, die Sie gern mit dem Berater der Handwerkskammer Ulm besprechen können. Beispiele für Hochrisiko-KI-Systeme wären solche, die bei Produkten eingesetzt werden, die einer Konformitätsprüfung unterliegen oder beim Einsatz von KI-unterstützten Bewerbungsfiltern bei der Kandidatenauswahl im Personalmanagement. Außerdem sind verbotene Praktiken in Art. 5 definiert, die weder betrieben noch entwickelt werden dürfen. Hierunter fallen beispielsweise KI-Systeme zum Social Scoring oder zur biometrischen Identifizierung im öffentlichen Raum.
Zur Selbsteinschätzung des Risikos Ihrer betriebenen KI-Systeme können Sie den KI-Compliance Kompass der Bundesnetzagentur nutzen:
https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/2_Risiko/kompass/start.html
Schulungspflicht nach Art. 4
In der KI-Verordnung ist geregelt, dass Betreiber von KI-Systemen Maßnahmen ergreifen müssen „um […] sicherzustellen, dass ihr Personal […], über ein ausreichendes Maß an KI-Kompetenz verfüg[t]“ (Art. 4). Als KI-Kompetenz wird die Fähigkeit definiert, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ (Art. 3 Nr. 56).
In welcher Form der Nachweis der KI-Kompetenz zu erbringen ist, ist nicht definiert. Ausdrücklich ist somit auch nicht definiert, dass eine externe Zertifizierung notwendig ist. Es bietet sich deshalb an, dass bei der Neuanschaffung bspw. eines Chatbots eine Produktschulung durchgeführt werden sollte und diese durch den Hersteller bescheinigt werden sollte. Zum Nachweis von KI-Kompetenz im Einsatz von ChatGPT oder anderer LLMs können bspw. kostenfreie Webseminare genutzt werden.
KI-Schulung durch die Handwerkskammer Ulm
Außerdem bietet die Handwerkskammer Ulm kostenfreie Schulungen bei Ihnen im Betrieb oder online zur Nutzung von LLMs in Handwerksbetrieben an. Im Anschluss an die Schulungen erhalten Sie Teilnahmebescheinigungen, die Sie zur Dokumentation der KI-Kompetenz nutzen können. Bei Interesse wenden Sie sich bitte an Benjamin Reiner, Berater für Innovation und Technologie mit Schwerpunkt Digitalisierung oder nutzen Sie unsere Online-Terminbuchung:
