Künstliche Intelligenz: Haftungsrisiken und Handlungsoptionen für Geschäftsführer

Künstliche Intelligenz ist kein Zukunftsversprechen mehr – sie ist Unternehmensrealität. E-Mails verfassen mit ChatGPT, Bewerbervorauswahl per KI-Tool, Chatbots im Kundenservice, automatisierte Analysen im Controlling: KI-basierte Anwendungen werden bereits in vielen Bereichen flächendeckend eingesetzt.

Was technisch machbar ist, ist jedoch rechtlich nicht immer unproblematisch, insbesondere nicht für die Geschäftsführung. Denn der Einsatz von KI kann erhebliche juristische Folgen haben, wenn Sorgfaltspflichten verletzt werden oder gesetzliche Anforderungen missachtet bleiben. Mit dem Inkrafttreten der europäischen KI-Verordnung („AI Act“) im Februar 2025 hat sich die Rechtslage weiter verschärft.

Viele Geschäftsführer:innen fragen sich nun: Welche Verantwortung trage ich persönlich?
Muss ich alle Mitarbeiter:innen schulen lassen? Und wie kann ich mich angemessen rechtlich absichern, ohne überzuregulieren?

 

AI Act – „KI-Kompetenz“

Die KI-VO verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme in verschiedene Risikokategorien eingeteilt werden. Anbieter und Betreiber von KI-Systemen werden verpflichtet, geeignete Maßnahmen zu ergreifen, um sicherzustellen, dass ihr Personal und beauftragte Dritte über ein ausreichendes Maß an „KI-Kompetenz“ verfügen.
Diese Regelung gilt unabhängig davon, ob es sich um KI-Systeme mit minimalem Risiko oder sogenannte Hochrisiko-Systeme (z.B. Recruiting-KI) handelt oder nicht.

„KI-Kompetenz“ meint die Fähigkeit, KI-Systeme fachkundig anzuwenden, ihre Potenziale und Risiken einzuordnen und die daraus resultierenden technischen, rechtlichen und ethischen Folgen einschätzen zu können. Mit anderen Worten: Gefordert ist ein umfassendes Verständnis von KI.

 

GmbHG, DSGVO und AI Act: Wo es kritisch wird

Zwar sieht die KI-Verordnung keinen eigenen Bußgeldtatbestand für Verstöße gegen die Pflicht zur Implementierung der KI-Kompetenz vor. Allerdings haften Geschäftsführer nach § 43 GmbHG gegenüber der Gesellschaft persönlich, wenn sie ihre Obliegenheiten und Sorgfaltspflichten verletzen. Diese Pflichten umfassen eine ordnungsgemäße Organisation des Betriebs – insbesondere beim risikobehafteten Einsatz von Technologien wie KI.

KI ist fehlbar – und deshalb kontrollbedürftig. Wird sie ohne ausreichende Aufsicht oder Schulung eingesetzt und führt dies zu Rechtsverstößen – etwa durch die Verletzung von Urheber-, Marken- oder Persönlichkeitsrechten – droht unter Umständen eine persönliche Haftung der Geschäftsführung. Hinzu kommen zeit- und kostenintensive aufsichtsrechtliche Verfahren, Bußgelder nach der DSGVO und nicht zuletzt erhebliche Reputationsschäden.

 

Handlungsempfehlungen:

Geschäftsführer sollten den KI-Einsatz im Unternehmen daher weder ignorieren noch unkontrolliert fördern. Stattdessen ist eine risikoorientierte KI-Governance zu empfehlen:

•  Erstellen einer unternehmensinternen KI-Richtlinie
• Durchführen von Risikoanalysen eingesetzter KI-Tools
• Dokumentation von Entscheidungsprozessen, etwa bei der Auswahl von KI-Dienstleistern oder bei der Einführung neuer Systeme
• Bedarfsgerechte Mitarbeiterschulung
• Ggf. frühzeitige Einbindung des Betriebsrats, wenn es um leistungs- oder verhaltensbezogene KI-Systeme geht
• Definieren Sie menschliche Kontrollpflichten – insbesondere bei Systemen, die potenziell diskriminieren oder automatisierte Entscheidungen treffen.

Ziel sollte hierbei nicht nur die Einhaltung regulatorischer Vorgaben sein, sondern vor allem die Schaffung der Voraussetzungen für einen souveränen, produktiven Einsatz von KI im betrieblichen Alltag. Unternehmen, die Kompetenzaufbau nicht als Pflichtübung, sondern als strategisches Instrument verstehen, schaffen die Basis für verantwortungsvolle Innovation und sichern sich entscheidende Wettbewerbsvorteile. Wir unterstützen Sie gerne dabei.