Künstliche Intelligenz und rechtliche Herausforderungen
Künstliche Intelligenz verändert die Geschäftswelt schneller als das Recht ihr folgen kann. Wer heute KI-Systeme einsetzt, betritt rechtliches Neuland – und übernimmt eine Menge zusätzliche Verantwortung. Die Rechtsanwälte bei HIMMELREITHER begleiten Ihr Unternehmen dabei, diesen Weg entschlossen und rechtssicher zu gehen: mit juristischem Know-how, klarem Blick für das Wesentliche und einem analytischen Verständnis für die technischen Realitäten hinter den Systemen.
Der EU AI Act
August 2024: Die Europäische Union verabschiedete mit dem AI Act das erste rechtsverbindliche Regelwerk weltweit,das den Einsatz Künstlicher Intelligenz umfassend reguliert. Für Unternehmen,die KI-Systeme innerhalb der EU einsetzen, entwickeln oder in Verkehr bringen, gilt Folgendes: Die EU-Verordnung ist kein abstraktes Brüsseler Papier. Als EU-Rechtsverordnung istsie auch in Deutschland unmittelbar geltendes Recht und greift daher auch unmittelbar in den Unternehmensalltag ein – mit bindenden Pflichten und drakonischen Sanktionen. Jedes Unternehmen in Deutschland ist daher auch dem EU AU-Act unterworfen, wenn es KI nutzt.
HIMMELREITHER hat die Auswirkungen dieses unmittelbar auch für Deutschland geltenden Rechts analysiert und die Konsequenzen für die Unternehmenspraxis durchleuchtet.
März 2026: Die Bundesregierung beschließt einen Regierungsentwurf zur Umsetzung des EU AI-Acts. Insbesondere erfolgt eine dezidierte Überwachung der Einsetzung Künstlicher Intelligenz sowohl durch die Bundesnetzagentur als zentrale Behörde, wie auch durch zusätzliche KI-Behörden des Bundes und der Länder.
Den Behörden haben umfassende Kontrollmöglichkeiten. Unteranderem sind die Behörden ermächtigt, Geschäftsräume zu betreten und Quellcodes einzusehen, auch unangekündigt.
Um sich also rechtskonform zu verhalten und insbesondere, um hohe Strafen und Bußgelder zu vermeiden, ist es daher für Unternehmen besonders wichtig, sich durch den Vorschriftendschungel aus Datenschutzrecht, Produktsicherheit und KI-Recht zu kämpfen und die essenziellen Normen im Blickfeld zu halten.
Unser Ziel: Unternehmen, die Beratungsbedarf haben oder Rechtsfälle gewinnen wollen, nicht mit Paragrafenhymnen zu betören, sondern klar und verständlich über Möglichkeiten und Risiken der sicher chancenreichen Epoche aufzuklären und Ihr Potenzial zu sichern.
Das Herzstück des AI Act: Risikoklassen
Der AI Act teilt KI-Systeme in vier Risikoklassen ein. Die Einordnung des jeweiligen KI-Systems entscheidet über den Umfang der Pflichten und damit über den Compliance-Aufwand:
1.
Verbotene KI-Praktiken: Systeme, die Grundrechte in unannehmbarer Weise gefährden, sind schlicht unzulässig. Darunter fallen Systeme zur unbewussten Verhaltensbeeinflussung, zur Echtzeit-Biometrie im öffentlichen Raum (mit engen Ausnahmen) sowie Social-Scoring-Anwendungen staatlicher Stellen.
2.
Hochrisiko-KI: Diese Kategorie ist für die meisten Unternehmen der kritische Punkt. Systeme in Bereichen wie Personalauswahl, Kreditbewertung, kritische Infrastruktur oder Strafverfolgung gelten als Hochrisiko. Hier greift ein dichtes Netz an Anforderungen.
3.
Begrenzt riskante Systeme: Chatbots und ähnliche Systeme, bei denen Nutzer nicht ohne Weiteres erkennen, dass sie mit einer Maschine interagieren, unterliegen spezifischen Transparenzpflichten.
4.
Minimales Risiko: Der Großteil kommerzieller KI-Anwendungen fällt hier hinein – von Spam-Filtern bis hin zu Produktempfehlungsalgorithmen. Keine Sonderpflichten, aber unternehmensinterne Sorgfalt bleibt geboten.
Pflichten für Hochrisiko-KI: Ein Überblick
Unternehmen, die Hochrisiko-KI-Systeme einsetzen oder entwickeln, müssen unter anderem folgende Anforderungen erfüllen– und dies gegenüber Behörden nachweisbar dokumentieren können:
– Implementierung eines vollständigen Risikomanagementsystems über den gesamten Lebenszyklus des Systems;
– Erstellung und Pflege technischer Dokumentation sowie Konformitätsbewertungen;
– Führen automatisierter Protokolle (Logs) über den Betrieb des Systems;
– Klare, verständliche Nutzerinformationen über Funktion und Grenzen des Systems;
– Sicherstellung einer wirksamen menschlichen Aufsicht – auch wenn die KI im Wesentlichen autonom agiert.
Verstöße gegen den AI Act können mit Bußgeldern von bis zu 30 Millionen Euro oder mit einem Betrag von bis zu 6 Prozent des weltweiten Jahresumsatzes des jeweiligen Unternehmens geahndet werden. Die Obergrenze für verbotene KI-Praktiken liegt noch höher.
HIMMELREITHER und der AI-Act: Unser Beratungsansatz
Die Rechtsanwälte bei HIMMELREITHER haben für die AI-Act-Compliance einen strukturierten Beratungsprozess entwickelt, der mit einer Bestandsaufnahme Ihrer eingesetzten KI-Systeme beginnt, die zutreffende Risikoklasse bestimmt und daraus konkrete Handlungspflichten ableitet. Am Ende steht ein praxistauglicher Compliance-Plan – kein theoretisches Gutachten.
HIMMELREITHER empfiehlt: Wissen Sie, welche KI-Systeme in Ihrem Unternehmen welcher Risikoklasse zuzuordnen sind? Wenn nicht, kann ein AI-Act-Screening der richtige erste Schritt sein. Frühzeitige Klarheit schützt vor späten Überraschungen.
Melden Sie sich für ein Erstgespräch:
Telefon: 0221 669 632 0
E-Mail: mail@himmelreither.de
Ihr HIMMELREITHER Team
