Das Streben nach einer vertrauenswürdigen künstlichen Intelligenz: Der erste Entwurf zur KI-Verordnung

Spätestens seitdem künstliche Intelligenz (KI) durch Sprachassistenz oder autonomes Fahren Eingang in unserem Alltag gefunden hat, sind die damit verbundenen Erleichterungen aus unserem Leben nicht mehr wegzudenken. Zugleich birgt KI jedoch auch Risiken, in Persönlichkeitsrechte einzugreifen oder diskriminierende Entscheidungen in Folge einer schadhaften Anwendung zu treffen. [...]

Entwurf zur KI-VerordnungUm diesen Risiken entgegenzuwirken und den Einsatz vertrauenswürdiger KI-Systeme in der EU zu ermöglichen, hat die EU-Kommission einen Vorschlag für die Verordnung zur Regulierung der künstlichen Intelligenz (KI-VO) veröffentlicht. Damit wurde weltweit der erste Rechtsrahmen für KI gesetzt. Bemerkenswert ist, dass die KI-VO jedes KI-System, das in den Mitgliedstaaten der EU auf den Markt gebracht oder eingesetzt wird, ihren Regelungen unterwirft. Die KI-VO macht die Anforderungen an ein KI-System vom Sicherheitsrisiko, das vom jeweiligen System ausgeht, abhängig und verfolgt somit einen risikobasierten Ansatz. Die KI-Systeme werden dabei in ein minimales, geringes, hohes und unannehmbares Risiko eingeteilt.

Systeme mit minimalem Risiko umfassen etwa Spamfilter und können ohne weitere rechtliche Bedingungen entwickelt und eingesetzt werden. KI-Systeme mit geringem Risiko hingegen müssen gewissen Transparenzverpflichtungen gerecht werden. Sogenannte Deepfakes müssen z. B. offenlegen, dass deren Inhalte künstlich erzeugt werden. KI-Systeme mit hohem Risiko werden auf dem europäischen Markt nur zugelassen, wenn sie bestimmten zwingend vorgeschriebenen Anforderungen genügen und einem aufwendigen Zertifizierungsprozess standhalten. Hochrisiko-KI-Systeme, wie etwa ein KI-System für roboterassistierte Chirurgie, ein KI-System zur Bewertung der Kreditwürdigkeit oder ein KI-System zur Bearbeitung von Aufenthaltsgenehmigungen, bilden ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen. KI-Systeme, die ein inakzeptables Risiko eröffnen, dürfen in der EU gar keine Verwendung finden. Hierzu zählen KI-Systeme zur biometrischen Echtzeitidentifizierung im öffentlichen Raum oder »Social Scoring«-Systeme, also die Bewertung des sozialen Verhaltens für allgemeine Zwecke mithilfe von KI durch öffentliche Behörden.

Die KI-VO muss nun vom Europäischen Parlament und dem Rat der EU angenommen werden und wird schließlich 24 Monate nach ihrem Inkrafttreten in der gesamten EU umzusetzen sein. Obwohl derzeit noch von Änderungen der KI-VO auszugehen ist, sind Unternehmen, die mit KI arbeiten, gut beraten, sich frühzeitig mit dem Entwurf auseinanderzusetzen. Denn die KI-VO richtet sich nicht nur an die Anbieter, sondern auch an die Nutzer der KI-Systeme und sieht derzeit Bußgelder vor, die sogar jene der DSGVO übersteigen.

*Andreas Schütz ist Anwalt bei Taylor-Wessing.