AI Act

In Ihrem Gastkommentar geben die Juristen Mag. Andreas Schütz und Mag. Julia Allen einen kurzen Überblick über die derzeit in der EU diskutierten Verordnungs- und Richtlinienvorschläge unter Berücksichtigung der einzelnen Punkte des KI-Gesetzes. [...]

Die Anwendung von künstlicher Intelligenz („KI“ oder auch „Artificial Intelligence“, „AI“) ist mittlerweile im Privat- und Geschäftsleben angekommen. Nicht nur Tech-Unternehmen müssen sich aber neuerdings mit den geplanten Regeln der Europäischen Union zur Anwendung, Verwendung und Haftung von KI auseinandersetzen. Nachfolgend geben wir deshalb einen kurzen Überblick über die derzeit in der EU diskutierten Verordnungs- und Richtlinienvorschläge unter Berücksichtigung der einzelnen Punkte des KI-Gesetzes.

Anstoß der Debatte über KI gab der Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (auch »KI-Gesetz«, »KI-Verordnung« oder »AI-Act« genannt). Ziel des KI-Gesetzes ist ein sicherer, transparenter, nachvollziehbarer, nicht-diskriminierender und umweltfreundlicher Einsatz der in der EU verfügbaren KI-Systeme. Eine finale Fassung soll noch dieses Jahr beschlossen werden.

Das KI-Gesetz ist in vier Risikoklassen unterteilt: 

• KI-Systeme mit unannehmbarem Risiko, wie z.B. kognitive Verhaltensmanipulation, »Social Scoring«, biometrische Echtzeit-Fernidentifizierung (z.B. Gesichtserkennung), »Profiling« oder Emotionserkennungssysteme zählen zu den verbotenen KI-Praktiken.

• Hochrisiko-Systeme stellen eine Gefahr für die Gesundheit, Sicherheit, Umwelt oder Demokratie, aber auch für Menschenrechte und Rechtsstaatlichkeit dar. Das sind (i) insbesondere KI-Systeme, die in eigenen EU-Produktsicherheitsvorschriften geregelt sind (z.B. Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte) oder (ii) KI-Systeme, die in einen nach dem KI-Gesetz definierten Bereich fallen, wie »biometrische Identifizierung und Kategorisierung von natürlichen Personen«.

• Als »lex ChatGPT« werden im Gesetzgebungsprozess eigene Regelungen für generative KI mitbedacht. Hierfür gelten spezielle Transparenz- und Entwicklungsanforderungen.

• Für KI-Systeme mit begrenztem Risiko bestehen die geringsten Anforderungen. Der oder die Nutzer:in muss z.B. bei der Verwendung von Chatbots darauf aufmerksam gemacht werden, dass nicht mit einem Menschen, sondern mit einer KI interagiert wird. 

Ebenfalls derzeit in Planung – und mit dem KI-Gesetz verknüpft – ist der Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an KI (Richtlinie über KI-Haftung). Hierbei handelt es sich um eine Haftung für Personen- und Sachschäden, die von KI verursacht werden. 

Die Umsetzung und praktische Anwendung des KI-Gesetzes bzw. der KI-Haftungsrichtlinie wird nicht nur von der Wirtschaft, sondern auch von Jurist:innen, mit Spannung erwartet.

*Mag. Andreas Schütz und Mag. Julia Allen sind Juristen bei Taylor Wessing.