Endlich gebietet die EU dem KI-Bürokratiewahn Einhalt

Still und leise wurde die Produkthaftungsrichtlinie der EU ad acta gelegt. Das kam unerwartet. Doch angesichts neuer EU-Vorschriften wie dem EU AI Act könnten die Folgen relativ unspektakulär sein. [...]

Rechtssicherheit muss auch in Zeiten von KI gegeben sein, insbesondere beim Verbraucherschutz, denn die neue Technologie hat großes Schadenspotenzial. Keine Frage: Nutzerinnen und Nutzer müssen vor unfairen KI-Entscheidungen und den damit verbundenen Repressalien geschützt werden. Die Idee der Produkthaftungsrichtlinie war daher, dass Kunden und Kundinnen, Bürgerinnen und Bürger sowie Unternehmen keine tiefgreifende Kausalität zwischen einem von ihnen verwendeten KI-System und dem angeblich verursachten Schaden nachweisen müssen. Vielmehr lag die Nachweispflicht auf Seite der Betreiber der KI-Systeme, beziehungsweise bei dessen jeweiligem Anbieter.

Diese Vorgehensweise ist nun vom Tisch – die Nachweispflicht liegt wieder beim Nutzer. Einen gewissen Schutz für Betroffene bietet der EU AI Act dennoch. So können sie beispielsweise auf ihrem Recht bestehen, spezifische Hintergrundinformationen zu automatisierten Entscheidungen zu erhalten. Auf Fragen wie „Warum wurde mir der Kredit verweigert?“ oder „Warum werde gerade ich im Hinblick auf meine vom Staat bezogenen Leistungen überprüft?“ bekommen sie somit nach wie vor eine Antwort.

Einige Panikmacher framen die Abschaffung rund um die EU-Produkthaftungsrichtlinie nun als einen Angriff auf den Verbraucherschutz im globalen KI-Wettbewerb. Das ist sie aber nicht. Man kann sie aber auch einfach als eine sinnvolle Bereinigung verstehen, die den Flickenteppich der Regulierung von Künstlicher Intelligenz etwas konsolidiert. Schließlich benötigen nicht alle denkbaren Rechtsstreitigkeiten eine eigene Richtlinie: Die meisten werden durch bestehende bereits ausreichend abgedeckt. Das durch den EU AI Act verbriefte Recht, bei strittigen KI-basierten Entscheidungen eine Auskunft über den dahinterstehenden Prozess zu erhalten, ist ein gutes Beispiel. Die Auskunftspflicht der Betreiber wird Verbraucherinnen und Verbrauchern helfen, ihr Recht auf vorteilsfreie Behandlung durchzusetzen – im Zweifel vor Gericht.

* Peter van der Putten ist Director AI Lab bei Pegasystems.