Forum Alpbach: BRZ stellt Prüfkatalog für vertrauenswürdige KI-Systeme vor

Künstliche Intelligenz kann auch im Public Sector nutzbringend eingesetzt werden, etwa um große Datenmengen zu analysieren, Betrugsbekämpfung voranzutreiben oder die Servicequalität für Kundinnen und Kunden zu erhöhen. In Alpbach diskutierten Experten und Branchenvertreter ethische Aspekte des Einsatzes von KI in der Verwaltung. [...]

Der Einsatz von KI in der Verwaltung wirft ethische Fragen auf. „Vertrauen ist ein wesentliches Element für die Akzeptanz von KI-Systemen. Nur wenn die eingesetzten Algorithmen transparent agieren und nachvollziehbare Ergebnisse liefern, können wir das Vertrauen in KI-Systeme herstellen. Dazu bedarf es aber einer Diskussion über strenge Qualitätskriterien, an denen wir Künstliche Intelligenz messen“, so Markus Kaiser, Geschäftsführer des Bundesrechenzentrum (BRZ) über das Thema der heurigen BRZ Breakout Session, die im Rahmen der Wirtschaftsgespräche des Europäischen Forum Alpbachs stattfand.

BRZ präsentiert Kriterienkatalog für vertrauenswürdige KI

Das BRZ hat einen Prüfkatalog erarbeitet, der KI-Algorithmen auf fünf wesentliche Kriterien hin prüft und somit für einen sicheren und vertrauenswürdigen Einsatz von Künstlicher Intelligenz sorgen soll. Die fünf Kriterien, die auf Basis von internationalen Best Practices erarbeitet wurden, lauten Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit. Hinter jedem Kriterium stehen umfassende Prüfschritte, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nimmt das BRZ 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe. Ziel ist es, ein umfassendes Bild eines Algorithmus zu erhalten und gegebenenfalls Optimierungsbedarf herauszuarbeiten. Das Ergebnis der Prüfung der einzelnen Kriterien wird in Form eines Ampelsystems von Grün (Alles OK) bis Rot (Verbesserungsbedarf) präsentiert.

Hochkarätig besetzte Diskussion

Der Prüfkatalog wurde erstmals im Rahmen einer digitalen BRZ Breakout Session zum Thema Vertrauen in Künstliche Intelligenz („Building Trust in Human-Centric Artificial Intelligence“) am 2. September im Rahmen des Europäischen Forums Alpbach vorgestellt. Unter der Leitung von Katharina Schell (Mitglied der APA-Chefredaktion) diskutierten Digitalisierungsministerin Margarete Schramböck, Gartner-Analyst und AI-Experte Magnus Revang, Andrea Martin (Leiterin des IBM Watson Centers München und Mitglied der Enquete-Kommission für Künstliche Intelligenz des Deutschen Bundestags) sowie BRZ-Geschäftsführer Markus Kaiser. In ihrem Statement betonte Digitalisierungsministerin Schramböck: „Österreich hat das Potenzial, beim Einsatz Künstlicher Intelligenz zur Weltspitze zu gehören. KI muss dabei den Menschen in den Mittelpunkt stellen. Es geht um eine digitale Verantwortungsgesellschaft. Dazu gehört auch, dass Künstliche Intelligenz stets nur menschliche Entscheidungen unterstützen, jedoch nicht ersetzen kann.“

Prüfkatalog nutzen, um neue KI-basierte Anwendungen zu entwickeln

Das BRZ bietet seinen Kunden die Möglichkeit, den Prüfkatalog für neue Applikationen und Services, die Künstliche Intelligenz nutzen einzusetzen. „Als Marktführer im Public Sector und innovationsgetriebenes Unternehmen möchten wir den Prüfkatalog nutzen, um E-Government-Anwendungen, Services wie Behörden-Chatbots oder Prüfsysteme einem Vertrauens- und Qualitäts-Check zu unterziehen. Wir sind uns sicher, dass BRZ-Kunden dieses innovative Service in Anspruch nehmen werden, um mit uns gemeinsam neue Produkte zu entwickeln, die den Menschen in Österreich das Leben und den Umgang mit Behördenangelegenheiten erleichtern“, so Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ über den Einsatz des Prüfkatalogs in der Praxis.

Details zu Zukunftstechniken des BRZ in der Verwaltung erfahren Interessierte hier.