Künstliche Intelligenz auf dem Prüfstand

Die Johannes Kepler Universität und TÜV AUSTRIA entwickeln ein Zertifikat für künstliche Intelligenz. [...]

TÜV AUSTRIA arbeitet gemeinsam mit dem Institut für Machine Learning der Johannes Kepler Universität (JKU) an Zertifizierungsmethoden, um Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine-Learning-Modelle zu unterstützen und Nutzern ein Qualitätssiegel für vertrauenswürdige KI-Systeme zu bieten. Die erste Erfolgsstufe wurde eigenen Angaben zufolge erreicht: Sogenannte Supervised-Learning-Anwendungen im niedrigen bis mittelhohen Risikobereich werden heute schon zertifiziert. „Wir führen bereits erste Zertifizierungsprojekte durch, wobei sich die Anwendungen vor allem im industriellen Umfeld aber auch im Consumer-Bereich wiederfinden. In den nächsten Phasen der Entwicklungskooperation werden die jetzigen Ansätze erweitert, um auch sicherheitskritischere Anwendungen basierend auf einem breiteren Spektrum von Machine-Learning-Methoden zertifizieren zu können“, sagt Stefan Haas, CEO der TÜV AUSTRIA Group und ergänzt: „Besonders freut es uns, für dieses herausfordernde Unterfangen das Machine Learning Institut der JKU als kompetenten und international anerkannten Partner an unserer Seite zu wissen.“

Im Rahmen der Zertifizierung werden die Machine-Learning-Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft. Dabei wird nicht nur die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, sondern auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde. Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden.