Mehr Nachvollziehbarkeit für KI-gestützte Entscheidungen soll Anwendern helfen, KI-Vorhersagen besser zu verstehen und den Datenschutz optimieren. [...]
SAS erhöht mit der aktuellen Version von SAS Viya die Transparenz von analytischen Modellen aus neuen Machine-Learning-Technologien. So sollen sowohl Data Scientists als auch fachfremde Nutzer analytische Modelle leicht verstehen und anpassen können. Zudem baut die neue Version die Integration von Open-Source-KI-Technologien direkt in SAS Viya aus. Von der Automatisierung mittels KI profitiert auch der Datenschutz.
„KI kann Unternehmen einen großen wirtschaftlichen Vorteil verschaffen. Trotzdem haben viele Anwender Bedenken beim Einsatz der Technologie, vor allem wenn, es um den Schutz von personenbezogenen Daten oder um Transparenz bei automatisierten Entscheidungen geht“, erklärt Dave Schubmehl, Research Director for Cognitive/Artificial Intelligent Systems and Content Analytics bei IDC. „Die Anbieter von KI-Lösungen müssen solche Bedenken auflösen. Dabei können zum Beispiel automatisierte Funktionalitäten helfen: Diese erkennen personenbezogene Daten und stellen die Transparenz der Lösung auf jeder Ebene sicher.“
KI-Entscheidungen nachvollziehbar machen
Durch die steigende Komplexität von Machine-Learning-Modellen wird es immer schwerer zu erkennen, warum Systeme bestimmte Vorhersagen wie treffen. Modelle errechnen unterschiedliche Eintrittswahrscheinlichkeiten für verschiedene Fälle. Die Ergebnisse können sehr undurchsichtig und schwer nachvollziehbar sein. Doch gerade Nachvollziehbarkeit ist besonders wichtig, damit Unternehmen Technologien wie KI und Machine Learning vertrauen können. Das bedeutet: Man will verstehen, warum die Technologie eine bestimmte Entscheidung trifft, und man will die Ergebnisse des Modells verlässlich vorhersagen können.
Wenn zum Beispiel ein KI-gestütztes Programm, das Entscheidungen für Banken trifft, eine Kreditanfrage verweigert, oder ein HR-Programm, mit dem Mitarbeiter akquiriert werden sollen, eine Empfehlung für einen potenziellen Angestellten gibt, muss nachvollziehbar sein, warum die KI diese Entscheidung getroffen hat. Gerade in stark regulierten Branchen, wie zum Beispiel im Gesundheitswesen oder bei den Life Sciences, ist das wichtig. Wenn das System nicht transparent ist, setzen es die Unternehmen nicht ein.
SAS Viya unterstützt jetzt Advanced Analytics mit Built-in-Frameworks wie PD, LIME und ICE. Diese Features stellen die Transparenz für Unternehmen her, die KI-gestützte Applikationen einführen wollen.
„Die meisten Beispiele für KI-gestützte Anwendungen basieren auf Deep Learning und Natural Language Processing“, erklärt David Tareen, Global Product Marketing Manager for Artificial lntelligence bei SAS. „Deep Learning entwickelt sich besonders schnell, gerade wenn es um die Lösung von wirtschaftlichen Problemen geht. Diese Modelle sind allerdings sehr komplex – man könnte sie als ‚Blackbox‘ bezeichnen. Damit Unternehmen bessere Einblicke und damit größeres Vertrauen in analytische Modelle bekommen, haben wir SAS Viya entwickelt: ein intelligentes System, durch welches nachvollziehbar wird, wie und warum ein Modell so funktioniert, wie es funktioniert.“
Bessere Data Privacy
Besonders wenn Unternehmen den strikten Vorgaben der DSGVO gerecht werden müssen, hat der Schutz von personenbezogenen Kundendaten höchste Priorität. Sie müssen jetzt besser erkannt, verwaltet und geschützt werden – auch weil immer mehr Daten existieren. SAS Viya automatisiert das Erkennen und datenschutzkonforme Verwalten von personenbezogenen Daten – zum Beispiel Alter, Adresse oder Zahlungsdaten – mittels einer neuen intelligenten Markierungsoption.
Open-Source-Methoden integrierbar
Machine-Learning- und KI-Innovationen werden immer schneller integriert. Deshalb suchen viele Unternehmen nach Wegen, Vorteile zu kombinieren, die durch die Einführung von KI und Analytics entstehen. SAS Viya bietet dafür neue Möglichkeiten: Anwender können in der aktuellsten Version sowohl Python als auch R und SAS Modelle nutzen. Außerdem ermöglicht die neue SAS Viya-Version Zugriff auf den SUSE Linux Enterprise Server Support.
Be the first to comment