Angesichts der zunehmenden Verbreitung von KI-Agenten in Unternehmen hat IBM eine Software angekündigt, die Teams für KI-Sicherheit und KI-Governance zusammenbringt und einen einheitlichen Überblick über die Risikosituation eines Unternehmens ermöglicht. [...]
Die neuen Funktionalitäten erweitern und integrieren watsonx.governance und Guardium AI Security, um Kunden dabei zu unterstützen, ihre KI-Systeme, einschließlich Agenten, sicher und verantwortungsbewusst zu gestalten. Watsonx.governance ist das End-to-End-Tool von IBM für die KI-Governance, während Guardium AI Security das Tool von IBM für die Sicherung von KI-Modellen, Daten und deren Nutzung ist.
„KI-Agenten werden die Produktivität von Unternehmen revolutionieren, aber genau diese Vorteile können auch eine Herausforderung darstellen“, sagt Ritika Gunnar, General Manager, Data and AI, IBM. „Wenn diese autonomen Systeme nicht ordnungsgemäß geregelt oder gesichert sind, kann dies schwerwiegende Folgen haben.“
Integration und Automatisierung von agentenbasierter KI-Sicherheit
IBM verbessert die Integration von IBM Guardium AI Security und watsonx.governance und bietet Unternehmen damit eine einheitliche Lösung zur Verwaltung von Sicherheits- und Governance-Risiken im Zusammenhang mit KI-Anwendungsfällen. Die Integration unterstützt die Prozesse der Anwender hinsichtlich der Validierung von Compliance-Standards anhand von zwölf verschiedenen Rahmenwerken, darunter den EU AI Act und die Norm ISO 42001.
IBM führt außerdem in Zusammenarbeit mit AllTrue.ai neue Funktionalitäten für Guardium AI Security ein, darunter die Möglichkeit, neue KI-Anwendungsfälle in Cloud-Umgebungen, Code-Repositorys und eingebetteten Systemen zu erkennen und so für umfassende Transparenz und Schutz in einem zunehmend dezentralisierten KI-Ökosystem zu sorgen. Sobald eine Bedrohung erkannt wurde, kann IBM Guardium AI Security automatisch geeignete Governance-Workflows über watsonx.governance auslösen.
Zu den jüngsten Updates von IBM Guardium AI Security gehören auch automatisiertes Red Teaming, mit dem Unternehmen Schwachstellen und Fehlkonfigurationen in KI-Anwendungsfällen erkennen und beheben können. Um Risiken wie Code-Injektionen, die Offenlegung sensibler Daten und Datenlecks zu minimieren, können Anwender mit dem Tool benutzerdefinierte Sicherheitsrichtlinien festlegen, die sowohl Eingabe- als auch Ausgabeprompts analysieren. Diese Funktionen sind ab sofort in IBM Guardium AI Security verfügbar, und ihre Integration in watsonx.governance wird im Laufe des Jahres erfolgen.
„Die Zukunft der KI hängt davon ab, wie erfolgreich wir sie heute sichern. Die Einbettung von Sicherheit von Anfang an ist für den Schutz von Daten, die Einhaltung von Compliance-Vorgaben und den Aufbau von dauerhaftem Vertrauen unerlässlich“, sagt Suja Viswesan, Vice President, Security and Runtime Products, IBM.
„Eine der größten Herausforderungen für Sicherheitsteams besteht darin, Vorfälle und Compliance-Verstöße in quantifizierbare Geschäftsrisiken umzuwandeln. Die rasche Etablierung von KI und agentenbasierter KI verstärkt dieses Problem zusätzlich”, erklärt Jennifer Glenn, Forschungsdirektorin der IDC Security and Trust Group. „Die Vereinheitlichung der KI-Governance mit KI-Sicherheit liefert Unternehmen den erforderlichen Kontext, um Risiken zu erkennen und zu priorisieren, sowie die notwendigen Informationen, um die Folgen einer Nichtbeachtung klar zu kommunizieren.“
Verbesserte Bewertung der agentenbasierten KI und Lebenszyklus-Governance
IBM watsonx.governance kann nun KI-Agenten über ihren gesamten Lebenszyklus hinweg überwachen und verwalten, von der Entwicklung bis zur Bereitstellung. Bewertungsknoten können direkt in Agenten integriert werden, sodass Benutzer Metriken wie Antwortrelevanz, Kontextrelevanz und Genauigkeit sorgfältig überwachen und die Ursache für schlechte Performance identifizieren können. Zu den geplanten zukünftigen Funktionalitäten gehören außerdem die Risikobewertung beim Onboarding von Agenten, Audit-Trails für Agenten und ein Agent-Tool-Katalog, die voraussichtlich ab 27. Juni verfügbar sein werden.
Standardmäßige Compliance-Funktionalitäten
IBM watsonx.governance Compliance Accelerators bieten ausgewählte vorinstallierte Regelungen, Standards und Rahmenwerke aus aller Welt, mit denen Benutzer relevante Verpflichtungen identifizieren und auf ihre eigenen KI-Anwendungsfälle abbilden können. Der Inhalt umfasst wichtige Vorschriften wie den EU AI Act, die U.S. Federal Reserves SR 11-7 und das New York City Local Law 144, sowie globale Normen wie die ISO/IEC 42001 und Rahmenwerke wie das NIST AI RMF. Watsonx.governance Compliance Accelerators ist ab sofort als Addon verfügbar.
Expertise zur verantwortungsvollen Skalierung von AI
Um Kunden bei der verantwortungsvollen Skalierung von KI zu unterstützen, führt IBM Consulting Cybersecurity Services eine neue Reihe von Services ein, die Datensicherheitsplattformen wie IBM Guardium AI Security mit tiefgreifender KI-Technologie und Fachberatungsexpertise verbinden. Die neuen Services sollen Unternehmen auf ihrem Weg zur KI-Transformation unterstützen: von der Erkennung aller KI-Implementierungen und potenzieller Schwachstellen über die Implementierung von „Secure-by-Design“-Praktiken auf allen KI-Ebenen bis hin zu Governance-Anleitungen für eine sich ständig weiterentwickelnde regulatorische Landschaft.
Um AWS-Kunden einen Mehrwert und zusätzlichen Bedienkomfort zu bieten, ist watsonx.governance nun auch im AWS-Rechenzentrum in Indien mit erweiterten Funktionen zur Modellüberwachung verfügbar.
Be the first to comment