Übernehmen die KI-Agenten?

Agentic AI agiert autonom und verändert dadurch die Spielregeln: Im Rahmen eines ITWelt.at-Roundtables diskutierten drei Experten, wie autonome KI-Agenten Prozesse optimieren, aber auch neue Risiken schaffen und welche Strategien Unternehmen jetzt brauchen. [...]

Agentic AI, die nächste Evolutionsstufe der künstlichen Intelligenz, agiert autonom, trifft Entscheidungen und führt Aufgaben eigenständig aus. Diese Technologie revolutioniert unterschiedlichste Branchen, Cybersecurity und Unternehmensprozesse, indem sie die Effizienz steigert und neue Geschäftsmodelle ermöglicht. Der Markt wächst rasant. Doch mit den Chancen kommen Herausforderungen: Sicherheitsrisiken wie Datenvergiftung, komplexe Integration in bestehende Systeme und regulatorische Unsicherheiten sind zentrale Themen. Unternehmen müssen Vertrauen schaffen, ethische Fragen adressieren und sich strategisch positionieren, um Wettbewerbsvorteile zu sichern. Im Rahmen eines Roundtables von ITWelt.at haben wir darüber diskutiert, wie Agentic AI erfolgreich eingesetzt werden kann, welche Risiken zu beachten sind und welche Potenziale entstehen.

Evolution statt Revolution

„Wir sehen in Agentic AI eine Evolutionsstufe, keine Revolution“, sagt Markus Danhel, Head AI Software – Austria & Switzerland bei IBM. „Es handelt sich um eine technologische Weiterentwicklung. Vergleicht man die bisherigen Entwicklungen im Bereich generativer KI der letzten zwei Jahre, so waren dies meist reaktive Assistenten. Agentic AI hingegen verspricht, dass KI-Agenten eigenständig den Kontext erfassen, mögliche Lösungswege planen und diese auch selbstständig umsetzen können. Hinzu kommt, dass solche KI-Agenten im Laufe der Zeit lernfähig werden: Sie können aus den Erfahrungen, die sie bei der Bearbeitung von Aufgaben sammeln, reflektieren und lernen. Dadurch sind sie in der Lage, bei ähnlichen Fragestellungen künftig noch effizienter und zielgerichteter zu agieren und ihr Wissen auf neue Bereiche zu übertragen.“

Peter Sperk, Head of Customer Advisory SAP Austria, ergänzt: „Unsere Kunden vertrauen ihre geschäftskritischen Prozesse bereits seit vielen Jahren SAP an. Dabei handelt es sich häufig um standardisierte Abläufe, die bislang jedoch überwiegend von Menschen gesteuert und überwacht werden. Agentic AI und künstliche Intelligenz bieten nun das Potenzial, diese Aufgaben zunehmend autonom zu übernehmen – selbstverständlich weiterhin unter menschlicher Aufsicht. Das ermöglicht es, Geschäftsprozesse auf völlig neue Weise zu gestalten und dadurch deutlich effizienter zu werden. Letztlich geht es dabei immer auch um die Stärkung der Wettbewerbsfähigkeit unserer Unternehmen.“ 

Udo Schneider, Governance, Risk & Compliance Lead Europe bei Trend Micro, warnt davor, beim Thema Security Fehler zu wiederholen: „Agentic AI bietet enorme Chancen und ein enormes Potenzial. Andererseits erinnere ich mich an frühere Entwicklungen, beispielsweise bei Cloud-Technologien und Cloud-Sicherheit: Oft wurden im Zuge eines Hypes – ob gerechtfertigt oder nicht – Proof of Concepts und Lösungen schnell zusammengebaut und Komponenten ohne klare Struktur und ohne Berücksichtigung grundlegender Sicherheitsaspekte miteinander verbunden. Im Eifer des Gefechts, möglichst schnell am Markt zu sein, gerät Security oft aus dem Fokus. Es ist entscheidend, dass Sicherheitsfunktionen wie Verschlüsselung, Authentifizierung und Telemetrie von Anfang an in den KI-Plattformen integriert sind. Anbieter sollten Lösungen bereitstellen, bei denen Security by Design gewährleistet ist.“

KI-Agenten versprechen enormen Nutzen 

Einig waren sich die Experten, dass sich mit dem Einsatz von KI-Agenten ganz neue Möglichkeiten eröffnen. Markus Danhel: „Generative KI war bislang vor allem textbasiert und hat insbesondere im Bereich der individuellen Produktivität große Unterstützung geboten. KI-Agenten können mehrere dieser Aufgaben kombinieren und so komplette Prozesse, zum Beispiel im HR-Bereich oder im Procurement, eigenständig und mit ›Human-in-the-Loop‹-Ansätzen abwickeln. Dadurch lassen sich sämtliche Geschäftsbereiche und -funktionen nicht nur punktuell, sondern ganzheitlich durch KI unterstützen. Blickt man weiter in die Zukunft, wird es möglich sein, eine Multi-Agenten-Orchestrierung zu etablieren. Das bedeutet, dass spezialisierte KI-Agenten als Domänenexperten für verschiedene Bereiche agieren und bei Bedarf von anderen Agenten konsultiert werden, um Teilergebnisse in umfassendere Prozessschritte einzubringen.“

Herausforderung Datenqualität

Peter Sperk wirft ein, dass Unternehmen bei KI derzeit „eine goldene Karotte vorgehalten wird“: „Die grundlegenden Business-Anforderungen haben sich aber kaum verändert: Unternehmen sollen wettbewerbsfähiger und produktiver werden. Wenn man sich jedoch vorstellt, dass künftig überall Agenten miteinander interagieren und Geschäftsprozesse autonom optimieren, stößt man auf eine wesentliche Herausforderung: Die notwendige Verankerung in den Unternehmensdaten. In der Praxis sehen wir bei vielen Unternehmen, dass die Voraussetzungen hierfür noch nicht vollständig gegeben sind. Es reicht nicht aus, einfach ein Netz interaktiver KI-Agenten ›anzuschalten‹, die dann nahtlos zusammenarbeiten. Vielmehr ist zunächst grundlegende Vorarbeit erforderlich. Es ist ein wenig die klassische Frage ›Make or Buy‹. Unser Ansatz in der SAP-Welt, in der wir Geschäftsprozesse betrachten, ist folgender: Wir analysieren jeden einzelnen Prozess – und das sind bei unseren Kunden sehr viele – und prüfen, wo wir Lösungen ›out of the Box‹ anbieten können. Diese Lösungen sind dann fix und fertig eingebettet und unterstützen den Prozess direkt. Denn letztlich geht es um Skalierung. Ein Unternehmen wird kaum in der Lage sein, dutzende oder gar hunderte eigene KI-Anwendungsfälle zu entwickeln – es wird sich auf die Fälle konzentrieren, die wirklich wettbewerbsentscheidend sind.“

Udo Schneider stimmt dem zu: „Bei Trend Micro verfügen wir über eine große Menge strukturierter Daten – insbesondere im Bereich Bedrohungsakteure und Angriffe. Das sind ideale Voraussetzungen, um mit Agentic AI zu arbeiten. Unsere Use Cases sind vergleichsweise klar definiert. Ein zentrales Ziel ist es, die Vielzahl an Vorfällen, die in einem Security Operations Center (SOC) oder Network Operations Center (NOC) anfallen, für die Mitarbeitenden überschaubar und effizient bearbeitbar zu machen. Konkret bedeutet das: Bei einem Vorfall kann Agentic AI dem Analysten bereits alle relevanten Daten aufbereitet zur Verfügung stellen. Das ist ein klassischer Agentic-AI-Use-Case: Ein Agent wertet selbstständig Daten aus und liefert dem Analysten eine umfassende Recherche, sodass dieser fundiert entscheiden kann.“

„In gewisser Weise fühle ich mich dabei manchmal an die Situation vor zehn Jahren erinnert“, ergänzt Markus Danhel zum Thema Daten. „Viele der damaligen Fragestellungen – etwa, wie man unternehmensweit und bereichsübergreifend kontrollierten Zugriff auf relevante Daten erhält – sind heute wieder aktueller denn je. Ohne eine solide Datenbasis lässt sich das Potenzial von KI auf Basis der Unternehmensdaten nur schwer ausschöpfen.“

Überschaubare Investitionen

Auf die Frage, mit welchen Investitionen Unternehmen kalkulieren müssen, wenn sie Agentic AI implementieren, nennt Peter Sperk Zahlen aus dem aktuellen SAP-Geschäftsbericht: „Im vierten Quartal 2024 hatte bereits die Hälfte aller neu gewonnenen Aufträge einen KI-Anteil in den Auftragsbüchern. Das waren meist kleinere Bereiche, in denen man relativ einfach und unkompliziert starten konnte. Es ist nicht notwendig, sofort große Summen in den Aufbau einer umfangreichen Infrastruktur zu stecken. Vielmehr empfiehlt es sich, mit kleineren Projekten zu beginnen und schrittweise zu wachsen.“ Dem stimmt Udo Schneider zu: „Wir setzen Agentic AI bereits in unseren Systemen ein. Das bedeutet, unsere Kunden erhalten diese Technologie als integralen Bestandteil unserer Dienstleistungen – ohne explizit dafür bezahlen zu müssen. Ich bin überzeugt, dass dies in vielen Produkten und Branchen zum Standard werden wird. Der Kunde zahlt nicht separat für Agentic AI, sondern profitiert davon, dass der Anbieter die Dienstleistung effizienter und leistungsfähiger bereitstellen kann, indem er KI-Technologien integriert.“

Risiken von Agentic AI

„Die Risiken ähneln im Wesentlichen denen, die wir bereits aus dem Bereich der generativen KI kennen“, sagt Markus Danhel. „Ein zentrales Thema ist aktuell der EU AI Act, der einige wichtige Eckpunkte vorgibt. Unternehmen müssen in der Lage sein, eine Risikoklassifizierung für ihre KI-Anwendungsfälle vorzunehmen. Je nach Einstufung ergeben sich unterschiedliche Verantwortlichkeiten und Pflichten. Im Kern geht es jedoch immer um Nachvollziehbarkeit, Transparenz und die Frage, mit welchen Datenquellen gearbeitet wird – das sind für mich zentrale Aspekte.“

„Vielen ist heute gar nicht bewusst, in wie vielen Bereichen bereits KI-Technologie eingesetzt wird. Ich empfehle jedem Unternehmen dringend, sich mit dem EU AI Act auseinanderzusetzen“, ergänzt Udo Schneider. „Obwohl der Name auf künstliche Intelligenz verweist, betrifft er streng genommen auch ältere Technologien – beispielsweise einen 30 Jahre alten Spam-Filter mit einfachen Regelwerken. Auch solche Systeme können unter den AI Act fallen. Als Betreiber eines solchen Systems unterliegt man den Vorgaben des AI Act. Die entscheidende Frage ist, ob man sich dessen bewusst ist und, ob diese Systeme überhaupt noch im eigenen Inventar erfasst sind. Darüber hinaus gibt es klare ethische Vorgaben: Bestimmte Anwendungen, wie etwa Social Scoring, sind explizit verboten – auch das ist im AI Act festgelegt. Wichtig ist, alle KI-Systeme zu dokumentieren und zu inventarisieren. Später zu behaupten, man wisse nicht, welche KI-Technologien im Unternehmen eingesetzt werden, ist keine akzeptable Antwort und kann zu erheblichen rechtlichen und organisatorischen Problemen führen.“

„Unser Ansatz ist, dass in jedem Use Case sichergestellt sein muss, dass die Verantwortlichkeit für das, was geschieht, eindeutig einer Organisation oder einer Person zugeordnet werden kann“, sagt Peter Sperk. „Wenn künftig ein KI-Agent solche Aufgaben übernimmt, muss weiterhin klar sein, wer die Verantwortung trägt: die Person, die den Prozess angestoßen hat, oder jemand, der die Ergebnisse überprüft. Hier kommt das Thema Governance ins Spiel: Es muss einen definierten Prozess geben und eine Person, die für diesen Prozess verantwortlich ist und beispielsweise kontrolliert, ob die eingesetzten Modelle korrekt arbeiten.“

Ausblick: KI auf der Überholspur

Einig sind sich die Experten darüber, dass KI eines der wichtigsten Themen bleiben wird. Peter Sperk: „Es gibt Unternehmen, die derzeit in Sachen KI noch im Bummelzug unterwegs sind, und solche, die bereits auf der Überholspur fahren möchten. Wer nicht vorne mit dabei ist oder zumindest keinen klaren Plan hat, wird am Ende des Tages abgehängt werden.“ Udo Schneider zum Thema Security: „Es ist nicht zu erwarten, dass die Anzahl der Angriffe – in welcher Form auch immer – abnehmen wird. Im Gegenteil: Sowohl die Quantität als auch die Qualität der Angriffe werden weiter zunehmen, wie wir bereits heute beobachten können. Agentic AI bietet hier die Möglichkeit, wiederkehrende Aufgaben effizient zu automatisieren. Dadurch können die vorhandenen Fachkräfte gezielt dort eingesetzt werden, wo ihre Expertise wirklich gefragt ist“«

„In den nächsten Jahren werden wir weitere technologische Sprünge und eine zunehmende Konsumierbarkeit von KI-Lösungen erleben – bis hin zum Einsatz auf sehr kleinen Endgeräten. Gleichzeitig wird der Automatisierungsgrad, nicht zuletzt getrieben durch die demografischen Herausforderungen, deutlich steigen“, schließt Markus Danhel.

Die Teilnehmer auf einen Blick (von links nach rechts)

• Udo Schneider, Governance, Risk & Compliance Lead Europe bei Trend Micro
• Peter Sperk, Head of Customer Advisory bei SAP Österreich
• Markus Danhel, Head AI Software – Austria & Switzerland bei IBM 
• Moderation & Redaktion: Mag. Christof Baumgartner

Technik: Roland Kissling
Fotos: timeline/Rudi Handl

Überblick aller bislang veranstalteten  ITWelt.at-Roundtables:
www.itwelt.at/tag/roundtable

Die Expertenrunde zum Nachsehen finden Sie hier:
www.facebook.com/itwelt.at/videos, www.youtube.com/c/ITWELT