Vertrauen als Schlüssel zur Mensch-KI-Zusammenarbeit

KI-Agenten könnten bis 2028 weltweit bis zu 450 Milliarden US-Dollar an wirtschaftlichem Nutzen generieren. Trotz wachsender Einsatzbereitschaft und hohem Interesse mangelt es vielen Unternehmen an Vertrauen, Wissen und technologischer Reife, um das volle Potenzial agentischer Systeme auszuschöpfen. ITWelt.at hat sich eine aktuelle Studie von Capgemini angesehen. [...]

Agentische künstliche Intelligenz (agentic AI) unterscheidet sich wesentlich von herkömmlichen KI-Anwendungen, so die Capgemini-Studie „Rise of agentic AI – How trust is the key to human-AI collaboration“. Während klassische Systeme vorwiegend als Werkzeuge agieren und klar umrissene Aufgaben ausführen, sollen KI-Agenten in der Lage sein, ganze Prozesse weitgehend selbstständig zu steuern – mit minimaler menschlicher Eingriffstiefe. Damit könnten sie sich von Tools zu aktiven Teammitgliedern entwickeln und die Art der Zusammenarbeit in Unternehmen grundlegend verändern.

Vom Werkzeug zum Teammitglied

Agentische KI umfasst nicht nur einzelne Programme, sondern ein gesamtes Ökosystem aus Plattformen, Tools, Protokollen und Verfahren, die autonomes Handeln ermöglichen. Solche Agenten sollen Aufgaben eigenständig strukturieren, Entscheidungen treffen, sich anpassen und mit anderen Agenten sowie Systemen interagieren können. Beispiele wie OpenAI Operator, Devin, Manus oder Google Gemini Agent Mode verdeutlichen die Vielfalt an Einsatzszenarien – von der Softwareentwicklung bis zur Reiseplanung.

Zentral ist die Fähigkeit zur proaktiven Handlung: Agenten können Bedürfnisse antizipieren, Ziele eigenständig verfolgen und aus bisherigen Erfahrungen lernen. Während GenAI-Assistenten wie ChatGPT auf explizite Eingaben angewiesen sind, sollen Agenten in einem unternehmerischen Kontext komplexe Abläufe eigenständig koordinieren – teilweise sogar ohne menschliches Zutun. Dennoch bleiben klare Grenzen notwendig, etwa durch sogenannte „Guardrails“, also ethische und technische Leitplanken.

Ökonomisches Potenzial und strategische Relevanz

Laut der Capgemini-Studie könnten KI-Agenten in den 14 untersuchten Ländern bis 2028 einen wirtschaftlichen Mehrwert von bis zu 450 Milliarden US-Dollar schaffen. Diese Schätzung basiert auf Produktivitätsgewinnen, Kosteneinsparungen und Umsatzsteigerungen. Organisationen, die den Rollout agentischer Systeme bereits skaliert haben, erwarten bis zu 2,5 Prozent zusätzliche Jahresumsätze. Auch Unternehmen mit geringerem Reifegrad könnten immerhin 0,5 Prozent Umsatzplus erzielen.

93 Prozent der Führungskräfte gehen davon aus, dass Organisationen, die KI-Agenten innerhalb der nächsten zwölf Monate erfolgreich einführen und skalieren, einen Wettbewerbsvorteil erzielen werden. Besonders hohes Potenzial wird in Bereichen wie Kundenservice, IT, Vertrieb, Forschung und Entwicklung, Marketing sowie Betrieb gesehen. Erste Pilotprojekte laufen bereits in Großunternehmen wie Mercedes-Benz, PepsiCo, Siemens, Capital One oder Crédit Agricole.

Schnelle, aber begrenzte Adaption

Derzeit haben 14 Prozent der befragten Unternehmen KI-Agenten entweder teilweise (12 Prozent) oder vollständig (2 Prozent) eingeführt. Weitere 23 Prozent befinden sich in der Pilotphase, während 61 Prozent sich in der Planungs- oder Evaluierungsphase befinden. Damit hat sich der Einsatz agentischer Systeme im Vergleich zum Vorjahr nahezu verdreifacht.

Trotz dieser Dynamik bleibt die tatsächliche Autonomiestufe der eingesetzten Agenten begrenzt. Die Studie unterscheidet zwischen sechs Autonomiestufen – von null (keine Autonomie) bis fünf (vollständig autonom). Derzeit operieren die meisten Systeme auf den unteren Ebenen (Level 1 und 2), mit starker menschlicher Kontrolle. Nur 15 Prozent der Prozesse sollen in den nächsten zwölf Monaten auf Level 3 bis 5 (teil- bis vollautonom) laufen, bis 2028 soll dieser Anteil auf 25 Prozent steigen. Level-5-Agenten – also selbstlernende, vollständig autonome Systeme – dürften mittelfristig eine Ausnahme bleiben.

Vertrauensdefizite und ethische Bedenken

Ein zentrales Hindernis für den breiten Einsatz autonomer Agenten ist das mangelnde Vertrauen. Nur noch 27 Prozent der befragten Organisationen äußern Vertrauen in vollautonome Agenten – ein Rückgang um 16 Prozentpunkte im Vergleich zum Vorjahr. 60 Prozent äußern explizit Misstrauen. Die häufigsten Gründe: Angst vor Kontrollverlust, intransparente Entscheidungslogik („Black Box“), mangelnde Nachvollziehbarkeit, algorithmische Verzerrung und unklare Haftungsfragen.

Diese Skepsis äußert sich auch in der Praxis: Nur ein Bruchteil der Unternehmen trifft derzeit konkrete Maßnahmen, um Risiken aktiv zu mindern. So geben 51 Prozent Datenschutz als Hauptsorge an, aber nur 34 Prozent arbeiten aktiv an Lösungen. Ähnlich sieht es bei Fragen der algorithmischen Fairness, Sicherheit und rechtlichen Risiken aus. Besonders besorgniserregend: Nur ein Drittel der Unternehmen verfügt über ausreichend Wissen, um den Unterschied zwischen GenAI, klassischer KI und agentischer KI präzise zu verstehen oder sinnvoll zu bewerten, wo Agenten tatsächlich Vorteile bieten.

Technologische Hürden und fehlende Infrastruktur

Neben dem mangelnden Vertrauen hemmen auch infrastrukturelle Defizite die Verbreitung von KI-Agenten. Weniger als 20 Prozent der Unternehmen verfügen laut Eigenangabe über eine fortgeschrittene Datenreife. Besonders schlecht schneiden Integration, Datenmonitoring und Governance ab – essenzielle Voraussetzungen für eine skalierbare Nutzung. Auch die IT-Infrastruktur ist laut Studie in über 80 Prozent der Unternehmen noch nicht für agentische Systeme ausgelegt.

Fehlende Standards, fragmentierte regulatorische Rahmenbedingungen sowie ein Mangel an Führungskompetenz verstärken die Herausforderungen. Nur 16 Prozent der Unternehmen verfügen über eine umfassende Strategie und einen Umsetzungsplan für agentische KI. Rund ein Viertel hat zwar neue Verantwortliche für das Thema benannt, aber häufig fehlt ein übergreifendes Steuerungsmodell.

Einsatzstrategien: Partnerschaft, Plattform oder Eigenentwicklung

62 Prozent der Unternehmen bevorzugen eine Partnerschaft mit Lösungsanbietern wie Salesforce, SAP oder ServiceNow, um bestehende Agentenlösungen zu integrieren oder anzupassen. Besonders in regulierten Branchen dominiert dieser vorsichtige Ansatz. Der Vorteil: geringere Entwicklungsrisiken, schnellere Integration und bestehende Anbindungen an Legacy-Systeme. Etwa ein Drittel der Befragten setzt auf Eigenentwicklung, insbesondere wenn unternehmensspezifische Anforderungen oder hohe Compliance-Anforderungen bestehen.

Bei den Geschäftsmodellen dominiert nutzungsbasierte Abrechnung (z. B. nach Token oder Serviceumfang), gefolgt von Plattform- oder Lizenzmodellen. Outcome-basierte Modelle – also Bezahlung nach tatsächlichem Mehrwert – sind mit 17 Prozent derzeit noch wenig verbreitet.

Anwendungsfelder und Branchenbeispiele

Kundenservice, IT und Vertrieb gelten als am besten geeignet für den kurzfristigen Einsatz von KI-Agenten. Dort können sie repetitive Aufgaben übernehmen, komplexe Prozesse beschleunigen und gleichzeitig rund um die Uhr verfügbar sein. In Marketing und Forschung sollen Agenten künftig auch kreative Aufgaben übernehmen, etwa bei der Kampagnenentwicklung oder beim Testen neuer Produkte.

Konkrete Beispiele belegen laut Studie das Potenzial:

• Bei Crédit Agricole übernimmt ein Agent Aufgaben wie emotionale Tonanalyse, Dokumentenklassifikation und automatisierte Workflows – mit signifikanten Effizienzgewinnen.
• Mercedes-Benz integriert Agenten von Google Cloud zur sprachgesteuerten Steuerung in Fahrzeugen.
• Walmart testet Einkaufsagenten für personalisierte Empfehlungen.
• Novo Nordisk beschleunigt mit NVIDIA die Arzneimittelentwicklung durch agentische KI.

Mensch-Agent-Zusammenarbeit als Erfolgsfaktor

Die Studie betont, dass Agenten nicht als Ersatz menschlicher Arbeitskräfte betrachtet werden sollten, sondern als Erweiterung der Fähigkeiten. Im Idealfall arbeiten Menschen und KI-Agenten in sogenannten „hybriden Teams“ zusammen – mit klarer Rollenverteilung, Rückmeldeschleifen, Eskalationsmechanismen und kontrollierter Autonomie.

Solche Modelle könnten helfen, das derzeitige Misstrauen zu überwinden. 47 Prozent der Unternehmen, die Agenten bereits produktiv einsetzen, berichten von höherem Vertrauen. Frühzeitige Einbindung der Belegschaft, transparente Prozesse und ein schrittweiser Kompetenzaufbau sind dabei zentrale Erfolgsfaktoren.

Das Fazit der ITWelt-Redaktion

Agentische KI verspricht eine tiefgreifende Veränderung von Arbeitsabläufen und Unternehmensprozessen – hin zu mehr Effizienz, Flexibilität und Innovationskraft. Die aktuelle Dynamik zeigt: Viele Organisationen wollen diesen Wandel aktiv gestalten. Doch fehlende Standards, technologische Lücken, ethische Unsicherheiten und mangelndes Knowhow bremsen eine schnelle Skalierung. Vertrauen – sowohl in die Technologie als auch in deren Governance – bleibt der Schlüssel zum Erfolg. Unternehmen, die Agenten als Teil eines ganzheitlichen Transformationsansatzes verstehen, können sich frühzeitig Wettbewerbsvorteile sichern. Die Studie kann hier heruntergeladen werden.