KI: Hype oder Realität – Forrester warnt vor überzogenen Erwartungen

2024 hat Künstliche Intelligenz Unternehmen im Sturm erobert. Rowan Curran, Senior Analyst, Jayesh Chaurasia, Analyst und Michele Goetz, VP und Principal Analyst bei Forrester geben im Interview mit der ITWELT.at einen Ausblick für 2025. [...]

Die Euphorie um Künstliche Intelligenz hält an. Doch Forrester dämpft die Erwartungen: Viele Unternehmen werden ihre KI-Projekte vorzeitig beenden oder an der Komplexität scheitern. Gleichzeitig wird die Notwendigkeit einer engeren Zusammenarbeit zwischen CIOs und CDOs wird immer deutlicher. Der Bericht „2025 Predictions“ von Forrester zeigt: KI ist mehr als nur ein Hype, erfordert aber eine durchdachte Strategie und tiefgreifendes Fachwissen.

Der Bericht besagt, dass für 2025 eine neue Sichtweise auf die KI-Strategie für das Jahr 2025 notwendig ist. Welche spezifischen Strategien sollten Unternehmen Ihrer Meinung nach vorrangig verfolgen, um eine erfolgreiche KI-Implementierung sicherzustellen?

Goetz: Ein strategischer Ansatz, bei dem die Auswirkungen auf das Geschäft und die Skalierbarkeit im Mittelpunkt stehen, ist notwendig. Beginnen Sie nicht nur mit einem geschäftlichen Anwendungsfall, sondern auch mit den Metriken, die bestimmen, ob KI von Anfang an die gewünschte Wirkung erzielt. Dieser Fokus auf die Ergebnisse wird die anfängliche Entwicklung und den Einsatz von KI-Modellen leiten und ihre laufende Optimierung, Steuerung und Ressourcenzuweisung unterstützen. Das Verständnis und die Messung des ROI von der POC bis zur Produktion ermöglicht es Unternehmen, ein selbstfinanzierendes Modell einzuführen. KI-Projekte werden auf diese Weise nicht nur nach ihrer technischen Skalierbarkeit oder ihren Vorlaufkosten bewertet, sondern nach ihrer Fähigkeit, sinnvolle Geschäftsergebnisse zu liefern. Dadurch werden KI-Investitionen Teil eines positiven Kreislaufs, bei dem die finanziellen und betrieblichen Vorteile aktueller Implementierungen die Entwicklung künftiger KI-Initiativen finanzieren und beeinflussen und so das technische Wachstum mit der Geschäftsexpansion in Einklang bringen.

Wie wichtig ist Data Governance im Zusammenhang mit KI, und welche Schritte sollten Unternehmen setzen, um ihre Daten effektiv zu bereinigen und zu verwalten?

Chaurasia: Die Qualität eines Modells hängt von der Qualität der Daten ab. Insbesondere bei generativer KI führen schlechte Datenqualität und fehlender Datenschutz wie Sicherheits- und Datenschutzkontrollen zu komplexerem Prompt-Engineering und verringern die Effizienz einer KI-Antwort, da die Benutzer mehrere Prompts eingeben müssen, um ein Ergebnis zu erhalten. Um die Genauigkeit von KI-Modellen zu verbessern und das Vertrauen zu erhalten, ist die Datenverwaltung essenziell. Um Daten effektiv zu verwalten und zu bereinigen, sollten Unternehmen:

• umfassende Data-Governance-Richtlinien definieren, die mit gesetzlichen und ethischen Standards übereinstimmen
• Funktionen zur Verwaltung der Datenqualität schaffen, um Ungenauigkeiten, Inkonsistenzen und fehlende Werte in Daten zu erkennen und zu korrigieren.
• eine durchgängige Datenabfolge für Rückverfolgbarkeit und Verantwortlichkeit aufbauen
• einen „Privacy-by-Design“-Ansatz zum Schutz der Privatsphäre und der Nutzungszustimmung einführen
• eine Governance-Kultur zur Förderung der gemeinsamen Verantwortung für die Governance etablieren
• Kontinuierlich Governance-Praktiken an sich ändernde Anwendungsfälle und Vorschriften überwachen und anpassen

Wie sehen Sie die sich entwickelnde Rolle der Chief Data Officers (CDOs) in dieser Landschaft, in der CIOs die KI-Technologie-Bemühungen leiten sollen? Der Bericht unterstreicht die Notwendigkeit einer vertieften Partnerschaft zwischen CIO und CDO. Welche effektiven Möglichkeiten gibt es, diese Zusammenarbeit zu fördern?^

Goetz: CIOs sind in der Lage, sich mit dem großen Ganzen zu befassen, um eine Strategie und KI-Lösungen zu entwickeln, die sie umsetzen können. Auch aus der Perspektive der KI-Systeme können sie sich auf ihre Daten- und Informationsarchitekten verlassen. KI muss das erfasste Wissen innerhalb von Unternehmens- und externen Systemen nutzbar machen und gleichzeitig das Erfahrungswissen und die Anweisungen von Menschen erfassen. Keine andere Technologie benötigt diese Art von symbiotischer Beziehung. KI, und insbesondere generative KI, ist auf diese Rückkopplungsschleife angewiesen. CDOs sind bereits in der Lage, das harte (Technologie) und weiche (menschliche) Fachwissen und die Erfahrungen aufeinander abzustimmen, da sie zwischen den Fachexperten und Stakeholdern des Unternehmens und der Technologie sitzen. Sie verfügen auch über die bestehenden Grundlagen der Data Governance, die sie durch KI-Governance-Praktiken ergänzen können. Und schließlich brauchen CIOs CDOs, um einer breiteren Gruppe von Entwicklern und Anwendern bei den komplexen und abstrakten Datenkonzepten zu helfen, die für die Entwicklung, den Einsatz und die Nutzung von KI im Unternehmen entscheidend sind.

Der Bericht besagt, dass 75 % der Unternehmen, die versuchen, ihre eigenen KI-Agentenarchitekturen aufzubauen, scheitern werden. Was sind die Hauptgründe für diese hohe Misserfolgsquote?

Curran: Wir haben im letzten Jahr viele, viele Unternehmen gesehen, die versucht haben, ihre eigenen robusten KI-Anwendungen mit RAG-Architektur zu entwickeln, und daran gescheitert sind. Viele derjenigen, die gescheitert sind, haben sich an ihre Beratungs-, SI- oder Technologieplattformpartner gewandt, um sie durch den Prozess der Erstellung dieser Anwendungen zu führen – weil diese Architekturen und Ansätze so innovativ sind. Die Herausforderung, die nächste Generation von Anwendungen ohne klare Referenzarchitekturen und Best Practices zu entwickeln, wird immer größer, je mehr sich die Welt für die Entwicklung von KI-Agenten begeistert – es gibt viele ungelöste Probleme, wie z. B. die Frage, wie Agentensysteme miteinander kommunizieren oder die Ergebnisse der anderen bewerten und validieren. Wir haben den Erfolg bei Anbietern gesehen, die über den Raum und die Ressourcen verfügen, um zu experimentieren und unternehmensübergreifend zu arbeiten, um diese grundlegenden Teile zu verbessern – und wir erwarten, dass viele Unternehmen sich an sie wenden, um Unterstützung sowohl bei der Entwicklung ihrer Agenten als auch bei ihrer breiteren KI-Strategie zu erhalten.

Viele Unternehmen schrauben ihre KI-Investitionen zurück, weil sie ungeduldig auf den ROI warten. Wie können Unternehmen realistische Erwartungen an die Rentabilität von KI stellen?

Chaurasia: Um das Potenzial der künstlichen Intelligenz effektiv zu nutzen, müssen die Unternehmen ihr Wertversprechen klar formulieren und in ihr Geschäftsmodell integrieren. Dabei sollten man betonen, dass die künstliche Intelligenz eine strategische und keine Schnellschuss-Investition darstellt. Diese Investition ist geeignet, die betriebliche Effizienz zu steigern, das Kundenerlebnis zu verbessern und neue Wege für Innovationen zu eröffnen. Ein entscheidender erster Schritt besteht darin, genaue Geschäftsziele zu definieren und Erfolgsmetriken festzulegen, um den Return on Investment (ROI) von KI zu messen. Alle Beteiligten sollten sich darüber im Klaren sein, dass KI-Projekte, wie jede andere strategische Initiative auch, entlang einer Reifekurve verlaufen – von der anfänglichen Erkundung und Erprobung bis hin zur Optimierung und vollständigen Implementierung. Die frühen Phasen der Reise sind zwar nicht sofort lukrativ, legen aber den Grundstein für ein erhebliches Wachstum in der Zukunft.

Insbesondere die generative KI hat gezeigt, dass sie die Produktivität steigern, das Kundenerlebnis bereichern und die Entscheidungsprozesse verfeinern kann. Diese umfassenderen Auswirkungen der KI sollten wirksam kommuniziert werden. Um die Erwartungen zu steuern und ein nachhaltiges Wachstum zu fördern, sollten Unternehmen einen schrittweisen Ansatz verfolgen und sich auf schrittweise Verbesserungen konzentrieren. Auf diese Weise kann verdeutlicht werden, dass die Erzielung von Rentabilität durch KI ein Prozess ist, der durch ständige Weiterentwicklung gekennzeichnet ist, und kein sofortiges Ergebnis.

Welche neuen Technologien und Architekturen werden Ihrer Meinung nach für Unternehmen bei der gemeinsamen Verwaltung von Daten und KI unverzichtbar werden?

Chaurasia: Nicht alles wird neu sein. Architekturen wie „Data Fabric“ und „Data Mesh“ und Technologien wie „Edge Intelligence“, „Data Governance“ und „Qualität“ gibt es bereits. Ihre Nutzung könnte sich jedoch ausweiten und weiterentwickeln. Technologien, die für die Verwaltung von KI und Daten entstanden sind oder sich erheblich weiterentwickelt haben, sind:

1. AIOps-Plattformen: Wesentlich für die Verwaltung des Lebenszyklus von KI-Modellen, von der Entwicklung bis zur Bereitstellung und Überwachung.
2. Föderiertes Lernen: Ermöglicht es KI-Modellen, aus dezentralen Datenquellen zu lernen, ohne dass die Daten ausgetauscht oder zentralisiert werden müssen, wodurch der Datenschutz verbessert wird.
3. KI-Governance-Plattformen: Bereitstellung von Rahmenwerken und Werkzeugen für die Überwachung, Prüfung und Verwaltung der ethischen, rechtlichen und betrieblichen Aspekte von KI-Systemen.
4. Digitale Zwillinge: Erstellt virtuelle Nachbildungen physischer Geräte oder Systeme, um reale Bedingungen und Szenarien in einem digitalen Raum zu simulieren und zu analysieren.

Bring Your Own AI (BYOAI) gewinnt immer mehr an Bedeutung. Welche Risiken sind mit diesem Trend verbunden, und wie sollten Unternehmen die Integration persönlicher KI-Tools in Unternehmensstrukturen handhaben?

Goetz: Die häufigste Sorge von KI-Führungskräften ist, dass KI-Technologie in das Unternehmen gelangt, eingesetzt wird und niemand davon weiß. Ihr Ziel ist es nicht, KI für die persönliche Produktivität zu stoppen. KI-Führungskräfte müssen in der Lage sein, den Einsatz zu überwachen, die Kosten zu verwalten und die Einhaltung von Richtlinien und Vorschriften zu regeln. Bereits ein Drittel der KI-Führungskräfte hat laut der Forrester Q2 2024 AI Pulse Survey negative Auswirkungen von KI in den Bereichen Cyberangriffe, bösartige Inhalte und eine Zunahme von rechtlichen Untersuchungen und Rechtsstreitigkeiten festgestellt.

Als Reaktion darauf haben Unternehmen größtenteils Richtlinien für BYOAI im Jahr 2024 eingeführt, die sich oft aus einer „Nein“-Richtlinie entwickelt haben. Das Bewusstsein für BYOAI wird geschärft, Schulungen werden durchgeführt und in einigen Branchen und Behörden wird die Zertifizierung für BYOAI angeboten. Darüber hinaus haben KI-Führungskräfte mit Hilfe von CDOs Marktplätze mit zugelassenen KI-Modellen, Apps, Plug-ins und Daten eingerichtet, auf denen Mitarbeiter gewünschte KI-Inhalte beziehen oder anfordern können.

Welche Best Practices sollten Unternehmen angesichts der Bedenken im Zusammenhang mit generativer KI, wie Halluzinationen und Datenschutz, anwenden, um diese Risiken zu mindern?

Curran: Die Best Practices für den Datenschutz bei generativer KI haben sich nicht grundlegend geändert, aber die Grundlagen sind sehr viel wichtiger geworden. Viele der Bedenken, die Unternehmen in Bezug auf Datenschutz und Sicherheit im Zusammenhang mit generativen KI-Tools haben, rühren entweder von der Verwendung nicht sanktionierter Tools (z. B. persönliche Konten für Claude oder ChatGPT) oder von einer schlechten Datenaufbereitung oder Governance-Praktiken im Unternehmen selbst her (z. B. keine gut strukturierten Berechtigungen für Inhalte, damit ein Abfragesystem nicht die falschen Daten aufdeckt). So können Unternehmen, die in den letzten Jahren gute Datenpraktiken eingeführt haben, davon profitieren und ihre neuen KI-Projekte viel effizienter vom Prototyping zur Produktion bringen. Künstliche Intelligenz macht bewährte Praktiken in der Datenaufbereitung, -bereinigung und -kuratierung für Unternehmen zunehmend wichtiger. Viele erkennen mittlerweile, wie groß der Rückstand ist, von dem sie ausgehen.

Dem Risiko, dass aus LLMs oder anderen Basismodellen kohärenter Unsinn oder Halluzinationen generiert werden, wird mit einer Reihe verschiedener Praktiken und Werkzeuge begegnet, die alle dazu dienen, das Modell besser auf die Bedürfnisse und Ziele des Unternehmens abzustimmen. Auf der Eingabeseite beobachten wir, dass Unternehmen eine sich ständig weiterentwickelnde Mischung aus verschiedenen Prompting-Techniken wie Chain of Thought und Plan and Solve einsetzen, um das Modell effektiver abzufragen. Sie verwenden auch Techniken wie die abruferweiterte Generierung oder die Feinabstimmung des Modells, um das Modell auf die spezifische Antwort bzw. den allgemeinen Bereich abzustimmen. Wir sehen auch, dass einige Unternehmen den Score eines Vorhersagemodells nutzen, um den Output des Modells abzustimmen, z. B., um einem Kunden in einer Generation auf der Grundlage eines Propensity Scores ein bestimmtes Produkt zu empfehlen. Auf der Output-Seite sehen wir eine Kombination aus deterministischen, nicht-deterministischen und Human-in-the-Loop-Kontrollen, um die Outputs dieser Systeme zu bewerten und zu validieren.

Unternehmen verwenden regelbasierte Kontrollen, die bestimmte Wörter, Ausdrücke oder Informationsarten wie beispielsweise personenbezogene Daten blockieren können. Die deterministischen Regeln können auch Aspekte des Geschäftsszenarios kontrollieren. Zum Beispiel wird entschieden, welches Angebot einem potenziellen Kunden gemacht werden kann oder welche Datenquellen für eine Antwort verwendet werden können. Nicht-deterministische Kontrollen können Techniken wie LLM-as-a-judge beinhalten, bei denen ein LLM darauf trainiert wird, die Ergebnisse des Systems zu bewerten und einzustufen. Dies könnte Dinge wie den Tonfall, die Toxizität oder die Gesamtqualität der Antwort bewerten. Menschen können in die Schleife einbezogen werden, um eine Teilmenge der Antworten einer KI-Anwendung stichprobenartig auf ihre Qualität hin zu überprüfen, oder – was viel häufiger auftritt – um das von den Nutzern gegebene Feedback durch eingebaute Mechanismen zu überprüfen, wie z. B. die Vergabe eines Daumens nach oben oder nach unten als eine Antwort. Fortgeschrittene Anwendungen verwenden eine Kombination dieser Kontrollen, und wir sind immer noch dabei, die besten Praktiken für die optimale Kombination herauszufinden.

Welche Anwendungsfälle werden in den nächsten Jahren Ihrer Meinung nach entstehen, während offensichtliche Anwendungsfälle zum Standard werden?

Curran: In den nächsten Jahren werden wir eventuell immer häufiger Anwendungsfälle sehen, in denen es eine Reihe von Hintergrundaufgaben gibt, die halbautonom ausgeführt werden können, wobei der Mensch als Koordinator oder letztendlicher Prüfer immer noch im Spiel bleibt. Ein Anwendungsfall dieser Art könnte der Beschaffungsprozess eines Unternehmens sein, bei dem eine Kombination von KI-Agenten aus verschiedenen Systemen (z. B. Finanzen, Beschaffung, Betrieb und Logistikplanung) den besten neuen Lieferanten, die Gründe dafür, die voraussichtlichen Kosten und die potenziellen Auswirkungen auf das Unternehmen koordiniert und dem Benutzer vorstellt. Der Benutzer würde dann den neuen Kauf genehmigen und die Verantwortung für die Aushandlung spezifischer Liefer- und Kommunikationspläne an die Agenten delegieren – und Probleme nur dann an den Mitarbeiter zurückmelden, wenn bestimmte Budgetgrenzen überschritten werden.

Wir werden wahrscheinlich auch eine weitere stille Revolution des Softwareentwicklungsprozesses erleben, da KI in den gesamten SDLC einfließt und sich nicht mehr nur auf die Codegenerierung, die Dokumentationserstellung und die Erstellung von Testfällen konzentriert.

Wie wird KI Ihrer Meinung nach das Kundenerlebnis und die Mitarbeiterproduktivität bis 2025 weiter verändern, und welche Sektoren oder Branchen werden am meisten von diesen Fortschritten profitieren?

Chaurasia: KI ist bereit, CX und EX durch verbesserte Personalisierung, Automatisierung und optimierte Abläufe zu revolutionieren und aufschlussreiche Interaktionen zu bieten. Alle Branchen erwarten diese Auswirkungen der transformativen Kraft von KI, da sie alle eine verbesserte Kundenzufriedenheit und Produktivitätssteigerung anstreben. Bestimmte Sektoren sind jedoch in der Lage, unmittelbarere und bedeutendere Vorteile zu erzielen.

Im Einzelhandel beispielsweise kann KI das Einkaufserlebnis mit personalisierten Empfehlungen und KI-gesteuerten Kundendienst-Bots verbessern. Das Gesundheitswesen wird mehr personalisierte Pflegepläne und schnell reagierende virtuelle Gesundheitsassistenten anbieten. Finanzdienstleistungen werden die Interaktion mit Kunden durch maßgeschneiderte Finanzberatung, automatische Betrugserkennung und Chatbots für den Kundenservice verbessern. Im Hotel- und Gaststättengewerbe kann die Produktivität der Mitarbeiter durch Computer-Vision-gestützte Check-in- und Check-out-Prozesse und virtuelle Concierges gesteigert werden, während die Fertigungsindustrie KI für die vorausschauende Wartung, Qualitätskontrolle und Optimierung der Lieferkette einsetzen wird, um die Produktivität zu erhöhen.

Die Fähigkeit der KI, große Datenmengen zu verarbeiten und verwertbare Erkenntnisse zu gewinnen, wird es Unternehmen ermöglichen, fundierte Entscheidungen zu treffen, Dienstleistungen besser auf die Bedürfnisse der Kunden abzustimmen und alltägliche Aufgaben zu automatisieren.

Was ist Ihre Vision für die Rolle der KI in der Unternehmensstrategie der nächsten fünf Jahre und wie sollten sich Unternehmen auf diese Entwicklung vorbereiten?

Chaurasia: In den nächsten fünf Jahren wird die KI ein grundlegender Motor für strategische Innovationen sein, der die Differenzierung im Wettbewerb und die Wertschöpfung fördert. Sie wird eine tragende Säule der Unternehmensstrategie sein, die autonome Prozesse unterstützt, eine dynamische Personalisierung in noch nie dagewesenem Umfang ermöglicht und nachhaltige Abläufe im Einklang mit den Grundsätzen einer Kreislaufwirtschaft fördert. Darüber hinaus wird KI die betriebliche Effizienz durch strategisches Co-Piloting steigern und Unternehmen in die Lage versetzen, Herausforderungen zu bewältigen und Chancen mit größerer Präzision zu erkennen. Um diese Fortschritte zu nutzen, müssen sich Unternehmen sowohl strategisch als auch technologisch darauf ausrichten, eine KI-first-Kultur zu entwickeln, die Datenbereitschaft zu priorisieren, die Fähigkeiten und das Verständnis innerhalb ihrer Teams zu verbessern, robuste Rahmenbedingungen für KI-Governance und Ethik zu schaffen und aktiv Partnerschaften und Kooperationen zu suchen.