IT-Trends 2024: Zwischen Hyper-Personalisierung und KI-Inzucht

PAC hat die wichtigsten Trends für die IT-Verantwortlichen im Jahr 2024 zusammengefasst. Neben strikterem Cloud-Kostenmanagement wird es in Zukunft u. a. auf ein effektives Sicherheitsmanagement ankommen. [...]

Zum Jahreswechsel veröffentlichen die PAC-Analysten auf Basis fundierter Analysen ihre wichtigsten Prognosen für das neue Jahr. Sie zeigen die entscheidenden Trends und Marktentwicklungen auf, die sich auf unterschiedliche Weise auf den IT-Markt auswirken werden.

Fünf zentrale Trends sind es, die nach den Erkenntnissen der Analysten in 2024 und darüber hinaus für Unternehmen überdurchschnittliches Wachstum, Effizienzsteigerung und mehr Nachhaltigkeit bringen werden – und wie zu erwarten war, haben viele mittelbar oder unmittelbar etwas mit dem Themenfeld der Künstlichen Intelligenz zu tun.

FinOps für GenAI: Verwaltung von Cloud-Kosten im KI-Zeitalter wird für Unternehmen zur Herausforderung

Das Jahr 2023 markierte einen Wendepunkt für KI-Services, insbesondere resultierend aus der wachsenden Bedeutung von Generative AI (GenAI). stehen nun vor einem neuen FinOps-Wendepunkt, da GenAI hohe Rechen- und Datenverarbeitungskapazitäten erfordert, die nur durch Cloud-Dienste erschwinglich realisiert werden können. PAC sieht GenAI als das, was die Tech-Industrie eine „Killer-Applikation“ nennt, da es sich um eine Innovation handelt, deren Anwendungsfall sowohl das private als auch das berufliche Leben von Menschen weltweit verändert und beeinflusst. Gleichzeitig sehen die Analysten aber auch ein erhebliches Risiko für Unternehmen, dass die Nachfrage nach solchen Diensten zu unerwarteten Kostensteigerungen führt – in einer Größenordnung und Geschwindigkeit, die weitaus gravierender ist als die anfänglichen Kostenprobleme bei der Ausbreitung der Cloud. „Unternehmen müssen daher die Cloud-Service-Kosten für KI in allen Geschäftsbereichen durch FinOps effektiv verwalten und eine Kultur der finanziellen Transparenz und Verantwortlichkeit schaffen“, rät Spencer Izard, Principal Analyst von PAC.

MLSecOps: Effektives Sicherheitsmanagement wird in einer von „Multi-Hops“ geprägten KI-Landschaft zum Muss

Mit der Zunahme der KI-Nutzung steigt auch die Notwendigkeit, Sicherheitspraktiken an ML-bezogene Workflows anzupassen. Viele Unternehmen stehen vor der Herausforderung, KI in einer Vielzahl von IT-Lösungen zur Unterstützung von Geschäftsmodellen zu etablieren – und Unternehmen, die ihre Cybersicherheitsstrategie nicht parallel zu ihrer KI-Strategie anpassen, gehen hohe Risiken ein. MLSecOps-Rahmenwerke werden daher für die Absicherung von KI-Lösungen und -Diensten zunehmend einen höheren Stellenwert bekommen. Eine besondere Herausforderung aufgrund der in vielen Unternehmen zu beobachtenden breiten Palette an KI-Services, ist dabei die sogenannte „Multi-Hop-KI“. Darunter versteht man die Verkettung mehrerer KI-Lösungen oder -Dienste und ihrer Datensätze zu einer integrierten Pipeline oder Lieferkette, wobei bei jedem Hop eine andere, oft cloudbasierte KI-Lösung oder ein anderer Dienst genutzt wird. Diese KI-Nutzung wird Lösungen und Dienste von einer Vielzahl von IT-Anbietern umfassen. Zwischen den einzelnen „Hops“ wird es keine menschliche Interaktion geben, sodass der Mensch nur den anfänglichen Input liefert und dann den Multi-Hop-Output erhält. PAC hält dies für einen revolutionären Schritt, aber auch ein Risiko bei der Nutzung von KI. „Dem Mehrwert von KI für Unternehmen steht das Potenzial für neue Formen von Sicherheitsverletzungen gegenüber. Denn Daten sind aus Sicht der Cybersicherheit das wertvollste Gut, das sich böswillige Akteure aneignen können – und da sie das Herzstück aller KI sind, ist dies ein Bereich, mit dem sich CxOs in den kommenden Jahren intensiv befassen müssen“, weiß Spencer Izard.

Umgang mit der KI-Inzucht: Wie die Anwendung von verantwortungsvoller und erklärbarer KI für Validität sorgt

Ein zunehmend relevantes Problem im Zusammenhang mit Künstlicher Intelligenz ist die sogenannte „KI-Inzucht“. Dieses Phänomen tritt auf, wenn KI-Systeme überwiegend von anderen KI-generierten Inhalten lernen, was zu einer Verzerrung und Entfremdung von der menschlichen Perspektive führen kann. Während etwa die aktuellen Versionen des ChatGPT-Modells auf einer relativ sauberen Bandbreite von überwiegend menschengenerierten Datenpunkten trainiert wurden, könnten zukünftige KI-Modelle immer mehr Daten generieren (und von ihnen lernen), die sich über viele Verarbeitungsiterationen hinweg von der Relevanz für menschliche Perspektiven unterscheiden. Diese Entwicklung, besonders sichtbar im Bereich der generativen KI (GenAI), könnte die Langzeitwirksamkeit von KI-Lösungen beeinträchtigen. „Wir von PAC halten dies für ein sehr ernstes Warnsignal für eine potenzielle Zukunft mit schwerwiegenden Auswirkungen auf den Nutzen der KI sowohl für Organisationen als auch für die Gesellschaft“, warnt Spencer Izard. Verantwortungsvolle und erklärbare KI-Tools und Frameworks können indes als geeignete Instrumente zur Bewältigung dieses Problems angesehen werden.

Hyper-Personalisierung: Digitale Assistenten schaffen mit Hilfe von GenAI eine individuelle Kundenansprache

Seit Jahren streben Unternehmen im B2C- oder D2C-Geschäft danach, digitale Einkaufserlebnisse ähnlich einem persönlichen Einkaufsberater mit möglichst präziser Personalisierung zu bieten. Generative KI eröffnet Chancen Hyper-Personalisierung zu erreichen, die darauf abzielt, eine möglichst enge und langfristige Beziehung zum Kunden zu entwickeln, die das Engagement und die Loyalität erhöht und Cross- und Upselling-Möglichkeiten eröffnet. In der Vergangenheit waren die Kosten für einen Einkaufsberater, der den Kunden so passgenau beraten konnte, angesichts der unzureichenden Datenlage zu hoch und die Skalierbarkeit nicht gegeben. Auch waren vor GenAI die Chatbot-Style-Schnittstellen nicht ausgeklügelt genug, um Kaufberatungen oder Steuerungen ähnlich einem traditionellen persönlichen Einkaufsberater zu bieten. PAC prognostiziert, dass ab 2024 die Integration von GenAI in digitale Erlebnisse auf Mitarbeitergeräten zur Unterstützung persönlicher Interaktionen und durch ähnliche Erlebnisse direkt auf den Geräten der Kunden vermehrt erfolgen wird. „Dadurch wird GenAI den Zugang zu digitalen Assistentendiensten im Stil eines persönlichen Einkaufsberaters für die Verbraucher demokratisieren, den Kaufzyklus von Unternehmen vereinfachen und neue Umsatzmöglichkeiten schaffen“, prognostiziert Spencer Izard.

Neue ESG-Regulierung: Die CSRD verschärft die Anforderungen an Unternehmen für eine nachhaltige IT-Landschaft

Die Corporate Sustainability Reporting Directive (CSRD) regelt ab 2024 EU-weit die Umweltberichterstattung und forciert damit die internationalen ESG-Bestrebungen. Die Experten von PAC sehen das Inkrafttreten der CSRD als Beschleuniger des Wandels hin zu mehr Nachhaltigkeit in Unternehmen. Waren diese in der Vergangenheit an Nachhaltigkeit vor allem deshalb interessiert, weil ihre Kunden danach fragten und es die Gelegenheit bot, Umsätze zu steigern, besteht nun eine Verpflichtung mit rechtlichen, rufschädigenden und kommerziellen Komponenten. „Unternehmen werden vermehrt nach Partnern suchen, die ihnen helfen, die richtigen Softwarelösungen und Prozesse zu implementieren, um Daten im Zusammenhang mit ESG effizient zu verfolgen, zu sammeln und zu analysieren“, sagt Mopia Kamdoum, Analystin von PAC. Gleichzeitig wird die Vergleichbarkeit der Berichte die Unternehmen dazu drängen, zu zeigen, dass sie mindestens so nachhaltig ausgerichtet sind wie ihre direkten Mitbewerber. Der Trend zu mehr Nachhaltigkeit wird Unternehmen zudem weiter zu einer Cloud-First-Strategie ermuntern. Neben der Möglichkeit, einzelne Workloads mit vertretbarem Aufwand und Betriebskosten in die Cloud zu migrieren, werden Organisationen zunehmend fragen, wie nachhaltig verschiedene Cloud-Angebote sind. Bei der Auswahl eines Cloud-Anbieters wird Nachhaltigkeit neben der Verfügbarkeit von Dienstleisterressourcen und angemessenen Funktionen in der PaaS-Umgebung ein Schlüsselfaktor sein. Zudem werden auch die Cloud-Anbieter Effizienzparameter für Interessenten bereitstellen, um die Nachhaltigkeit der Angebote zu belegen.