„KI ist längst kein Experimentierfeld mehr“

Der Einsatz von künstlicher Itelligenz kann den ERP- und CRM-Bereich auf ein neues Niveau heben. Welche Rolle dabei Regulierungen, digitale Souveränität und Trustworthy sowie Explainable AI spielen, erklärt Werner Hießl, Director Product & Cloud bei Asseco Solutions, im Gespräch mit ITWelt.at. [...]

Wo stehen wir aktuell beim Einsatz von KI im ERP- und CRM-Umfeld?

Werner Hießl KI ist meiner Erfahrung nach längst kein Experimentierfeld mehr. Sie entwickelt sich gerade zu einem integralen Bestandteil moderner ERP- und CRM-Systeme. Was wir heute sehen, ist der Übergang von punktuellen Automatisierungen – etwa zur Belegerkennung oder durch Chatbots – hin zu kontextsensitiven intelligenten Systemen, die ganze Prozessketten im Blick haben und diese auch aktiv steuern und vorantreiben können. Damit das jedoch gelingt, ist die zentrale Grundvoraussetzung, dass die KI die Möglichkeit erhalten muss, den jeweiligen Ablauf zu verstehen. Das kann eine digitale Abbildung des jeweiligen Prozessablaufs sein, wie wir bei Asseco sie etwa mithilfe unseres Flow Modes erreichen. Dieses Prozesswissen nutzt die KI bei der Bearbeitung der Aufgabe: In einem Vertriebsprozess weiß sie dadurch genau, dass der nächste Schritt darin besteht, den Interessenten zu qualifizieren oder ein passendes Angebot zu versenden. Sie lernt auf diese Weise auch, welche Informationen sie an welcher Stelle benötigt und kann daraufhin zum Beispiel den User um Input bitten. Das Wissen um den Prozess ist entscheidend, damit die KI ihn korrekt bearbeiten kann.

Stimmt das, was Anbieter an KI-Lösungen entwickeln, mit dem überein, was Anwender tatsächlich brauchen?

Tatsächlich ist das nicht immer der Fall. Viele Anbieter fokussieren sich oft auf die technische Machbarkeit – etwa im Bereich Natural Language Interfaces, die Usern mit generativer KI eine natürliche Interaktion mit einem IT-System ermöglichen. Unternehmen hingegen suchen vor allem nach Entlastung in ihren täglichen Aufgaben und wünschen sich beim Einsatz von KI Transparenz und Vertrauenswürdigkeit.

Was Kunden auf keinen Fall wollen, ist „KI um der KI willen“. Daher ist es aus meiner Sicht entscheidend, KI nicht als Zusatzmodul zu betrachten, sondern als funktional integrierten Bestandteil eines ganzen Workflows. Sie muss dort ansetzen, wo unmittelbar Nutzen spürbar ist, und echten Mehrwert liefern. Das ist die Schnittmenge, in der Hersteller und Kunden zusammenfinden.

Im ERP-Bereich spielen Standards eine große Rolle, im KI-Bereich fehlen sie noch. Können Regulierungen diese Lücke füllen?

Ich sehe das ein wenig anders. Hier in der EU haben wir zum Beispiel den EU AI Act. Dieser setzt unter anderem wichtige, grobe Leitplanken für Sicherheit und Transparenz, doch eine solche Regulierung allein kann Standards nicht ersetzen. Zu strenge Regulierungen können auch zu viel des Guten sein. Ich denke hier auch an die Wettbewerbsposition europäischer Unternehmen im Vergleich zur internationalen Konkurrenz. Lässt man dem Markt etwas Freiheit, finden sich oft aus der Praxis heraus sinnvolle Lösungen. Das sieht man derzeit beispielsweise an technischen Quasi-Standards wie MCP (Model Context Protocol) oder A2A (Agent to Agent). Diese entwickeln sich am Markt, bewähren sich in der Praxis und werden dann von vielen anderen übernommen, ohne dass eine Regulierung von oben notwendig war. Aus meiner Sicht sollten Regulierungen Orientierung geben und Leitplanken setzen – darüber hinaus jedoch Freiheit lassen für Innovation.

Wie stark spielt dabei das Thema digitale Souveränität eine Rolle?

Eine sehr große! Unternehmen wollen wissen, wo ihre Daten verarbeitet werden, wer Zugriff darauf hat und wie Modelle trainiert werden. Digitale Souveränität ist kein politisches Schlagwort mehr, sondern ein handfester Wettbewerbsfaktor: Nur wer Kontrolle über seine KI-Wertschöpfung behält, kann Vertrauen in die Technologie aufbauen und damit die Basis für innovative Einsatzszenarien schaffen.

Wir bei Asseco fahren hier eine hybride Strategie: Eine KI-Nutzung ist bei uns sowohl on-premises als auch in der Cloud möglich. In letzterem Kontext setzen wir auf die Zusammenarbeit mit Microsoft, da wir hier Enterprise-Agreements abgeschlossen haben. So fließen die Daten nicht in das Training der KI zurück und werden zuverlässig auf europäischen Servern vorgehalten – mit allen strengen Vorschriften, die hierfür in der EU gelten.

Welche Rolle spielen Trustworthy AI und Explainable AI in Ihrer Arbeit? Wird das von Kunden nachgefragt?

Absolut. Vertrauen ist der Schlüssel für einen erfolgreichen KI-Einsatz. Kunden wollen nachvollziehen können, warum eine KI eine bestimmte Empfehlung ausspricht. Gerade im Kontext von generativer KI ist das jedoch nicht immer so leicht. Diese Modelle arbeiten mit Unmengen an Parametern und komplexen Zusammenhängen, die sich oft kaum oder gar nicht erklären lassen. Die Forschung arbeitet zwar daran, hier entsprechende Möglichkeiten zu finden, aber bislang bleibt echte Transparenz noch immer eine Herausforderung. Für uns bedeutet Explainable AI daher auch, offen zu kommunizieren, wo Grenzen bestehen. Vertrauen entsteht, wenn Kunden verstehen, was die KI kann – und auch, was sie (noch) nicht kann.

Welche Anforderungen ergeben sich für Mitarbeitende und Führungskräfte durch den Einsatz von KI?

Zu einem gewissen Grad verändert KI Kompetenzprofile: Mitarbeitende müssen in die Lage versetzt werden, die Ergebnisse von KI zu verstehen und zu bewerten. Das bedeutet unter anderem, dass in diesem Bereich neue Skills erworben werden müssen. In ähnlicher Weise benötigen Führungskräfte Kompetenz im Umgang mit KI-basierten Empfehlungen.

Insgesamt entstehen auch neue Rollen, etwa „AI Process Owners“ oder „Prompt Engineers“ beziehungsweise heute noch relevanter die „Context Engineers“, die nicht nur Prompts entwickeln, sondern der KI auch die zur korrekten Bearbeitung erforderlichen Daten – sprich den Kontext – mitliefern. Auf diese Veränderungen müssen sich Unternehmen einstellen.

Kann KI helfen, dem Fachkräftemangel entgegenzuwirken?

Das kommt darauf an, welche Fachkräfte gemeint sind. Gerade bei den sogenannten White-Collar-Jobs wird KI sehr stark helfen, Ressourcen effizienter einzusetzen und Routinearbeiten zu beschleunigen.

Was jedoch in der digitalen Welt schneller vorbereitet wird, muss auch in der analogen Welt so umgesetzt werden können. Verarbeiten die Kolleginnen und Kollegen im Backoffice ein immer höheres Auftragsvolumen, müssen auch physisch vor Ort, sprich bei den Blue-Collar-Jobs, die Kapazitäten bestehen, dieses abzuarbeiten. Paradoxerweise könnte KI daher in bestimmten Bereichen den Fachkräftemangel eher noch verstärken, wodurch wiederum neue Anforderungen in Bereichen wie Robotik entstehen.