„Bei kritischen Ergebnissen ist menschliche Kontrolle unerlässlich“

Der Einsatz von Künstlicher Intelligenz bietet im Bereich der Business Intelligence enorme Potenziale. Im Rahmen des Roundtable "BI: Mit KI die eigenen Daten optimal nutzen" sprach die ITWelt.at mit Alexander Penev, CEO und Gründer von ByteSource, über Datenqualität, Transparenz, Compliance und Vertrauen im KI-unterstützten BI-Bereich. […] [...]

Alexander Penev, CEO und Gründer von ByteSource (c) timline / Rudi Handl
Alexander Penev, CEO und Gründer von ByteSource (c) timline / Rudi Handl

Welche Überraschungen und Herausforderungen gibt es im praktischen Einsatz von KI in BI?

KI ist nicht gleich KI. Wir unterscheiden zwischen zwei Haupttechnologien: Machine Learning (ML) und Generative KI (GenAI). ML ist seit vielen Jahren in der Business Intelligence (BI) etabliert. Anwendungen wie Predictive Analytics, Zeitreihenanalysen und Klassifikationsverfahren gehören zum Standardrepertoire nahezu jeder BI-Software.

Die aktuellen Innovationen stammen vor allem aus dem Bereich der Generativen KI, die täglich neue Use Cases hervorbringt, sowohl positive als auch kritische. Besonders erwähnenswert sind die Effizienzsteigerungen: Aufgaben, die zuvor zeitaufwendig waren, lassen sich durch GenAI deutlich schneller erledigen.

Die Entwicklungen erfolgen rasant: Jede Woche gibt es neue Modelle und Anwendungen. In einem Jahr kann sich alles ändern. Daher empfehle ich, stets auf die leistungsfähigsten Technologien zu setzen, um den größtmöglichen Mehrwert für die Kunden zu schaffen, auch wenn diese kurzfristig teurer sein können. Entscheidend ist der geschaffene Mehrwert. Moderne Modelle ermöglichen tiefgreifende Analysen, etwa von Margen, Kundenabwanderungen oder Forecasts, die zuvor nur eingeschränkt, beispielsweise in Excel, möglich waren.

Es heißt, KI werde Arbeitsplätze vernichten. „Tatsächlich ist das Gegenteil eingetreten“, konstatiert Alexander Penev: „Es gibt heute mehr IT-Jobs als je zuvor.“ (c) timeline / Rudi Handl

Natürlich besteht die Möglichkeit, durch Optimierungen kosteneffizientere Varianten einzusetzen. Zunächst sollte jedoch der Fokus darauf liegen, echten geschäftlichen Mehrwert zu generieren. Aus Kundensicht zählt vor allem der Nutzen einer Lösung.

Die Einsatzmöglichkeiten sind nahezu unbegrenzt: von konversationellen Schnittstellen zu Datenbanken über interaktive Abfragen in Wissenssystemen bis hin zur Analyse komplexer Dokumente und innovativen Reporting-Ansätzen. Generative KI eröffnet ein breites Spektrum an Chancen, das sich kontinuierlich erweitert.

Wie siehst du die Rolle von KI bei der Sicherung und Verbesserung von Datenqualität?

Datenqualität hängt stark von der Perspektive ab. Für IT-Spezialisten mögen viele IoT-Daten bedeutungslos erscheinen, während sie für Maschinenbauer entscheidend sind.

Häufig erfassen verschiedene Abteilungen Daten in Silos und bewerten deren Relevanz unterschiedlich. Wenn der Wert der Daten nicht verstanden wird, fehlt die Motivation, in ihre Qualität zu investieren.

Hier bietet KI große Chancen. Ich behaupte nicht, dass alle Probleme verschwinden, aber KI kann Daten schnell simulieren, bereinigen und prüfen. Experten können ihr Wissen über KI in Form von Logik oder „Knowledge Mapping“ in BI-Systeme einfließen lassen. So profitieren ganze Organisationen oder sogar Communities von individuellem Expertenwissen. Beispiele sind die automatische Extraktion relevanter Informationen aus komplexen Dokumenten oder die Abbildung von Expertenlogik in Prompt-Strukturen. Wenn dieses Wissen geteilt wird, kann es erhebliche Fortschritte in der Datenqualität und Analysefähigkeit in einem Unternehmen oder, wenn es Open Source ist, weltweit bewirken.

Wie wichtig ist der Mensch als letzte Instanz („Human-in-the-Loop“), wenn es um Automatisierung und KI-Einsatz geht? Ist er eher ein Hemmschuh für die Automatisierung oder ein notwendiges Element, um Vertrauen zu schaffen?

Bei kritischen Ergebnissen ist menschliche Kontrolle unerlässlich. Ein Beispiel aus der Praxis: Viele medizinische Untersuchungsergebnisse liegen noch immer in Papierform oder auf veralteten Datenträgern wie CDs vor und in nicht weit verbreiteten Datenformaten. Damit sind sie für einen Administrator oft nicht direkt nutzbar. Wir müssen akzeptieren, dass wir auch mit der „alten (analogen) Welt“ kompatibel bleiben müssen.

Ich bin der Meinung, dass man nicht für jeden Use Case eigene Modelle trainieren sollte. Es ist zeitaufwendig und bringt meiner Erfahrung nach wenig, außer vielleicht in speziellen Fällen.

Wichtiger ist es, Modelle schnell und einfach austauschen zu können, um Investitionsschutz zu gewährleisten. Technologien entwickeln sich rasant, daher muss es möglich sein, neue Modelle unkompliziert in bestehende Systeme zu integrieren. Methoden wie Referenzfragen und -antworten helfen, den Wechsel zu validieren.

Darüber hinaus ist Transparenz entscheidend: Chatbots sollten Quellenangaben als Fußnoten liefern, damit Mitarbeiter sofort prüfen können, ob eine Antwort korrekt ist. Mitarbeitende müssen verstehen, dass KI nicht gleichzusetzen ist mit reiner Automatisierung – Ergebnisse sind probabilistisch und nicht immer deterministisch.

Du hattest zuletzt erwähnt, dass auch KI selbst zur Bewältigung regulatorischer Anforderungen genutzt werden kann. Kannst du das erläutern?

Ja, für Vorgaben wie NIS2 oder DORA nutze ich gezielt KI-Systeme. Diese sind deutlich effizienter als manuelle Ansätze: Sie recherchieren schneller, generieren Texte in besserer Qualität und erleichtern die Umsetzung regulatorischer Anforderungen erheblich. Meine Hauptaufgabe besteht nur noch darin, Auffälligkeiten schnell zu erkennen. Ich bin dadurch bis zu zwanzigmal schneller als früher. KI wird hier selbst zum Werkzeug, um die steigenden regulatorischen Anforderungen besser und ressourcenschonender zu erfüllen.

Im Security-Bereich können Vorschriften wie NIS2 Unternehmen helfen. Wie sieht das im BI-Bereich mit dem EU-AI-Act aus – ist Compliance eher eine Hilfe oder eine Hürde?

Beides. Zu Beginn ist Compliance eindeutig eine Hürde, weil der Aufwand enorm ist. Unternehmen müssen für jedes Modell genau wissen, mit welchen Daten es trainiert wurde. Momentan stellen viele LLM-Anbieter diese Informationen noch nicht bereit; hoffentlich ändert sich das bald. Am Anfang bedeutet das Investitionen, doch langfristig schafft es ein stabiles Fundament an Governance. So lassen sich Unsicherheiten klären – etwa, woher die Daten stammen, wo sie gespeichert oder verschlüsselt sind. Mit der Zeit wird aus der Pflicht ein Vorteil: Unternehmen können relativ sorgenfrei agieren, ohne Angst vor Imageschäden. Compliance ist also ein zweischneidiges Schwert, das sich langfristig positiv auswirkt.

Zigtausende Zertifizierungen allein reichen nicht aus. Am Ende müssen unsere Lösungen auch einen echten Mehrwert bieten und besser funktionieren als die der Konkurrenz.

Wie lässt sich ROI praktisch messen?

Bei Effizienzsteigerungen ist die Messung relativ einfach. Ob ich 20 oder 40 Prozent gewinne, ist nicht entscheidend – beide Werte sind ein klarer Erfolg. Schwieriger ist der strategische Nutzen.

Man kann sich fragen: Was passiert, wenn ich keine BI- oder KI-Lösungen einsetze? In einem Wettbewerbsumfeld bedeutet das in der Regel, ins Hintertreffen zu geraten. Schon allein deshalb ist es keine Frage, ob man in diese Technologien investiert.

Zur Messung eignen sich pragmatische Proof-of-Concepts: Wenn ich sehe, dass ein Prozess von zwei Stunden auf 13 Minuten reduziert werden kann, habe ich bereits eine klare Aussage über den ROI – unabhängig davon, ob sich dieser in Monaten oder Jahren auszahlt.

Zur Frage der Mitarbeitenden: Seit Jahrzehnten hören wir, dass Automatisierung Arbeitsplätze vernichten wird. Tatsächlich ist das Gegenteil eingetreten: Es gibt heute mehr IT-Jobs als je zuvor. Die Arbeit verändert sich, aber sie verschwindet nicht. Ein Beispiel ist die Softwareentwicklung: Früher musste man Programmiersprachen im Detail beherrschen. Heute übernimmt KI viele Routinen, ich muss nicht mehr wissen, wie eine Schleife in Java oder C zu programmieren ist. Gleichzeitig entstehen neue Aufgaben, manche durch KI selbst verursacht, etwa Fehler oder KI-Sicherheitsprobleme. So entstehen neue Rollen und Tätigkeitsfelder.


Mehr Artikel

News

Produktionsplanung 2026: Worauf es ankommt

Resilienz gilt als das neue Patentrezept, um aktuelle und kommende Krisen nicht nur zu meistern, sondern sogar gestärkt daraus hervorzugehen. Doch Investitionen in die Krisenprävention können zu Lasten der Effizienz gehen. Ein Dilemma, das sich in den Griff bekommen lässt. […]

Maximilian Schirmer (rechts) übergibt zu Jahresende die Geschäftsführung von tarife.at an Michael Kreil. (c) tarife.at
News

tarife.at ab 2026 mit neuer Geschäftsführung

Beim österreichischen Vergleichsportal tarife.at kommt es mit Jahresbeginn zu einem planmäßigen Führungswechsel. Michael Kreil übernimmt mit 1. Jänner 2026 die Geschäftsführung. Maximilian Schirmer, der das Unternehmen gegründet hat, scheidet per 14. April 2026 aus der Gesellschaft aus. […]

News

Warum Unternehmen ihren Technologie-Stack und ihre Datenarchitektur überdenken sollten

Seit Jahren sehen sich Unternehmen mit einem grundlegenden Datenproblem konfrontiert: Systeme, die alltägliche Anwendungen ausführen (OLTP), und Analysesysteme, die Erkenntnisse liefern (OLAP). Diese Trennung entstand aufgrund traditioneller Beschränkungen der Infrastruktur, prägte aber auch die Arbeitsweise von Unternehmen.  Sie führte zu doppelt gepflegten Daten, isolierten Teams und langsameren Entscheidungsprozessen. […]

News

Windows 11 im Außendienst: Plattform für stabile Prozesse

Das Betriebssystem Windows 11 bildet im technischen Außendienst die zentrale Arbeitsumgebung für Service, Wartung und Inspektionen. Es verbindet robuste Geräte, klare Abläufe und schnelle Entscheidungswege mit einer einheitlichen Basis für Anwendungen. Sicherheitsfunktionen, Updates und Unternehmensrichtlinien greifen konsistent und schaffen eine vertrauenswürdige Plattform, auf der sowohl Management als auch Nutzer im Feld arbeiten können. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*