Unternehmen sollten penibel darauf achten, wann sie generativer KI freien Lauf lassen und wann sie ihre Kreativität zügeln, meint Don Schuerman, CTO von Pegasystems. Sonst drohen Chaos und Mehrarbeit statt Entlastung. [...]
Wissen Sie, was „AI Workslop“ ist? Wahrscheinlich ist er ihnen schon begegnet, auch wenn sie den Begriff noch nie gehört haben. AI Workslop, also „KI-Murks“, entsteht, wenn Unternehmen generativer KI in ihren Softwareanwendungen freien Lauf lassen. Die Anwendungen produzieren Ergebnisse, die zwar oberflächlich tiptop aussehen, bei genauerer Betrachtung aber zusammenbrechen: inkonsistente Empfehlungen, halluzinierte Fakten oder Aktionen, die nicht mit den Richtlinien und Compliance-Vorgaben eines Unternehmens übereinstimmen.
Schuld daran ist nicht die Technologie selbst, sondern die Art und Weise, wie sie eingesetzt wird. GenAI hat eine generative Varianz – wohl jeder hat schon einmal festgestellt, dass Tools wie ChatGPT oder Perplexity auf dieselben Fragen jedes Mal andere Antworten liefern. In kreativen Prozessen ist diese Varianz auch eine große Stärke, denn sie produziert Ideenvielfalt. In Softwareanwendungen wird daraus allerdings ganz schnell ein gravierender Nachteil. Hier muss KI vorhersehbar, regelbasiert und kontextsensitiv sein. Sie sollte genehmigte Workflows und Entscheidungen mit der gleichen Zuverlässigkeit ausführen wie jedes andere Unternehmenssystem auch.
Ist das nicht der Fall, stellt generative KI keine Innovation dar, sondern Chaos, das als Fortschritt getarnt ist. Es drohen Fehlinformationen, Compliance-Verstöße und beschädigte Kundenbeziehungen. Die Mitarbeitenden wünschen sich eine KI, die ihr Fachwissen ergänzt, und nicht untergräbt. Wenn sie sich nicht darauf verlassen können, dass das System repetitive, geregelte Aufgaben jedes Mal korrekt ausführt, haben sie kein Vertrauen und von dem Versprechen, dass sie sich auf höherwertige Aufgaben konzentrieren können, bleibt nichts mehr übrig. Stattdessen müssen sie die KI ständig überprüfen und korrigieren – und haben mehr Arbeit als zuvor.
Unternehmen sollten deshalb penibel darauf achten, generative KI zur richtigen Zeit in der richtigen Form einzusetzen. In der Designphase einer neuen Softwareanwendung kann sie ungezügelt zum Einsatz kommen. Bei Brainstormings, der Entwicklung von Ideen und der Erstellung von Workflows kann sie die Stärken ihrer kreativen Varianz voll ausspielen. Während der Laufzeit der Anwendung muss die Varianz dagegen unterbunden werden. Hier muss die GenAI durch die Integration in strukturierte Workflows mit Guardrails, Governance und Vorhersehbarkeit ausgestattet werden. Sonst werden Unternehmen am Ende mehr Zeit damit verbringen, die Fehler der KI zu beseitigen, als ihren Wert zu nutzen.
* Don Schuerman ist CTO von Pegasystems.
Be the first to comment