Unter dem Namen NFON NEXT 2027 präsentiert NFON die Unternehmensstrategie im Bereich Businesskommunikation. Diese sieht die nahtlose Integration von KI-Funktionen in die smarte Cloud-Kommunikationsplattform vor. ITWelt.at sprach mit Jana Richter, bei NFON für KI und Innovarion zuständig, über den Ausbau der neuen Funktionalitäten. [...]
KI ist dabei, modernes Arbeiten und die Geschäftskommunikation dramatisch zu verändern. Dieses Potenzial will auch der deutsche Businesskommunikationsanbieter NFON nicht ungenutzt lassen und integriert KI in seine Lösungen. Unter dem Namen NFON NEXT 2027 präsentierte NFON unlängst die von der Cloud und KI getragene Unternehmensstrategie.
Ein Meilenstein auf diesem Weg waren die Übernahme des KI-Spezialisten botario im August 2024 sowie der Ausbau der AI & Innovation Organisation, die jetzt das KI-Kompetenzzentrum von NFON umfasst. Die ITWelt sprach mit Jana Richter, die seit Oktober 2024 den neu geschaffenen Bereich AI & Innovation leitet.
In letzter Zeit wurde viel über generative KI gesprochen. Welche Large Language Models setzt NFON ein? Arbeitet das Unternehmen mit verschiedenen Anbietern wie OpenAI oder anderen zusammen?
botario ist ein wesentlicher Bestandteil unseres NFON Intelligent Assistant Portfolios – eine Plattform zur Automatisierung von Anfragen mittels KI-basierter Voice- und Chatbots, die sowohl lokal als auch in der Cloud betrieben werden kann. Der Vorteil der botario-Plattform besteht darin, dass sie verschiedene Sprachmodelle integrieren kann. Das ist besonders interessant für Unternehmenskunden, die bereits mit unterschiedlichen Technologien gearbeitet und eine Präferenz für Anbieter wie OpenAI, Gemini oder Claude entwickelt haben. Diese Flexibilität ermöglicht es, auch Open-Source-Modelle wie Llama lokal zu betreiben.
Derzeit setzen wir verschiedene Sprachmodelle ein und führen kontinuierlich Benchmark-Tests durch. Aktuell nutzen wir für unseren Nia-Chatbot, der NFON-Mitarbeitern intern zur Verfügung steht und für Kunden sowie Partner über die Web-site erreichbar ist, OpenAI-Modelle. Bei der KI gestützen Funktionalität Voicemail-Transkription in unserer Business Telefonie hingegen kommt ein reines Speech-to-Text-Modell zum Einsatz. Hier verwenden wir Open-Source-Technologien in Kombination mit botario-eigenen Assets, die in einem deutschen Rechenzentrum gehostet werden.
Wie wichtig ist für NFON der europäische Ansatz, beispielsweise mit KI-Modellen wie Mistral? Plant NFON die Entwicklung eigener Modelle?
Wir haben nicht vor, eigene Sprachmodelle zu entwickeln, da dies so-wohl finanziell als auch technologisch sehr aufwendig wäre. Stattdessen bewerten wir bestehende Modelle und nutzen Techniken wie Prompt Engineering und Retrieval-Augmented Generation, um die bestmöglichen Ergebnisse zu erzielen.
Dabei evaluieren wir sowohl US-amerikanische als auch europäische Modelle, einschließlich Mistral. Entscheidend sind für uns die Qualität der Ergebnisse, die Verfügbarkeit der Dienste, die Kostenstruktur sowie die Datenschutzrichtlinien. Ein weiterer Vorteil unserer Strategie ist, dass wir die eingesetzten Modelle flexibel austauschen können.
Voicemail-Transkription ist keine neue Technologie, lässt sich jedoch bei NFON mit Low-Code-Lösungen erweitern. Gibt es Überlegungen, zukünftig KI-gestützte Low-Code-Entwicklung, also Low-Code per Prompting, zu nutzen?
Die auf dem Speech-to-Text-Modell von botario fußende Voicemail-Transkription ist direkt in unsere Telefonanlagen integriert. Administratoren oder Kunden können die Funktion mit einem Klick aktivieren und für alle Nebenstellen freischalten. Das ist der absolute No-Code-Ansatz, bei dem die Nutzer keine eigene Entwicklung durchführen müssen.
Die Funktion wird im März 2025 allgemein verfügbar sein?
Genau. Aktuell läuft die Pilotphase zu Voicemail-Transkription mit 380 Telefonanlagen, bei dem die Funktion produktiv nutzbar ist. Nach einer einmonatigen Testphase ist sie im März allgemein verfügbar. Wenn es um individuelle Low-Code-Lösungen geht, ist botario die optimale Umgebung. Mit der Flow-Konfiguration können Funktionen flexibel erweitert werden, die als Low-Code- oder No-Code-Lösung interpretiert werden kann. Dabei ist es möglich, eigene Skripte und Python-Codes zu integrieren. Diese Flexibilität ist entscheidend, da viele andere Chatbot-Umgebungen stark limitiert sind, wenn sie keine individuelle Skriptintegration ermöglichen. Man ist dann immer auf das beschränkt, was vorgedacht ist. Wir haben hier keinen Coding Assistant integriert, aber es ist natürlich denkbar, sich entsprechend diese Skriptbestandteile generieren zu lassen. In die Richtung haben wir das Feedback tatsächlich bisher noch nicht bekommen.
Bedeutet das, dass die Individualisierung der Lösungen, das Customizing, hauptsächlich durch Partner erfolgt?
Genau. NFON bietet diesen Service entweder direkt an oder unterstützt Kunden, die über das notwendige Knowhow verfügen. In der Regel erfolgt die Umsetzung jedoch in Zusammenarbeit mit einem Partner.
Nia beantwortet Fragen und gibt Schritt-für-Schritt-Anleitungen. Wäre es nicht noch komfortabler, wenn Nia die Konfigurationen automatisch vornimmt, beispielsweise Anrufweiterleitungen?
Unser KI-gestützter Chatbot Nia, der auf der NFON-Website und im Partnerportal eingeführt wurde, bietet Besuchern schnelle und präzise Informationen, unterstützt sie bei ihren Anliegen und sorgt für direkte Unterstützung rund um die Uhr. Nia funktional immer stärker zu erweitern, inklusive Möglichkeiten, Konfigurationen vorzunehmen, ist definitiv ein Thema auf unserer Agenda. Allerdings verfolgen wir eine schrittweise Implementierung, um schneller auf Marktveränderungen reagieren zu können. Neben Call-Transcriptions evaluieren wir derzeit die Integration von Nia direkt in unsere Business-Telefonieumgebung wie das Admin-Portal und die Web-App, um zusätzliche Self-Service-Funktionalitäten anzubieten. Ein konkretes Einführungsdatum für automatische Konfigurationen kann ich aufgrund unseres inkrementellen Vorgehens jedoch noch nicht nennen.
Gibt es eine Roadmap für die Weiterentwicklung der KI-Funktionen?
Ja. Die Voicemail-Transkription und die Verfügbarkeit von Nia waren bedeutende Meilensteine und wurden nun in die allgemeine Verfügbarkeit überführt. Als nächstes stehen Call-Transcription und Call-Summarization auf dem Plan, da wir hier einen hohen Bedarf bei Kunden und Partnern festgestellt haben. Zudem möchten wir Nia erweitern, sodass der Chatbot auch über Voice-Kanäle verfügbar ist und zusätzliche Self-Service-Angebote bereitstellt.
Inwieweit setzt NFON intern auf KI?
Wir verfolgen den Ansatz »Eat Your Own Dog Food«, indem wir neue Funktionen zunächst intern nutzen. Das betrifft sowohl Nia als auch die Voicemail-Transkription, die seit Januar 2025 firmenintern genutzt wird. Dadurch gewinnen wir wertvolle Erkenntnisse, wie sich eine Funktion im Alltag anfühlt, bevor wir diese in den Pilotmodus und schließlich in die allgemeine Verfügbarkeit überführen.
Ein großes Thema im KI-Bereich ist die Sicherheit. Wie stellt NFON sicher, dass Halluzinationen oder fehlerhafte Transkriptionen minimiert werden? Welche Maßnahmen ergreifen Sie gegen potenzielle KI-Angriffe?
Halluzinationen lassen sich zwar minimieren, aber nicht vollständig vermeiden. Als ITler muss man umdenken. Ich habe selbst Informatik studiert und man glaubt, der Algorithmus ist richtig oder falsch, ist 0 oder 1. Und wenn es falsch ist, korrigiert man es. KI-Systeme arbeiten nicht binär, sondern eher wie Menschen, die auch Fehler machen.
Allerdings können wir durch Technologien wie Prompt Engineering, Retrieval-Augmented Generation und Guardrails die Qualität der Ergebnisse optimieren. Zudem kann man entscheiden, ob alles eher akkurat sein muss oder ob kreative Antworten in der Nutzererfahrung eher von Vorteil sind. Wir hatten, als wir Nia intern in Betrieb nahmen, starke Guardrails und ließen am Anfang wenig Kreativität zu. Das haben wir inzwischen verändert, weil die Mitarbeiter mehr ausprobieren und – basierend auf unserer Dokumentation – zum Beispiel auch Coding erstellen wollten.
Ein weiteres Sicherheitskonzept besteht darin, genau zu steuern, welche Informationen extern zugänglich gemacht werden. Das entspricht der Diskussion, welche APIs ich von außen als Webservice bereitstelle. Je mehr Self-Service-Angebote bereitgestellt werden, desto stärker muss geprüft werden, wie Schnittstellen geschützt und Missbrauch verhindert werden kann. Hier setzen wir auf strenge Authentifizierungsverfahren und Monitoring-Mechanismen.
NFON bietet Partnern einen »Bot-Development-Playground«. Ist dieser bereits für Kunden und Partner zugänglich?
Derzeit nutzen wir einen firmeninternen Playground mit separaten Umgebungen für interne Bots, Kunden- und Partneranwendungen. Für unsere Partner evaluieren wir, welche Art von Entwicklungsumgebung erforderlich ist und ob eine dedizierte Production- oder Development-Instanz sinnvoll ist. Einen öffentlich zugänglichen Playground gibt es jedoch nicht – stattdessen regeln wir dies individuell mit unseren Partnern und Kunden.
Be the first to comment