KI und ML: Cloud oder On-Premises?

Bei Cloud-Services für KI und Machine Learning müssen Kosten und Governance in Einklang gebracht werden. [...]

„Das Interesse an KI-Lösungen aus der Cloud ist riesig“

An der Cloud führt für Unternehmen kein Weg vorbei, die KI- und Machine-Learning-Lösungen einsetzen wollen, ist Stephan Schnieber sicher, der bei IBM als Sales Lead IBM Cloud Pak for Data die Region Schweiz, Deutschland und Österreich betreut. Anwender sollten dabei jedoch einige Fallstricke vermeiden.

Computerworld: Herr Schnieber, haben Unternehmen den Stellenwert von KI erkannt?

Stephan Schnieber: KI kommt bereits in vielen Produkten zum Einsatz, etwa in KI-basierten Business-Intelligence-Tools und in Chatbots. In Schlüsselindustrien, etwa der Automobilbranche, speziell der Elektromobilität, gibt es sicher Nachholbedarf gegenüber den USA oder China.

Aber die eigentliche Frage muss ja lauten: Wo fängt KI an? Sind Unternehmen im Thema angekommen, wenn sie KI-Tools nutzen, oder müssen sie dafür erst mit Cloud- oder On-Premises-Werkzeugen eigene KI- oder Data-Science-Modelle entwickeln?

CW: Auf welches Interesse stoßen Cloud-basierte Services im Vergleich zu On-Premises-Ansätzen?

Schnieber: Hier ist die Antwort eindeutiger. Das Interesse an Cloud-Lösungen ist im Verhältnis zu On-Premises riesig. Alle Neueinsteiger in KI- und ML-Dienste legen den Fokus auf die Cloud. Wir müssen aber auch hier zwischen der Nutzung von Diensten und der Entwicklung von Modellen unterscheiden.

CW: Was heißt das?

Schnieber: Dienste wie etwa Watson Assistant und Watson Discovery laufen seit ihrer Einführung in der Cloud, und das Interesse an ihnen nimmt stetig zu. Aber es gibt auch hier einige Ausnahmefälle, in denen das eigene Datencenter bevorzugt wird.

Das ist unter anderem bei Unternehmen der Fall, die von Anfang an On Prem gearbeitet haben und bei denen die Integration und Anbindung an Altsysteme eine Rolle spielt. Bezüglich der Entwicklung von KI-Modellen mit Data-Science-Werkzeugen geht der Trend zunehmend in Richtung Cloud.

CW: Welche besonderen Vorteile haben cloudbasierte KI- und ML-Services?

Schnieber: Die einfache Verfügbarkeit und die hohe Skalierbarkeit. Die Anbieter verfolgen inzwischen alle einen Cloud-first-Ansatz; Tools und APIs sind also ebenfalls hochverfügbar. Grundsätzlich muss aber zwischen der Erstellung und der Anwendung von KI-Modellen unterschieden werden.

Entwickelt wird in der Cloud oder On-Premises, ausgeführt eher On Prem oder On Edge. Denn die Latenzzeiten sind, wie bei allen Cloud-Lösungen, ein limitierender Faktor. Werden Echtzeit-Ergebnisse benötigt, ist die Cloud meist nicht der optimale Ansatz.

CW: Gibt es auch Kompromisse, die Nutzer eingehen müssen?

Schnieber: Klares Ja. Das ist zum Beispiel der Fall, wenn ein KI-Modell mit großen Datenmengen trainiert werden muss. Dann können die Kosten für den Cloud-Transfer so hoch sein, dass sie zum Argument werden, nicht in die Cloud zu gehen.

Entwickelt wird in der Cloud oder On Prem, ausgeführt eher On Prem oder On Edge.

Stephan Schnieber

CW: Sorgen macht auch das Risiko der Unter­nehmen, sich langfristig an einen Cloud-Provider zu binden, Stichwort Vendor Lock-in.

Schnieber: Die Interoperabilität ist zwar durch Standardwerkzeuge wie Jupyter Notebooks gegeben, bei denen Code mit Python oder R Code geschrieben und ausgeführt wird. Dieser lässt sich dann auch portieren.

Aber in der Praxis finden Wechsel dennoch kaum statt, weil sie immer mit hohem Aufwand verbunden sind. Aber der Vendor Lock-in ist zumindest geringer als früher, als beispielsweise ausschließlich Data-Science-Werkzeuge zur Verfügung standen, die für den Einsatz in Unternehmensrechenzentren ausgelegt waren.

CW: Können Sie zum Schluss noch Tipps geben, was Unternehmen und Organisationen bei der Auswahl von cloudbasierten KI- und ML-Services berücksichtigen sollten?

Schnieber: Interessenten sollten bei der Anbieterauswahl auf eine möglichst offene Umgebung achten, die eine große Vielfalt von Tools unterstützt, um nicht auf eine proprietäre Entwicklungsumgebung eingeschränkt zu werden.

Unternehmen müssen da einen Balanceakt vollbringen. Denn gerade im Bereich Data Science drängen junge, dynamische Absolventen auf den Arbeitsmarkt. Diese hoch qualifizierten, ambitionierten Fachleute wollen immer die neusten und modernsten Lösungen.

Unternehmen benötigen aber gleichzeitig etablierte Systeme, die ihnen ein hohes Maß an Datensouveränität, Governance, Guidance und Einheitlichkeit sowie gute Kollaborationsmöglichkeiten bieten. Cloud-Strategien müssen das verbinden.

CW: Und welche Cloud-Strategie sollten Unternehmen verfolgen? Ist es sinnvoll, auch kleinere IT-Dienstleister und Serviceprovider in Betracht zu ziehen?

Schnieber: Ratsam ist, nach Möglichkeit einen Hybrid-Cloud-Ansatz zu bevorzugen.

Das heißt, die On-Premises-Option sollte immer offengehalten werden. Kleinere Anbieter können häufig nur einen Teil der genannten Anforderungen erfüllen. Daher führt an den Cloud-Hyperscalern, inklusive IBM, oft kein Weg vorbei.