KI und ML: Cloud oder On-Premises?

Bei Cloud-Services für KI und Machine Learning müssen Kosten und Governance in Einklang gebracht werden. [...]

Das Leben könnte so einfach sein, auch für Journalisten: „Lieber virtueller Assistent, kontaktiere deine Freunde ChatGPT und Bard und lasse sie einen Artikel zu KI-Plattformen schreiben, die als Cloud-Service verfügbar sind. Und bitte eine passende Anbieterübersicht mitliefern.“

Doch das klappt in der Praxis noch nicht, trotz des Hypes, der um generative KI-Formen (generative KI) wie ChatGPT von OpenAI und Bard von Google entstanden ist – mit Betonung auf „noch nicht“.

Es ist unumstritten, dass die künstliche Intelligenz und das Machine Learning (ML) bereits heute eine Schlüsselrolle in vielen Bereichen spielen, und diese Entwicklung wird sich beschleunigen – auch in Deutschland und der Schweiz: „Nach unseren Erfahrungen haben Unternehmen und Organisationen die Bedeutung von KI erkannt und investieren in diese Technologie“, berichtet etwa Markus Hacker, Director Enterprise Business DACH bei Nvidia.

„Es besteht in einer Reihe von Branchen ein starkes Interesse an der Nutzung von KI zu Verbesserung von Effizienz, Produktivität und Innovation.“

Dies gilt nicht nur für die Fertigung, etwa im Automobil- und Maschinenbau und der pharmazeutischen und chemischen Industrie. Auch der Einzelhandel und Dienstleistungssparten wie der Finanzsektor können von KI und Machine Learning profitieren.

KI ist im Alltag angekommen

Nicht vergessen werden sollte, dass künstliche Intelligenz und Maschinelles Lernen (ML) für etliche Unternehmen und Nutzer kein Neuland sind. So hat beispielsweise Microsoft generative KI-Funktionen in seinen Browser Edge integriert und Microsoft 365 um künstliche Intelligenz erweitert: „Wir bieten mit dem in Microsoft 365 integrierten Copiloten die Möglichkeit, KI ohne Programmierkenntnisse in den Arbeitsalltag einzubinden“, erläutert Gilbert Jacqué, Azure Solutions Go-To-Market Lead bei Microsoft Deutschland.

Ein Beispiel: „Microsoft Teams Premium wird in Kürze den Teilnehmern einer Besprechung direkt nach dem Meeting ein Protokoll und eine Aufgabenliste zur Verfügung stellen können“, so Jacqué.

Zu den Bereichen, in denen KI-Lösungen in verstärktem Mass anzutreffen sind, zählen vor allem die Kundenbetreuung, inklusive des IT-Supports. Dort kommt Conversational AI zum Zug in Form von Suchmaschinen und Chatbots. „Benutzer können Fragen stellen und erhalten Antworten wie in einem Dialog mit einer Person“, erklärt Florian Maximilian Lauck-Wunderlich, Senior Project Delivery Leader bei Pegasystems, einem Anbieter von Low-Code-Plattformen mit KI-Unterstützung.

„Der nächste Schritt ist die Implementierung von emotionaler Intelligenz in Chatbots“, so Lauck-Wunderlich. Eine KI-gestützte Analytics-Software wiederum kann in Echtzeit auf Basis von Muster-Erkennung und Korrelationsanalysen die Ursachen von Umsatzrückgängen oder den Erfolg von Marketingkampagnen ermitteln.

Cloud oder On-Premises

Generative AI-Lösungen wie ChatGPT von OpenAI, Google Bard, Luminous des deutschen Start-ups Aleph Alpha und Character.AI vom gleichnamigen Anbieter werden das Einsatzspektrum künstlicher Intelligenz deutlich erweitern. Für viele Unternehmen und Organisationen stellt sich daher die Frage, wie und wo sie entsprechende Anwendungen entwickeln und implementieren können: im eigenen Haus beziehungsweise Data Center oder mithilfe von Public-Cloud-Services. Dabei spielen Faktoren eine Rolle wie:

• das vorhandene Know-how in Unternehmen in den Bereichen KI, Machine Learning und Data Science;
• der finanzielle und organisatorische Aufwand, der mit dem Aufbau und Betrieb von KI-Entwicklungskapazitäten und einer IT-Infrastruktur im eigenen Haus verbunden ist;
• dies im Vergleich zu den Kosten, die bei Cloud-Services anfallen, insbesondere vor dem Hintergrund der Preissteigerungen bei Cloud-Angeboten in jüngster Zeit;
• eventuell technische Fragen, etwa Datenleitungen mit hoher Kapazität, die für den Transfer von komplexen KI-Modellen und großen Volumina von Trainingsdaten in eine Cloud erforderlich sind. Speziell in Deutschland sind Highspeed-Verbindungen in etlichen Regionen immer noch Mangelware;
• der Schutz von geistigem Eigentum, wenn Daten und KI-/ML-Modelle in einer Public Cloud vorgehalten werden;
• Vorgaben durch den Gesetzgeber, etwa im Rahmen der EU-Datenschutz-Grundverordnung und der geplanten Regelungen der EU für KI (Artificial Intelligence Act). Der EU AI Act soll noch 2023 in Kraft treten.

Cloud-Plattformen für Künstliche Intelligenz (KI)
Anbieter	Lösung(en)	Details
Aleph Alpha	Luminous	Anbieter aus Deutschland; KI-Lösung auf Basis von Large Language Models (LLM); Verarbeitung und Erstellen von Texten, inklusive Angabe der genutzten Quellen; auch Arbeit mit Bildern wird unterstützt (multimodaler Modus); Implementierung auf Cloud-Infrastrukturen und On Premises möglich; auch über Datacenter von Aleph Alpha zugänglich
Alibaba	Alibaba Cloud Itelligence Brain; Machine Learning Platform for AI	Anbieter aus China; Intelligence Brain mit Rechenkapazitäten und Ressourcen für Entwicklung neuronaler Netzwerke, KI-basierter Sprach- und Textverarbeitung sowie KI-gestützter Analyse großer Datenmengen; Machine Learning Platform for AI für Erstellen, Trainieren und Implementieren von ML- Modellen; mehr als 140 Algorithmen zur Wahl
Amazon Web Services AWS	Vielzahl von KI- und ML-Angeboten, u. a. Amazon Sagemaker für Machine Learning,   Augmented AI, Bedrock, Amazon Titan, CodeGuru, AWS-EC2-Instanzen für Inferenz	Vielzahl von KI- und Machine-Learning-Services; u. a. für Erstellen, Trainieren und Implementieren von ML-Modellen und entsprechenden Workflows (Sagemaker), Generative AI (Bedrock, Titan), anwendungsspezifische KI- und ML-Services, etwa für Betrugserkennung, Unternehmenssuche (Kendra), Textanalyse (Comprehend), Predicitive Maintenance; Zugang zu Infrastrukturressourcen wie EC2, GPU-Instanzen, Inferenz-Beschleunigern und Lösungen für KI in Edge-Systemen
AX Semantics	AX Semantics	Anbieter aus Deutschland; Anwendung für KI-unterstütztes Erstellen von Texten in 110 Sprachen; Optimierung vorhandener Texte, etwa unter Gesichtspunkt Suchmaschinen-Optimierung; Grundlage: Natural-Language-Generation-Software (NLG) auf Basis von KI und Natural Language Processing (NLP)
Baidu	Baidu AI Cloud	Anbieter aus China; u. a. mit Cloud-Plattform BML für Machine Learning; Open-Source-Frameworks wie Tensorflow, Pytorch, Rapids cuML; AutoML- und AutoDL-Funktion; Zugang zu Grafikprozessoren (GPUs); gehostete Jupyter-Umgebungen; zudem Bereitstellung von Storage-Ressourcen, Servern, Datenbanken und Container-Management
Clarifai	Clarifai AI Platform	komplettes Lifecycle-Management von KI-Projekten; Schwerpunkt auf KI-gestützter Bild-, Text- und Spracherkennung sowie Verarbeitung unstrukturierter Daten; Bereitstellung und Nutzung über Public Clouds und unternehmenseigene IT-Systeme; Unterstützung von Edge-AI-Komponenten wie IoT-Systemen; Anbindung an Lösungen von Nvidia, Palantir, Snowflake, UiPath, Tableau und Powerapps
Cnvrg.io	cnvrg.io Metacloud	Tochtergesellschaft von Intel; Lösung; gemanagte Plattform für KI und Machine Learning; Basis: Betriebssystem für Machine Learning in Form von Containern; Option für User, eigene Server und Storage-Systeme zu nutzen; Aufsetzen von KI- und ML-Workflows über Portal; Kooperation u. a. mit Dell Technologies, IBM, Lenovo, Nvidia, Red Hat
Dataiku	Dataiku KI-Plattform	KI- und ML-basierte Datenanalyse On Premises oder auf Cloud-Plattformen von AWS, Google und Microsoft; auch als Managed Service verfügbar; unterstützt die ML-Engines Python, Spark, H2O und Tensorflow; mit 32 Kernalgorithmen; vorgefertigte branchenspezifische KI-Lösungspakete für schnellen Einstieg in KI und ML
Datarobot	Datarobot AI Platform	KI-Plattform für Lifecycle-Management von KI- und ML-Modellen und Anwendungen – von Erstellen und Validieren von Modellen bis Implementierung; Anbindung an Datenplattformen und Cloud-Speicher, etwa Amazon S3, Snowflake, Databricks, Azure, Google; Integration von Geschäftsanwendungen wie SAP, Salesforce, Power BI, Tableau; Implementierung und Nutzung als SaaS-Service (gemanagt) oder On Premises
Deepl	Deepl Translator	Unternehmen mit Hauptsitz in Köln; Schwerpunkt: KI-basierte Übersetzung von Texten, inklusive PDF-Dokumenten; derzeit rund 30 Sprachen unterstützt; technische Basis: neuronale Netzwerke; über Cloud zugänglich oder über API (Anbindung an IT-Systeme von Unternehmen)
Deutsche Telekom	KI-Services der Open Telekom Cloud	u. a. Infrastruktur-Services (IaaS) mit Servern (Cloud, Bare Metal, Hosted) sowie GPUs von Nvidia und FPGAs von Xelera für Beschleunigung von KI- und ML-Workloads: Frameworks sowie Pytorch, Spark, Caffè, Mindsphere; Plattformdienste wie Deep Learning, ML, Inferencing, Batch-Services
Gitlab	Gitlab Platform	Cloud-Plattform mit Schwerpunkt DevSecOps; Funktionen für KI-Entwicklung und Data Science wie ModelOps, Mflow-Integration, Python-Notebooks, GPU-SaaS-Runner; Zugang zu GPU-Ressourcen über Oracle Cloud Infrastructure und Gitlab Runner; Möglichkeit, Gitlab in Cloud zu nutzen und mit Rechenkapazitäten im eigenen Datacenter zu kombinieren
Google	u. a. Generative-AI-Service Bard; Vertex AI; AI Infrastructure, Contact Center AI, Document AI; Duet AI; PaLM 2	Vielzahl von Cloud-Services für Entwicklung von branchenspezifischen Anwendungen, etwa Optimierung des Kundensupports (Contact Center AI), Analyse von Dokumenten (Document AI) und optische Qualitätssicherung (Visual Inspection AI); M Plattform für Erstellen und Implementieren von ML-/KI-Modellen (Vertex AI); seit 2023 Chatbot Bard und weitere Generative-AI-Anwendungen auf Basis von neuem Large-Language-Modell PaLM 2; Duet AI für Programmieren von Anwendungen for Google Cloud und Workplace mithilfe von Bots
Graphcore	Cloud IPUs; Data Centre IPUs	Britischer Anbieter von Intelligent Processing Units (IPUs) für KI und Machine Learning; in Zusammenarbeit mit Cloud-Serviceprovider Paperspace Zugang zu IPUs in Cloud-Umgebung; Erstellen, Trainieren und Implementieren von ML-Modellen; Unterstützung der gängigen ML-Frameworks wie Tensorflow, Pytorch, Keras, ONNX
H2O	H2O Cloud	Cloud-Plattform für Automated Machine Learning (AutoML); Einbindung von Nvidia Rapids (Software-Bibliothek) und GPUs; App-Store für KI-Anwendungen; automatisiertes Konvertieren von Python/R-Artefakten in Java/C++; mit Open-Source-basierten Low-Code-Entwicklungs-Framework
IBM	IBM WatsonX; IBM Cloud Pak for Data; IBM Watson Studio;	WatsonX als neue KI- und Datenplattform; Funktionen für Training, Validieren und Implementieren von ML-Modellen; Skalieren von KI-Workloads; Aufsetzen von transparenten datenbezogenen und KI-Workflows; Cloud Pak for Data als cloudnative Daten und KI-Plattform, inklusive Data Fabric für Verknüpfung von Daten aus unterschiedlichen Quellen und KI-basierten Analysefunktionen; als Cloud-Services oder On Premises verfügbar; IBM Watson Studio für Erstellen, Prüfen und Managen von KI-Modellen
Infosys	Infosys Applied AI Cloud;	AI-Cloud-Plattform; Zugang zu KI-Hardware auf Basis von Nvidia-Systemen und -GPUs; Bereitstellung von KI-Cloud-Plattformen in Unternehmensrechenzentren in Verbindung mit Software-as-a-Servicemodellen (Hybrid Cloud); Edge-KI-Funktionen; auch Anbindung an Public Clouds möglich; Option, „Shared AI Infrastructure“ aufzubauen mit unternehmensinternen KI-Kapazitäten für Deep und Machine Learning sowie Public-Cloud-Ressourcen für Zugang zu Trainingsdaten und KI-Services
Ionos	Infrastrukturlösungen für Machine Learning	Cloud Compute Engine mit Rechenleistung; S3-basierter Objektspeicher; Datenbanken wie PostgreSQL; ML-Referenzarchitekturen über Partner wie Codecentric und B.Tellligent
Jina AI	Jina AI Cloud;	Deutscher Anbieter mit Hauptsitz in Berlin; MLOps-Plattform für Entwicklung multimodaler KI-Anwendungen; Einsatzfelder u. a. Entwicklung von Suchanwendungen, Verlagern von KI-Hosting und -Wartung auf Jina-Cloud-Plattform; Feintuning von KI-Modellen
Microsoft	u. a. Azure Open AI Service,  Azure Machine Learning; Azure Applied AI Service; Azure Cognitive Services; Azure Bot Service, Azure AI Infrastructure Services; Azure Databricks	Vielzahl von Cloud-Services für diverse Anwendungsszenarien; Azure Open AI Service für Generative AI mit großen Sprachmodellen; Cognitive Computing, Machine Learning und Bereitstellung der KI-Infrastruktur; Aus-/Weiterbildungsangebote; über Azure Stack und Azure Stack Hub Implementierung und Betrieb von KI-/ML-Lösungen im Unternehmensrechenzentrum und an Edge-Standorten; Applied AI Service für anwendungsspezifische KI-Einsatzfelder; Databricks für Big Data-Analysen und KI in Apache Spark-Umgebung; dazu die erforderlichen Infrastrukturkomponenten as a Service
Neural Designer	Explainable AI Platform	Spanisches Unternehmen; Plattform für Entwicklung von KI-Anwendungen; Schwerpunkt auf einfacher Bedienung, ohne spezielle Kenntnisse in Bereichen wie Coding und Erstellen von Blockdiagrammen; Basis: neuronale Netzwerke; branchenspezifische Use Case verfügbar etwa für Finanz- und Energiesektor, Industrie, Handel, Gesundheitswesen
Nvidia	Nvidia NGC; Nvidia AI Foundations; Nvidia DGX Cloud;	NGC: Katalog mit Software und Managed Services für KI, maschinelles Lernen und High Performance Computing; Grundlage sind GPUs von Nvidia; Nvidia AI Foundations als Sammlung von Services, vorzugsweise für Generative AI; u. a. für Texte, visuelle Inhalte und KI-basierte Anwendungen in den Biowissenschaften; Nvidia DGX Cloud als Supercomputing-Dienst für KI, der über Web-Oberfläche zugänglich ist: DGX Cloud und AI Foundations zunächst über Oracle Cloud Infrastructure verfügbar, voraussichtlich auch über andere Cloud-Plattformen wie Azure
Observe AI	Observe.AI Platform	Cloud-Plattform für KI-gestützte Analyse der Interaktionen von Kunden mit Unternehmen; Basis: Large Language Model (LLM) in Verbindung mit Generative-AI-Funktionen; auf Optimierung der Effizienz von Contact-Centern ausgelegt
Oracle	Oracle AI; Oracle Machine Learning	Portfolio von Cloud-Services für Erstellen, Training und Implementierung von KI und ML-Lösungen auf Basis der Oracle Cloud Infrastructure (OC); mit Frameworks wie Pytorch und Tensorflow; vorgefertigte Modelle von Chatbots, Lösungen für Natural Language Processing, Anomalie-Erkennung, Bilderkennung; Kooperation mit Nvidia (GPUs); die OCI als Basis der Services kann auch On Premises genutzt werden; Kooperation mit DevSecOps-Plattform Gitlab
OVHcloud	AI Notebooks; AI Training; AI Deploy; Nvidia NGC Platform	Anbieter mit Hauptsitz in Frankreich; AI Notebooks für Einrichten von Jupyter- und VS-Code-Notebooks für Nutzung von KI-Frameworks; AI Training mit Rechenleistung für Test und Pre-Production-Phase von KI-Lösungen; AI Deploy für Bereitstellen von KI- und ML-Modellen; NGC Platform für Container für KI auf Basis von Nvidia-Grafikprozessoren
Pegasystems	Pega Infinity; Pega Platform	Integration von Generative-AI-Funktionen wie ChatGPT in Low-Code-Plattform; Einsatzbeispiel: Erstellen von Anwendungen mittels Eingabe von Anweisungen („Erstelle XYZ-Anwendung); anschließend Auswahl von automatisch generierten Aufgabenelementen (Stages) und Workflow-Schritten durch Entwickler
Petuum	Petuum AI Workflow Library, Viewer und Solver	Ausgründung aus Carnegie-Mellon-Universität; Ansatz: Automatisierte Entwicklung und Bereitstellung von KI-Anwendungen durch technisch weniger versierte Nutzer; Basis: Large Language Models (LLM) sowie MLOps-Verfahren; mit KI-Systemsoftware (AI OS) mit Low-/No-Code-Funktionen und Kubernetes-Unterstützung; automatisierte Optimierung von Entwicklungs-Pipelines von Modellen und Systemen
Polyaxon	Polyaxon Cloud	Gemanagte Hybrid-Cloud-Version der KI- und ML-Entwicklungsplattform des Anbieters; Workloads, Daten, Artefakte und Modelle verbleiben in Clustern des Nutzers; kompletter Lebenszyklus von ML-Entwicklungsprozessen abgedeckt, inklusive Management von Modellen, Collaboration-Funktionen für Teams und Compliance; Unterstützung von Libraries wie Tensorflow, Keras, Caffe, DLMC Mxnet; Nutzung von Ressourcen der Cloud-Plattformen von AWS, Google und Microsoft möglich
Rasa	Rasa Platform	US-Unternehmen; Plattform für Entwicklung von Conversational-KI-Anwendungen wie Chat-Bots; Implementierung und Nutzung über Private und Public Cloud, On Premises und Container; Rasa-as-a-Service als gemanagter Cloud-Service in der vom Nutzer gewünschten Region
Red Hat	Red Hat Openshift Data Science	Machine-Learning-Plattform auf Open-Source-Basis für Hybrid-Cloud-Umgebungen;  Basis: Red Hat Openshift; Data Scientists können KI-/ML-Modell erstellen, trainieren, testen und implementieren; Integration von Nvidia-CPUs und KI-Toolkits von Intel (AI Analytics; Openvino); in Planung ist Anbindung an Cnvrg.io-Plattform sowie Habana Gaudi für Deep-Learning-Workloads
Run:AI	Run:AI Atlas	Unternehmen mit Hauptsitz in Israel; cloudbasierte KI-Plattform mit eignem „Betriebssystem“, Control Plane und Anwendungsschicht; Nutzung On Premises sowie in Cloud-Umgebungen; Zugriff auf Infrastrukturkomponenten wie GPUs und Rechenleistung (CPUs); granulare Zuweisung von Ressourcen an KI-Entwickler und Operations-Teams auf Basis von Geschäftsstrategien; Anbindung an AWS, Azure und Google Cloud Platform möglich
Salesforce	Salesforce Cloud Einstein Platform	Teil der Salesforce-Cloud-Plattform; Vermarktung als „persönlicher Data Scientist für Vertriebsmitarbeiter“; Funktionen u. a. Erstellen von Bots, Prognose- und Datenanalyseanwendungen, Bilderkennung, Sprachanalyse; Zielrichtung: Optimierung von Geschäftsergebnissen und Kundenbeziehungen sowie Identifizierung neuer Geschäftschancen; Integration von ChatGPT in Collaboration-Lösung Slack
SAP	Integrierte KI-Funktionen auf SAP Business Technology Platform; Embedded AI in diversen Produkten	Integration (Einbettung) von KI-Funktionen in vielen Software-Angeboten; Beispiele: SAP Analytics Cloud als SaaS-Software für Business Intelligence und Predictive Analytics, KI-Funktionen in S/4HANA, SAP Fieldglasse, SAP Concur
SAS	SAS Viya AI Platform	Cloud-Plattform für KI, Datenmanagement und Analytics; auch über Cloud-Plattformen von AWS, Microsoft und Google verfügbar; Funktionen u. a. Machine Learning und Deep Learning; Web-Interface für Erstellen und Verwalten von Modellen; interaktive Entwicklungsumgebung, die nach Self-Service-Prinzip arbeitet; Information- und Data-Governance-Funktionen
Tencent	Tencent Cloud TI Platform	Unternehmen aus China; Plattform mit Services für Entwickler von Machine-Learning-Lösungen; gesamter Lifecycle von Projekten abgedeckt, von  der Vorverarbeitung von Daten über da, Erstellen und Trainieren von Modellen bis zu deren Implementierung; AutoML-Funktion; Vielzahl von Algorithmen und Frameworks für Anwendungen wie Bild- und Objekt-Klassifizierung und Natural Language Processing; Daten-Labeling und -Management; interaktive Modellierung
Wipro	Wipro Holmes	Unternehmen aus Indien; KI- und Automatisierungsplattform; für Erstellen, Implementieren und Verwalten von KI- und ML-Anwendungen; Beispiel: Cloud-Bot für Interaktion mit Kunden oder Mitarbeitern; unter anderem Nutzung von KI-Services von AWS möglich; besondere Berücksichtigung von Aspekten wie Governance und „vertrauenswürdiger KI“