KI und ML: Cloud oder On-Premises?

Bei Cloud-Services für KI und Machine Learning müssen Kosten und Governance in Einklang gebracht werden. [...]

Fazit, Vergleich und Ausblick

Cloud-basierte KI- und Machine-Learning-Plattformen bieten vielen Unternehmen und Organisationen zweifellos einen einfacheren Einstieg in KI und Maschinelles Lernen als ein On-Premises-Ansatz.

Für Taylor McCaslin von GitLab teilen sich die Unternehmen allerdings in zwei Gruppen: „Für schnelllebige, risikotolerante Unternehmen ist die Cloud eine gute Wahl, weil die meisten KI-Innovationen auf SaaS-Cloud-Plattformen stattfinden. Unternehmen in stark regulierten Branchen werden jedoch die Anforderungen an Datenschutz und Sicherheit mithilfe selbstverwalteter On-Premises-Instanzen erfüllen, obwohl das wegen der Komplexität von KI- und ML-Technologien in solchen Umgebungen anspruchsvoller ist.“

Speziell für Unternehmen in der EU werden die Aspekte Datenschutz und Compliance im Zusammenhang mit künstlicher Intelligenz zunehmend an Bedeutung gewinnen. Denn die Europäische Union wird voraussichtlich noch im Jahr 2023 mit dem EU AI Act ein Regelwerk für den Einsatz von KI vorlegen.

Der Act dürfte auch die Nutzung von Cloud-Ressourcen tangieren – hoffentlich nicht in der Art, dass Daten künftig nur noch On-Premises mit KI-Anwendungen verarbeitet werden dürfen. Denn das würde die Wettbewerbsfähigkeit vieler Unternehmen spürbar einschränken.

Für schnelllebige, risikotolerante Unter­nehmen ist die Cloud eine gute Wahl.

Taylor McCaslin – Group Manager – Product Data Science AI/ML bei GitLab

Eine wichtigere Rolle wird voraussichtlich darüber hinaus der Punkt Vertrauenswürdigkeit von künstlicher Intelligenz spielen, so Stephan Schnieber, Sales Lead IBM Cloud Pak for Data in der DACH-Region. «Es muss beispielsweise laufend geprüft werden, ob die Daten, mit denen ein Modell trainiert wurde, noch Gültigkeit besitzen oder es revalidiert werden muss, damit es weiterhin vertrauenswürdig ist», erläutert der Experte.

Es sind nicht allein technische Faktoren, die über den Erfolg und die Akzeptanz von KI und Machine Learning entscheiden. Vielmehr muss das gesamte Paket stimmig sein, inklusive der Vertrauenswürdigkeit von KI und einer offenen Diskussion darüber, welche Folgen der Einsatz dieser Technologie für die Wirtschaft und Gesellschaft haben wird.

Künstliche Intelligenz simpel als universalen Heilsbringer zu propagieren, wie das viele Anbieter entsprechender Lösungen tun, ist auf jeden Fall kein tragfähiger Ansatz.

Vergleich: KI-Anwendungen aus der Cloud oder im eigenen Datacenter
KriterienCloudOn-Premises
Zugang zu KI- und ML-Modellen, Frameworks und Entwicklungs-ToolsBei führenden Cloud-Serviceprovidern stets Zugang zu aktuellen KI- und ML-Modellen und Entwicklungstools; Hyperscaler wie AWS, Google, Microsoft und Anbieter wie IBM sind führend in der Entwicklung von KI- und ML-LösungenAnwender müssen Modelle, Frameworks etc. selbst auswählen und implementieren; allerdings ist große Auswahl an Open-Source-Tools vorhanden; zudem keine Bindung an Angebote von Cloud-Providern
Know-how – KI-SpezialistenDie KI-Expertise von Cloud-Providern und Partnerunternehmen steht – teilweise – auch den Nutzern entsprechender Services zur Verfügung; Anwender können zudem auf Beratungs- und Schulungsservices solcher Unternehmen zurückgreifenDas Fachwissen bei KI und Machine Learning muss im eigenen Unternehmen aufgebaut werden; dies ist vor allem für kleine und mittelständische Unternehmen wegen des Mangels an KI-Experten und Data Scientists ein Problem
Skalierbarkeit von Infrastruktur und AnwendungenFlexible Optionen, um Infrastruktur (Compute, Storage) und ergänzende Anwendungen (Datenbanken, Analytics, ETL-/ETL-Pipelines etc.) entsprechend aktuellem Bedarf zu nutzen; Betrieb übernimmt Cloud-ProviderIT-Infrastruktur für KI / ML muss selbst eingerichtet und betrieben werden; dadurch entsprechende Kosten, eventuell auch wegen Over-Provisioning von Ressourcen, um Lastspitzen abzufangen; allerdings hat Anwender volle Kontrolle über die Infrastruktur und kann diese an spezielle Anforderungen anpassen
Egress-/Ingress-KostenBei großen Datenvolumina (KI-/ML-Training) und Modellen können die Kosten deutlich anwachsen, insbesondere nach Preiserhöhungen bedingt durch Energiekosten und InflationGeringere Kosten, weil Datentransfers im eigenen Datacenter erfolgen; jedoch ebenfalls Kostensteigerungen durch Energie, CO₂-Abgaben etc.
Performance – NetzwerkanbindungHohe, skalierbare Performance, etwa durch Buchen von weiteren GPU-Instanzen; allerdings sind Netzwerkverbindungen mit geringer Latenzzeit zwischen Cloud- und Unternehmensrechenzentren erforderlich; dies kann in einigen Regionen (noch) ein Problem darstellen;Geringe Latenzzeiten und hohe Performance; Voraussetzung ist jedoch eine IT-Infrastruktur, die regelmäßig modernisierte und gut gewartet wird; 
Datenschutz – ComplianceDaten und KI-Modelle werden in Rechenzentren der Cloud-Serviceprovider gespeichert; Anbieter wie die Hyperscaler, IBM etc. unterhalten allerdings Datacenter im EU-Raum und geben an, die Vorgaben der EU-DSGVO einzuhalten und die Daten-Souveränität der Nutzer zu respektierenNutzer haben die volle Kontrolle über Daten und KI-Anwendungen; die kann in Branchen mit besonderen hohen Anforderungen an die Compliance und Daten-Souveränität somit die bessere Alternative sein; Option: Einrichtung einer Hybrid-Cloud, die Zugang zu KI-Lösungen in der Public Cloud erlaubt, aber gleichzeitig Kontrolle über sensible Daten ermöglicht
SicherheitDie IT-Sicherheitsvorkehrungen von Cloud-Rechenzentren sind in der Regel besser als die vieler Unternehmens-DatacenterDie Sicherheit der IT-Infrastruktur und der Daten liegt in der Verantwortung des Anwenders; allerdings ist zu beachten, dass Cloud-Provider auch die Sicherung von Daten (Backup, Disaster-Recovery) in der Regel dem Anwender übertragen

*Bernd Reder ist seit rund 30 Jahren als Fachjournalist im Bereich Informationstechnik tätig. Zu seinen Schwerpunkten zählen die Bereiche Netzwerktechnik, Cloud Computing und IT-Sicherheit. Außerdem beschäftigt er sich mit interessanten neue Technologien, beispielsweise der künstlichen Intelligenz und Quantencomputern. Reder ist seit rund zehn Jahren als freier Journalist tätig. Zuvor war er für Fachmagazine wie Elektronik, NetworkWorld, Digital World und Network Computing tätig. Um sich für das Schreiben fit zu halten, geht Reder regelmäßig auf die Piste – zu Fuß beim Joggen und mit dem Mountainbike.


Mehr Artikel

Die Teilnehmer des Roundtables (v.l.n.r.): Roswitha Bachbauer (CANCOM Austria), Thomas Boll (Boll Engineering AG), Manfred Weiss (ITWelt.at) und Udo Schneider (Trend Micro). (c) timeline/Rudi Handl
News

Security in der NIS2-Ära

NIS2 ist mehr ein organisatorisches Thema als ein technisches. Und: Von der Richtlinie sind via Lieferketten wesentlich mehr Unternehmen betroffen als ursprünglich geplant, womit das Sicherheitsniveau auf breiter Basis gehoben wird. Beim ITWelt.at Roundtable diskutierten drei IT-Experten und -Expertinnen über die Herausforderungen und Chancen von NIS2. […]

Christoph Mutz, Senior Product Marketing Manager, AME, Western Digital (c) AME Western Digital
Interview

Speicherlösungen für Autos von morgen

Autos sind fahrende Computer. Sie werden immer intelligenter und generieren dabei jede Menge Daten. Damit gewinnen auch hochwertige Speicherlösungen im Fahrzeug an Bedeutung. Christoph Mutz von Western Digital verrät im Interview, welche Speicherherausforderungen auf Autohersteller und -zulieferer zukommen. […]

Andreas Schoder ist Leiter Cloud & Managend Services bei next layer, Alexandros Osyos ist Senior Produkt Manager bei next layer. (c) next layer
Interview

Fokus auf österreichische Kunden

Der österreichische Backup-Experte next layer bietet umfassendes Cloud-Backup in seinen Wiener Rechenzentren. Im Interview mit ITWelt.at erläutern Andreas Schoder, Leiter Cloud & Managed Services, und Alexandros Osyos, Senior Produkt Manager, worauf Unternehmen beim Backup achten müssen und welche Produkte und Dienstleistungen next layer bietet. […]

Miro Mitrovic ist Area Vice President für die DACH-Region bei Proofpoint.(c) Proofpoint
Kommentar

Die Achillesferse der Cybersicherheit

Eine immer größere Abhängigkeit von Cloud-Technologien, eine massenhaft mobil arbeitende Belegschaft und große Mengen von Cyberangreifern mit KI-Technologien haben im abgelaufenen Jahr einen wahrhaften Sturm aufziehen lassen, dem sich CISOS ausgesetzt sehen. Eine große Schwachstelle ist dabei der Mensch, meint Miro Mitrovic, Area Vice President DACH bei Proofpoint. […]

Alexander Graf ist Geschäftsführer der Antares-NetlogiX Netzwerkberatung GmbH. (c) Antares-NetlogiX Netzwerkberatung GmbH
Interview

Absicherung kritischer Infrastrukturen

NIS2 steht vor der Tür – höchste Zeit, entsprechende Maßnahmen auch im Bereich der Operational Technology (OT) zu ergreifen. »Wenn man OT SIEM richtig nutzt, sichert es kritische Infrastrukturen verlässlich ab«, sagt Alexander Graf, Experte für OT-Security (COSP) und Geschäftsführer der Antares-NetlogiX Netzwerkberatung GmbH, im ITWelt.at-Interview. […]

Brian Wrozek, Principal Analyst bei Forrester (c) Forrester
Interview

Cybersicherheit in der Ära von KI und Cloud

Die Bedrohungslandschaft im Bereich der Cybersicherheit hat sich zu einer unbeständigen Mischung von Bedrohungen entwickelt, die durch zunehmende Unsicherheit und steigende Komplexität bedingt ist. Zu diesem Schluss kommt der Report »Top Cyber-security Threats In 2024« von Forrester. ITWelt.at hat dazu mit Studienautor Brian Wrozek ein Interview geführt. […]

In Österreich gibt es die freie Wahl des Endgeräts. Oder doch nicht? (c) Pexels
News

RTR erklärt Wahlfreiheit zum Nischenthema

Bei der Frage, ob Endkunden oder die Provider darüber entscheiden sollten, welches Endgerät sie an ihrem Breitbandanschluss nutzen können, stellt sich die RTR klar auf eine Seite. Laut RTR existiert bereits Wahlfreiheit. Dennoch will die Regulierungsbehörde aktiv werden, wenn sich noch mehr Kunden über das Fehlen der Wahlfreiheit bei ihr beschweren. Logik geht anders. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*