Machine Learning meets Data Center: Rechenzentrums-Strategien im Wandel

Zum Processing von Machine-Learning-Verfahren eignet sich laut Experten Standard-x86-Hardware nur begrenzt. Viele Machine-Learning-Algorithmen sind nicht nur besonders rechenintensiv, sondern laufen dann am effizientesten, wenn sie auf spezialisierter Hardware betrieben werden. Rechenzentren müssen sich darauf einstellen. [...]

Auch kann die Abstraktion von IT-Infrastruktur via Virtualisierung im Kontext von Machine Learning eher eine Barriere beziehungsweise ein Kostentreiber sein, auf den man gerne verzichtet. Folgende Trends zeichnen sich auf der Hardware- und Infrastrukturseite ab:

Machine Learning-as-a-Service: Nutzung von generalisierten Machine Learning-Diensten, wie zum Beispiel Bilderkennung, Sentimentanalyse etc., via API auf den großen Cloud-Plattformen.
Grafik-Chips: Der Einsatz von GPUs verspricht beim Processing von Machine Learning deutliche Performance- und Effizienz-Vorteile und wird von Unternehmen wie Nvidia derzeit mit neuen Enterprise-kompatiblen Produktlinien deutlich vorangetrieben.
Spezial-Hardware: Mittels Spezial-Hardware, wie sogenannter FGPA (Field Programmable Gate Array) oder auch ASIC (Application-Specific Integrated Circuit), lassen sich Performance und Effizienz beim Processing von Machine Learning-Verfahren weiter verbessern. So nutzt Microsoft auf der eigenen Azure Cloud sogenannte FPGAs. Google hat vor einiger Zeit unter dem Namen Tensor seine Spezial-Hardware zur Kalkulation von Machine Learning- und vor allem Deep Learning-Algorithmen gelaunched, auch wenn diese derzeit nur in den Google-Rechenzentren betrieben und noch nicht vertrieben werden.
Systems-on-the Chip (SoC): Hinzu kommt der Trend, dass immer mehr IoT-Geräte und vernetzte Produkte auf eine eigene Compute-Unit und Intelligenz, zum Beispiel in Form von Machine Learning-Algorithmen, zurückgreifen müssen. Mit „Systems-on-the-Chip“ beziehungsweise „Systems-on-the-programmable-Chip“ werden autonome bzw. teil-autonome Embedded Systems (vernetzte Autos, Kühlschränke, Smarte Funktionskleidung etc.) ermöglicht, die einen Großteil des sogenannten „Edge Computing“ bzw. „Fog Computing“ ausmachen.

Für Digitalisierungsentscheider, als auch CIOs- und RZ-Leiter, wird sich in den nächsten Jahren somit einiges ändern, da man nicht mehr ausschließlich auf die gut bewährten x86-Standard-Infrastrukturen zurückgreifen kann. Denn diese eignen sich für den skalierenden, großflächigen Einsatz von Machine Learning nur noch bedingt beziehungsweise sind aus Kosten- und Performance-Gründen vielfach ungeeignet. Nach 10-Jahren der IT-Infrastruktur-Konsolidierung wird es demnächst wieder etwas „bunter“ in den Rechenzentren der Unternehmen und ihrer Service- und Cloud-Provider. Vielfalt, Komplexität und Hardware-Expertise kennzeichnen die Landschaften der nächsten 5 bis 10 Jahre. In diesem Kontext stellen sich auch die großen Chip-Hersteller neu auf und investieren in eine von Machine Learning determinierte Zukunft:

Nvidia: So will Nvidia seine dominante Position im Markt für Machine Learning-Prozessoren stärken und den Umsatz seiner Produktlinien Nvidia Tesla P40, P4, Drive PX2 und Pascal P100 weiter steigern. Zur Hilfe kommt Nvidia ein attraktiver Software-Stack (CUDA, CuDNN) sowie der wahrscheinliche Launch der Volta GPU Prozessorserie zum Ende des Jahres. Die starken Quartalszahlen von Nvidia gehen eindeutig auf das positive Geschäft im Bereich Machine Learning zurück, da der Gaming-Markt sich in den letzten Jahren deutlich abgekühlt hat.
AMD: Auch AMD bereitet den Launch einer neuen GPU-Chip Serie namens Vega vor, die bis zu 25 TFLOPS mit 0,5-Precision liefern soll. Zudem wurde der Software Stack überarbeitet und unter dem Namen Radeon Open Compute Platform (ROCm) als Open Source frei verfügbar gemacht – eine interessante Alternative zu Nvidia’s CUDA and CuDNN.
Intel: Intel überarbeitet nicht nur seine Xeon-Prozessorserie mit IP aus der Nervana-Übernahme, die Machine Learning Acceleration-Funktionalität in die Standard-Chip-Serien injiziert. Zudem wird Intel eine neue Prozessor-Generation auf Basis der Nervana-Architektur unter gleichen Namen herausbringen (Nervana Engine – Codename „Lake Crest“). Damit entwickelt Intel seit langer Zeit erstmals wieder eine komplett neue Prozessor-Architektur, die nur auf einen speziellen Use Case ausgerichtet ist (ASIC). Zusammen mit der 15 Milliarden US-Dollar Übernahme von Mobileye in 2016 und dem FPGA-Hersteller Altera für 16,7 Milliarden US-Dollar in 2015 wird klar, dass auch Intel alles auf die Karte „Machine Learning“ setzt.
Qualcomm und Xilinx: Aber auch Qualcomm und Xilinx schlafen nicht und investieren in großem Stile in neue Technologien und Produktlinien. So versucht Xilinx die FPGA-Technologien „Mainstream-fähig“ zu machen und in die Corporate Data Center zu bringen. Wie schnell dies geht, wird sich noch zeigen. Fest steht, dass die Innovationsgeschwindigkeit und Vielfalt im Hardware-Markt wieder deutlich zunehmen.

Konzerne im Kaufrausch – Machine Learning-Startups im Focus
Um eigene Softwarelösungen intelligenter zu machen und die nächste Generation digitaler Dienste zu entwickeln, rüsten die IT-Konzerne auf und investieren seit Jahren verstärkt in Startups und Technologiefirmen im Bereiche Machine Learning und künstlicher Intelligenz. Aber auch Industrie- und Dienstleistungsunternehmen benötigen Skills und Technologien, um die digitale Transformation voranzutreiben. Nicht zuletzt sichern auch klassische Internet- und Cloud Provider ihr Business durch Zukäufe im Bereich Machine Learning ab, um ihre Dienste stärker zu personalisieren, ihre Operations zu automatisieren sowie neue Geschäftsfelder zu erschließen.

Die derzeitige Nachfrage nach Firmen, Technologien und Köpfen ist somit sehr hoch, was die Preise in einigen Segmenten und Deals stark steigen lässt und einen nachgelagerten Boom bei den Venture Capital-Investitionen mit sich bringt. So setzen viele Venture Capitalists bei den Machine Learning-Investments auf kurzfristige Exits. Trotz einer Vielzahl von Me-too-Investments und einer Reihe von „Acquihires“ zeichnet sich ab, dass derzeit einige der Markt- und Technologieführer der kommenden 20 Jahre geboren werden. Die Investment-Facts im Bereich Machine Learning:

Rund 200 Akquisitionen seit 2012
Davon allein 30 Akquisitionen in Q1-2017
Deal-Volumen in Q1-2017 bei rund 17 Mrd. USD (dominiert durch Akquisition von Mobileye durch Intel und Übernahme von Argo AI durch Ford)
Gründung und Finanzierung von über 3.000 Startups seit 2015

Um die Investment-Trends interpretieren und die Motive verstehen zu können, nimmt man am besten die Perspektive der Käufe und deren Situationen in den Blick. Software-Firmen „pimpen“ ihre Lösungen und Cloud-Dienste auf Egal ob CRM, ERP oder Marketing Automation Software – die intelligente Datenanalyse, personalisierte Empfehlungen und Vorschläge sowie die Automatisierung kompletter Workflows werden in den nächsten Jahren zum Differenzierungsfaktor im Markt für Enterprise Software.

Auch die Spracheingabe und Bilderkennung nehmen an Relevanz zu. Dies ist vielfach nur durch den Einsatz von Machine Learning und die Entwicklung intelligenter Algorithmen realisierbar, welche die Nutzungsdaten und Logs auf Muster hin analysieren und intelligente Abkürzungen für teils komplexen Prozessabläufe finden. Vor diesem Hintergrund investieren nahezu alle klassischen Software-Unternehmen derzeit in Machine Learning-Technologien und Startups, um ihr Portfolio fit für die Zukunft zu machen. Folgende aktuelle Beispiele lassen sich nennen:

Cisco: MindMeld
Salesforce: MetaMind, Prediction.io, MinHash, Tempo.AI
Microsoft: Maluuba, Wandlabs, TouchType, MileIQ, etc.

IT-Ausrüster und Netzbetreiber sichern sich Zugang zu Wachstumsmärkten
Darüber hinaus haben auch die IT-Ausrüster und Telcos den Markt für sich erkannt und sehen in Machine Learning-Workloads signifikante Wachstumstreiber für ihr Kerngeschäft. So erklären sich folgende Investitionen und Trends:

Intel kauft mit Mobileye Spezialist für autonomes Fahren für 15,3 Milliarden US-Dollar (800 Mitarbeiter, 300 Millionen Umsatz), um sich Zugang zu Wachstumsmarkt im Automotive- und Mobility-Sektor zu sichern. Denn die Steuerung von autonomen und Elektro-Autos benötigt ein Vielfaches an Rechenleistung und im Auto verbauten Prozessoren. So muss gerade beim autonomen Fahren die Mehrheit der Berechnung in Echtzeit im Auto beziehungsweise „on-the-Chip“ und nicht in der Cloud stattfinden. Zudem ist Intel mit über 80 Investitionen und rund 15 Akquisitionen im Bereich Machine Learning der aktivste Corporate Investor.
Mit jeweils rund 20 Investments zählen mit Telefonica und Verizon zwei globale Telcos und Netzbetreiber zu aktiven Corporate Investors.
Samsung und Qualcomm sind weitere Ausrüster und Gerätehersteller, die jeweils rund 20 Investments in Machine Learning getätigt haben, um somit Produktinnovationen und ihr IP-Portfolio zu stärken.

Internet-Firmen nutzen Machine Learning für mehr Personalisierung und Automatisierung
Treiber der Investitionswelle in den letzten Jahren waren die großen Internet- und Cloud-konzerne. Allen voran Google, Facebook, Microsoft und IBM. Diese investierten in den Jahren 2015 und 2016 mehr als 10 Milliarden US-Dollar in Forschung und Entwicklung im Bereich der künstlichen Intelligenz – aber auch in Akquisitionen für Startups und Technologiefirmen. Der Grund liegt auf der Hand. So bieten neue Verfahren im Bereich von Machine Learning, Deep Learning oder auch der kognitiven Systeme nicht nur die Basis für neue Services und Geschäftsmodelle, wie z.B. intelligente Assistenten á la Siri und Google Now oder auch Industrie-Lösungen im Gesundheitsbereich. Sondern vor allem einen direkten ROI, wenn sich mittels optimierter Verfahren und Algorithmen die Service-Performance sowie die User Experience der eigenen Internet- und Suchdienste optimieren und automatisieren lassen. Die optimierte Vermarktung von Werbeplätze oder die schnellere Berechnung relevanter Suchergebnisse liefern einen direkten Business Value für Google, Facebook oder Microsoft – und zwar in Milliardenhöhe.

Künstliche Intelligenz ist somit kein Hype- und Marketing-Trend für die Internetkonzerne, sondern eine der wesentlichen Stellschrauben für deren zukünftige Wettbewerbsstärke und Profitabilität. Dabei kommt Google, Facebook und Microsoft eines zu Gute – der Zugriff auf riesige Mengen an Kunden- und Log-Daten, die die Grundlage zur Modellbildung und Training der neuen Algorithmen und lernenden Systeme („Deep Learning“) sind. Ein Innovationsvorsprung, den nur wenige der anderen Akteure vorweisen können. Folgende ausgewählte Transaktionen aus dem Q1-2017 unterstreichen die These:

Google kauft mit Kaggle eine Community-Plattform für Machine Learning-Experimente und Crowd-Innovation.
Apple akquiriert mit RealFace und Lattice Data zwei Machine Learning-Startups zur Erkennung im Bereich der Bilderkennung und Datenstrukturierung.
Der Musik-Streaming-Anbieter Spotify sichert sich mit der Übernahme von Niland neue Technologien, um seine Musikempfehlungen und die Personalisierung zu optimieren.
Amazon kauft mit Harvest.AI eine auf Cybersecurity spezialisierte Machine Learning-Firma, um sich und seine Nutzer besser gegen Targeted Attacks zu schützen.

Industriekonzerne kaufen Köpfe und Technologie für ihre digitale Transformation
Um die Digitalisierung ihres Kerngeschäftes voranzutreiben sowie neue Geschäftsmodelle zu entwickeln, müssen auch Industriekonzerne in intelligente und automatisierte Analyseverfahren und Technologien investieren. Dies gilt vor allem im Kontext von IoT und Mobilität. So investieren vor allem die Automobilhersteller und ihre Zulieferer intensiv in Machine Learning. Aber auch Versicherungsunternehmen, die ihre Prozesse automatisieren und die Kundeninteraktion via intelligenter Assistenten abwickeln wollen, haben sich auf den Weg gemacht. Da die Konzerne vor allem auf der Personal- und Skill-Seite schwach aufgestellt sind (bis auf wenige Ausnahmen), werden hier nicht nur Technologien, sondern vor allem Köpfe und Skills gekauft, um sich gegen die neue Konkurrenz aus dem Lager der Internetkonzerne zu wappnen:

Ford: Akquise von Argo AI für 1 Milliarde US-Dollar – ein Startup im Kontext autonomes Fahren mit 200 Mitarbeitern
Volkswagen: Joint Venture mit Mobvoi für 180 Millionen US-Dollar zur Spracherkennung und Sprachsteuerung für Autos
General Motors: Akquise von Cruise für 600 Millionen US-Dollar

Herausforderungen und Ausblick
Folgende Herausforderungen und Trends zeichnen sich im Mergers-&-Acquisitions-Kontext (M&A) von Machine Learning ab:

Deal-Sourcing: Nur wer die Landschaft der Machine Learning-Firmen, deren Investoren und die Community gut kennt und beobachtet, ist in der Lage attraktive Targets zu identifizieren und frühzeitig Verhandlungen aufzunehmen. Ein aktives Market Screening und Deal Sourcing ist anzuraten, wenn man es mit dem Zukauf ernst meint.
Due Diligence: Die Bewertung von Machine Learning-Firmen im Rahmen einer Due Diligence fällt extrem schwer, da es meistens nur Technologie und Köpfe zu bewerten gibt und keine historischen Daten zu Produkten und Finanzkennzahlen vorliegen. Eine hohe Technologieexpertise auf Seiten der Käufer sollte gegeben sein, um keine Luftnummern zu erwerben, sondern echte Technologie-Assets ins Portfolio nehmen zu können.
Nach dem aktuellen Investment-Hype, in dem die Unternehmensbewertungen in den letzten 12 Monaten stark gestiegen sind, werden sich langfristig vor allem die Startups und Machine Learning-Firmen durchsetzen, die Gesamt- und Industrie-Lösungen komplette Plattformen anbieten. Me-too-Startups ohne eigene Assets, die nur Open Source-Technologien neu „anpinseln“ werden es langfristig schwer haben.
Die klassischen Software- und Cloud-Anbieter haben die Chance mittels Machine Learning ihre Produkte und Dienste evolutionär zu verbessern. Ein Großteil der Marketing-Kommunikation und Wettbewerbsstrategien werden sich in den kommenden 2-3 Jahren um das Thema Machine Learning und AI drehen. CIOs und IT-Anwender sind gut beraten, einen Blick hinter die Kulissen zu werfen und neue Features und Marketingaussagen genau zu prüfen.
Für die Industrie und viele andere Branchen hingegen hat Machine Learning und AI eher einen disruptiven Charakter – siehe autonomes Fahren. Hier muss massiv Kompetenz und Technologie aufgebaut und zugekauft werden, um nicht von Uber, Google, Tesla & Co abgehängt zu werden.
Im Goldrausch sind die Gewinner meist diejenigen die Schaufeln und Equipment anbieten. Die Ausrüster auf der Hardware- und Software-Seite, wie zum Beispiel der GPU-Spezialist Nvidia, werden sich in den kommenden 2-5 Jahren über satte Zuwächse und gute Finanzkennzahlen freuen dürfen.

* Carlo Velten ist CEO des IT-Research- und Beratungsunternehmens Crisp Research AG.