Edge-KI – Intelligenz für Maschinen

Mit Künstlicher Intelligenz am Edge lassen sich neue Anwendungsfelder erschließen. com! professional zeigt, wie das möglich ist. [...]

Die Zeiten, in denen KI- und Machine-Learning-Funktionen nur über Unternehmens- oder Cloud-Rechenzentren verfügbar waren, sind vorbei. Heute kommen entsprechende Algorithmen dort zum Einsatz, wo die Daten anfallen: am Rand von Unternehmensnetzwerken, also am Edge.

„Wir sehen eine stetige Zunahme von Anwendungen, die standardmäßig Modelle des maschinellen Lernens auf Edge-Devices ausführen“, berichtet Christian Borst, Chief Technology Officer EMEA von Vectra AI. Dazu tragen Baukästen bei: „Toolkits wie Google Coral, das mit einer integrierten Tensor Processing Unit ausgestattet ist, setzen sich dank Fortschritten bei der Prozessorleistung und den Quantisierungstechnologien allmählich durch.“ Mit solchen Kits können Nutzer Maschinen, Steuerungen und Kameras in der Qualitätskontrolle um KI-Funktionen erweitern. Gleiches gilt für Systeme, die in der Medizintechnik oder in der Heimautomation eingesetzt werden.

Edge-KI wird vor allem durch die wachsende Verbreitung von IoT-Komponenten wie Sensoren und Aktoren wichtiger. Nach Einschätzung des deutschen Marktforschungs- und Beratungsunternehmen IoT Analytics in Hamburg kommen in den nächsten Jahren verstärkt IoT-Sensoren mit integrierten KI- und Machine-Learning-Funktionen auf den Markt.

Solche Sensoren werden dadurch selbst zu Edge-Devices. Als Beispiel nennt IoT Analytics Komponenten der Ring-Produktfamilie von Amazon für die Heimautomation. So stehen Ring-Systeme mit Sensoren zur Verfügung, die dank KI-Algorithmen und einer integrierten neuronalen CPU erkennen, ob das Glas eines Fensters oder einer Tür zu Bruch geht, etwa bei einem Einbruchsversuch oder durch einen Orkan.

Vorteile von Edge gegenüber Cloud

Dass Edge-Computing und damit Edge-KI an Bedeutung gewinnen, hat den Grund, dass Cloud-Services nicht für alle Einsatzszenarien ideal sind. „Cloud-Computing im ,Kern‘ des Internets findet an einem oder mehreren festen Standorten statt.

Es eignet sich vor allem für die Verarbeitung von Daten im Ruhezustand, also Informationen, die in Repositories wie Datenbanken, Data Warehouses und Data Lakes gespeichert sind“, erläutert Robert Blumofe, Excecutive Vice President und Chief Technology Officer von Akamai. „Wenn es dagegen darum geht, in Echtzeit, online und mit geringer Latenz auf die Aktivitäten von Endnutzern und Geräten zu reagieren, ist Edge-Computing das bessere Modell. Es ermöglicht die Datenverarbeitung direkt vor Ort, in der Nähe der Nutzer und Systeme.“

Das gilt auch für die Analyse von Daten mithilfe von KI- und Machine-Learning-Algorithmen. „Denn die Verarbeitung großer Datenmengen durch IoT-Systeme muss häufig in Echtzeit erfolgen und benötigt daher Latenzzeiten von nahe null“, betont Salim Khodri, EMEA Edge Go-to-Market Specialist bei Red Hat.

Die Verzögerungszeit bei der Übermittlung von Daten in eine Cloud und zurück zu einem Sensor oder einer Kamera beträgt aber etwa 100 Millisekunden. „Häufig ist das kein Problem, aber in manchen Fällen ist selbst diese Zeitspanne zu lang, weil die Antworten in Echtzeit benötigt werden“, so Khodri weiter.

„Wenn es darum geht, in Echtzeit, online und mit geringer Latenz auf Endnutzer und Geräte zu reagieren, ist Edge-Computing das bessere Modell als Cloud-Computing. Es ermöglicht die Datenverarbeitung direkt vor Ort, in der Nähe der Nutzer und Systeme.“

Robert Blumofe – Executive Vice President und Chief Technology Officer von Akamai

„Edge-KI muss das Vertrauen in sie rechtfertigen“

Der Bedarf an KI-Lösungen, die am Rand von IT-Infrastrukturen eingesetzt werden, nimmt stark zu. Doch je autonomer solche KI-In­stan­zen agieren, desto größer sind die Vorbehalte der Anwender, so Stefanie Grois, Lead Architect Industry Solutions bei Microsoft. Erforderlich sei daher eine „Responsible Edge AI“.

com! professional: Frau Grois, Microsoft hat mit „Intelligent Edge“ eine spezielle Bezeichnung für intelligente Edge-Infra­strukturen eingeführt. Was ist eine intelligente Edge-Umgebung?

Stefanie Grois: Der Begriff bezeichnet eine Edge-Umgebung, die autark und „intelligent“ agieren kann und deshalb keine dauernde Verbindung in die Cloud benötigt. Tools am Edge können eigenständig Daten sammeln, konsolidieren und verarbeiten. Dafür können auch KI-Modelle ein­gesetzt werden, die die Analyse und Auswertung der Daten unter­stützen.

com! professional: In welchen Bereichen werden Edge-KI-Anwendungen zum Einsatz kommen, etwa in der Fertigung, Logistik oder Fahrzeugen?

Grois: Vor allem nach der Corona-Pandemie sehen wir einen erhöhten Bedarf für Edge Intelligence in den Bereichen Fertigung und Logistik, aber auch im Einzelhandel. Kunden fragen zum Beispiel, wie sie über den Einsatz von KI in schwer zugänglichen Umgebungen Prozesse automatisieren können.

Andere Anwender aus dem Bereich Logistik möchten die Auslastung ihrer Lager schneller überblicken, um automatisch eine Inventarisierung vornehmen zu können. Und im Einzelhandel sehen wir einen wachsenden Bedarf an automatischer Erkennung leerer Regale und automatisierten Check-out-Systemen.

com! professional: Welche Hauptvorteile bringt die Verlagerung von KI- und Machine-Learning-Funktionen in den Edge-Bereich?

Grois: KI in Verbindung mit Edge-Computing setzt voraus, dass Daten lokal gesammelt und analysiert werden, um Aktionen direkt lokal ausführen zu können. Diese minimale Latenz verkürzt die Zeit zwischen Aktion und Reaktion enorm, zumal in vielen Gegenden der Umweg zum Beispiel über Cloud-Rechenzentren physisch gar nicht oder aufgrund fehlender Bandbreite nur sehr eingeschränkt möglich wäre.

KI am Edge kann dieses Problem lösen, weil die Modelle vor Ort arbeiten, etwa im Rahmen der Qualitätskontrolle von Bauteilen. KI kann lokal viele Teile pro Minute analysieren, wohingegen eine Übertragung in die Cloud viel zu lange dauern würde oder in verminderter Qualität erfolgen müsste.

com! professional: Welche Herausforderungen müssen Anbieter und Anwender von Edge-KI-Lösungen bewältigen, damit die­ser Ansatz den bestmöglichen Nutzen bringt?

Grois: Sie müssen die neue Infrastruktur in bestehende, isolierte Systeme integrieren, die oft einer starken Segmentierung nach dem ISA-95-Modell (Standard für die Integration von Geschäftsanwendungen wie ERP und Betriebsleitsystemen, Anm. der Redaktion) unterliegen.

So ist ein einfacher Zugriff nicht immer möglich. Zudem sind oft starke Sicherheitsrichtlinien im Einsatz. Diese sind beispielsweise nicht in jedem Fall dafür ausgelegt, Edge-Systeme wie Kameras in das Netzwerk zu integrieren.

com! professional: Sind Edge-Systeme und Edge-KI-Lösungen überhaupt in der Lage, die vielen Daten zu verarbeiten?

Grois: Die großen Datenmengen, die verarbeitet werden, stellen in der Tat eine weitere Herausforderung dar. Dafür müssen am Edge Kapazitäten und Schutzmechanismen vorhanden sein. Und wenn die Daten doch in die Cloud gehen sollen, um sie dort beispielsweise in einem Blob Storage zu sammeln, taucht wieder die Herausforderung der Bandbreiten auf.

Jede Edge-KI-Lösung muss außerdem gepflegt und mit neuen Daten aktualisiert werden. Dafür müssen zum Beispiel Telemetrie- und Videodaten in die Cloud geschickt werden, da nur dort die für das Training nötige Rechenkraft verfügbar ist.

Die Pflege und Aktualisierung übernimmt im Normalfall der Lösungsanbieter, weil Anwenderunternehmen dafür meist nicht die nötige Expertise haben.

com! professional: Etliche Fachleute betrachten KI, Machine Learning und Edge-KI mit Skepsis, etwa aus Furcht vor einem Kon­trollverlust. Wie sieht Microsoft dies?

Grois: Die beliebtesten Einsatzbeispiele von Edge-KI reichen von der Anomalie-Erkennung für effizientere vorausschauende Wartungsarbeiten über das selbstständige Ausführen von Aktionen bis zur direkten Interaktion mit Umgebungen.

Als Faustregel gilt: Je autonomer KI komplexe Entscheidungen trifft, desto größer sind die Vorbehalte der Unternehmen. Wir müssen deshalb sicherstellen, dass jede KI hohen Standards genügt und das Vertrauen in sie rechtfertigt. Über unseren ‚Responsible AI‘-Ansatz begegnen wir solchen Vorbehalten.

com! professional: Das heißt, am Einsatz von KI und Edge-KI führt letztlich kein Weg vorbei?

Grois: Ja. Edge-KI wird bei der Analyse großer Datenmengen in komplexen Umgebungen eine wichtige Rolle spielen, weil menschliche Fähigkeiten hier bei der Verarbeitungsgeschwindigkeit und -genauigkeit nicht mithalten können. Bis eine Edge-KI selbstständig und dynamisch komplexere Entscheidungen trifft, wird es aber noch dauern.