Ein Blick in die neusten Nachrichten sagt viel über die Vertrauenswürdigkeit von Facebook aus. Sollte das Unternehmen also mit seinem neuen virtuellen Assistenten wirklich Zugriff auf alle Lebensbereiche erhalten? [...]
Facebook arbeitet aktuell an seinem mittlerweile dritten virtuellen Assistenten.
Dass Facebook eine sprachbasierte, KI-Schnittstelle verfolgt, ist kaum überraschend. Eine Liste der acht größten Unternehmen der Welt – gewichtet nach Marktkapitalisierung – würde heute die vollständige Aufzählung aller sieben Hauptakteure auf dem Markt für virtuelle Assistenten beinhalten: Microsoft, Apple, Amazon, Alphabet (Google), Facebook, Alibaba und Tencent. Der Ausreißer in der Liste ist Berkshire Hathaway.
Um zu den größten Tech-Unternehmen zu zählen, braucht man heute offensichtlich ein KI-Assistenten-Interface. Und es lässt sich leicht vorhersagen, dass auch in Zukunft der sprachbasierte virtuelle Mensch mit großer wahrscheinlich die bevorzugte Mainstream-Benutzeroberfläche für fast alle Computer werden wird.
Facebook besitzt eines der beeindruckendsten KI-Forschungslabors der Welt. Das Unternehmen gibt mittlerweile fast 8 Milliarden US-Dollar jährlich für Forschung und Entwicklung aus.
Dass Facebook also einen leistungsfähigen virtuellen KI-Assistenten haben wird, ist also keine große Überraschung. Daran wurde bereits jetzt sehr lange gearbeitet. So wird dieser Assistent seinen Weg unweigerlich auch in Ihr Unternehmen, hinter Ihre Firewall und in die Wohnungen Ihrer Mitarbeiter finden.
Aber sollte er das wirklich?
Das M-Experiment
Vor etwas mehr als einem Jahr gab Facebook die Stilllegung eines experimentellen Produkts mit dem Namen „Facebook M“ bekannt, das bis dahin auf der Messenger-Plattform des Unternehmens rund 2.000 Kaliforniern für zweieinhalb Jahre zur Verfügung gestellt wurde.
Facebook M war ein virtueller KI-Assistent mit einem Team von Menschen in der Hinterhand, das diejenigen Fragen beantwortete und diejenigen Maßnahmen erfüllte, mit denen die KI selbst noch nicht fertig werden konnte.
Eine der Fähigkeiten von M bestand darin, Chat-Unterhaltungen zu belauschen und darauf basierend Vorschläge zu machen; beispielweise Filme zu empfehlen oder Personen anzuzeigen, die per Video-Chat oder Anruffunktion aktuell erreichbar sind.
M wurde dazu entworfen, Sie an Meetings zu erinnern – Sie könnten diese Erinnerungen jederzeit anfordern. Außerdem wäre es in der Lage, Meetings mit Zeit und Ort für Sie zu erstellen und sogar ein Uber oder Lyft für Sie zu buchen, um an Ort zu gelangen, an dem es stattfindet.
Würde jemand im Chat danach fragen, wo Sie sich gerade befinden, würde M Ihnen daraufhin eine Schaltfläche „Standort senden“ präsentieren.
Die M-Idee basierte auf der ständigen Überwachung aller auf Messenger ausgetauschten Wörter. Nachdem M jedoch stillgelegt wurde, wechselten die Bemühungen des KI-Assistenten von Facebook vom Erfassen jedes getippten Worts hin zum Abhören jedes gesprochenen Worts.
Kommentatoren werden von Facebook limitierten Ambitionen sichtlich in die Irre geführt. Das Risiko besteht nicht etwa darin, dass Facebook allgemein hilfreich sein könnte. Das Risiko besteht in der Anwesenheit eines von Facebook gesteuerten Mikrofons im Raum.
Facebook verkauft derzeit ein intelligentes Display namens Facebook Portal, das zwei virtuelle Assistenten verwendet. Einer ist der Alexa-Assistent von Amazon. Der andere ist das zweite Virtual Assistent-Produkt von Facebook, das ebenfalls als Portal bezeichnet wird und auf dem Hardware-Portal für Anrufe und andere kleine Aufgaben verwendet werden kann.
Diese Woche wurde bekannt, dass Facebook mittlerweile an einem dritten virtuellen Assistenten arbeitet.
Statt einen allgegenwärtigen, plattformübergreifenden Allzweck-Agenten wie Amazons Alexa oder Googles Assistant zu erstellen, könnte Facebook stattdessen darauf abzielen, einen Assistenten entwickeln, der auf Facebooks hauseigener Hardware läuft, einschließlich Portal und seiner Oculus VR-Plattform sowie auf zukünftigen, nicht näher spezifizierten Hardware-Plattformen, darunter wahrscheinlich auch intelligente Lautsprecher und intelligente Displays für Unternehmen und Enterprises.
Kann man Facebook vertrauen?
Es scheint, als gäbe es jeden Monat einen neuen großen Facebook-Skandal, der das Vertrauen der Öffentlichkeit in das Unternehmen weiterhin untergräbt. Und der Skandal dieses Monats ist erstrecht eingeschlagen: Facebook wurde dabei erwischt, wie es von neuen Benutzern, die sich gerade erst bei Facebook anmeldeten, E-Mail-Passwörter anforderte und dann die mit diesen E-Mail-Konten verknüpften E-Mail-Kontakte einfach ohne Benutzererlaubnis kopierte und übertrug.
Facebook behauptet dagegen, die Adressbücher dieser Nutzer „unbeabsichtigt hochgeladen“ zu haben. Weiterhin lautet die Aussage, dass man die Passwörter nicht behalten und die betreffenden Daten mittlerweile gelöscht habe. Ob das Unternehmen die Informationen über die sozialen Verbindungen dieser Nutzer aufbewahrt hat – was offensichtlich der Zweck des Ganzen gewesen ist, also die Kontaktinformationen besagter Nutzer zu stehlen –, darüber wurde bislang geschwiegen.
Facebook versuchte bis zuletzt, die Auswirkungen des Skandals zu minimieren, indem es der Öffentlichkeit kommunizierte, die Zahl der Opfer sei relativ gering – nur etwa 1,5 Millionen Menschen. Die gestohlenen Daten betreffen jedoch nicht nur die genannten 1,5 Millionen Nutzer; in Wahrheit sind weitaus mehr Menschen betroffen, allen voran die persönlichen und sozialen Kontakte der ursprünglichen Nutzer. Und wenn der durchschnittliche Benutzer über etwas mehr als 100 Kontakte verfügt (und diese 1,5 Millionen Benutzer keine Kontakte haben, die sich überschneiden), wäre die Anzahl der tatsächlichen Opfer damit auf etwa 150 Millionen zu schätzen.
Facebook gab jedoch nicht bekannt, wie viele Menschen nun tatsächlich betroffen waren.
Facebooks Absichten sind unbekannt. Unabhängig davon, ob Facebooks Handlungen als böswillig oder einfach nur inkompetent zu interpretieren sind, bleibt uns die Schlussfolgerung erhalten, dass Facebook alles andere als vertrauenswürdig ist.
Die Electronic Frontier Foundation (EFF) entschied sich im Rahmen eines Artikels zum Thema für die wohl dunkelste Interpretation der Geschehnisse und erklärte, Facebook verhalte sich wie eine kriminelle Hackingorganisation. „In jeder Hinsicht ist dies ein Phishing-Angriff“, so die EFF in ihrer offiziellen Antwort auf das Ereignis.
Doch selbst die großzügigste Interpretation der Geschichte wäre immer noch, dass Facebook minimale Standardpraktiken zum Schutz von Daten durch das Abfragen von E-Mail-Passwörtern rücksichtslos ignoriert.
Wie die EFF in ihrer Erklärung zu diesem Thema betonte, sind E-Mail-Passwörter häufig das Ziel von Phishing-Angriffen, da der E-Mail-Account der Schlüssel zu allem ist, was eine Person online macht, und so gut wie jeder, den diese Person kennt, darin enthalten ist. Das ist der Grund, warum selbst die am wenigsten verantwortungsbewussten Unternehmen ihre Benutzer niemals nach ihren E-Mail-Passwörtern fragen würde.
Und es kommt noch schlimmer.
Eines von Facebooks Argumenten zur eigenen Verteidigung lautete, dass die Benutzer damals sehr wohl hätten wählen können, ob sie ihr E-Mail-Passwort wirklich freigeben wollten oder ob sie stattdessen lieber ihre E-Mail-Adresse oder ihre Telefonnummer zur Überprüfung verwenden wollten. Auf diese möglichen Optionen konnten sie jedoch nur dann zugreifen, wenn sie vorher während des Anmeldevorgangs auf die Schaltfläche „Brauchen Sie Hilfe?“ geklickt hatten. Damit handelt es sich um ein klares Beispiel für ein Dark Pattern Design.
Die Telefonoption ist übrigens auch sehr fragwürdig. Facebook wurde letztes Jahr mit Telefonnummern erwischt, die angeblich zu Überprüfungszwecken für die Werbung ohne Benutzererlaubnis gesammelt wurden.
Ein häufiges Thema, das bei jedem neuen Facebook-Skandal zur Sprache kommt, ist also der rücksichtslose Umgang mit personenbezogenen Daten, die der Internetriese beinahe unverhohlen an den Tag legt.
Erst im letzten Monat hat Facebook bekannt gegeben, dass es Passwörter von mehreren hundert Millionen Facebook-Nutzern und zehntausenden Instagram-Nutzern in leicht lesbarem Format auf ihren Facebook-Servern hinterlegt hat, auf die wiederum Tausende von Facebook-Mitarbeitern bereits seit Jahren zugreifen können. Diese Woche hat Facebook seinen Beitrag über diese Enthüllung still und heimlich geändert, nur um zu korrigieren, dass die Anzahl der betroffenen Instagram-Nutzer in Wahrheit mehrere Millionen und nicht etwa Tausende beträgt. Wie viele Millionen genau, darüber gibt Facebook jedoch keine Auskunft.
Ein anderer Bericht zeigte außerdem, dass zwei Drittanbieter-Entwickler für Facebook-Apps eine „große“ Sammlung von Facebook-Benutzerdaten auf öffentlich zugänglichen Amazon Cloud-Servern gespeichert hatten. Diese Daten enthielten unter anderem Kennwörter und Aktivitäten von Facebook-Nutzern.
Ist Facebook unehrlich?
Ein kürzlich veröffentlichter Bericht ergab, dass Facebook-Chef Mark Zuckerberg von Facebook-Nutzern gesammelte Daten dazu verwendete, Freunde zu belohnen und Feinde zu bestrafen, und dass er und andere Führungskräfte über Jahre lang Pläne besprochen hätten, weitere Benutzerdaten zu verkaufen. Derselbe Bericht zeigt deutlich, dass sich die öffentlichen Aussagen von Facebook zum Datenschutz ihrer Nutzer von den Maßnahmen unterscheiden, die hinter verschlossenen Türen getroffen werden.
Wir haben diesen Monat auch erfahren, dass Facebook Sie auch nach Deaktivierung Ihres Facebook-Kontos noch weiterhin verfolgt. Diese Vorgehensweise wird in den Datenrichtlinien allerdings nicht erwähnt.
Aus früheren Berichten wissen wir, dass Facebook auch jene Informationen verwaltet, die ihre Nutzer niemals aktiv zur Verfügung gestellt haben (Schattenprofile), und Personen aufgespürt hat, die sich von Facebook längst abgemeldet haben. So verfolgt es auch Personen, die noch nie ein Konto erstellt haben.
Allein schon alle bekannten Facebook-Datenschutzverletzungen des letzten Jahres aufzuzählen, die eine Art der Kultur der Unehrlichkeit vermuten ließen, würde den Rahmen dieser Rubrik sprengen.
Warum virtuelle Assistenten Vertrauen vorraussetzen
Es ist wichtig, dass man sich darüber bewusst wird, welche Rolle Vertrauen in einer Welt spielt, in der virtuelle Assistenten immer mehr in den Alltag eingebunden werden – sei es nun auf intelligenten Lautsprechern oder intelligenten Displays.
Es ist zwar wahr, dass Smartphones ebenfalls über Mikrofone verfügen, die Nutzung dieser Mikrofone wird jedoch durch die Anbieter mobiler Betriebssysteme bereits sehr stark eingeschränkt, und jede unautorisierte Verwendung derselben wird wahrscheinlich schnell entdeckt und gestoppt; entweder von den internen Teams des jeweiligen Unternehmens oder von Sicherheitsforschern, die sich dafür einsetzen, solchen Missbrauch aufzudecken.
Intelligente Geräte, die direkt von Amazon, Google und Facebook verkauft werden, sind dagegen „Black Boxes“ und haben keine zwischengeschaltete Organisation, die den Missbrauch des Mikrofon-Sensors stoppt.
Es ist fast unmöglich zu wissen, wann und unter welchen Umständen das in einem solchen Gerät installierte Mikrofon aktiviert ist, was mit den Aufnahmen passiert und wie diese Daten letztendlich verarbeitet oder verwendet werden.
Und wir sprechen nicht über die Technologie von heute, sondern über die von morgen. In den nächsten 10 Jahren wird es Unternehmen wie Facebook möglich sein, jeden Tag den ganzen Tag Audioaufnahmen über Millionen von Mikrofonen machen und diese Daten in aussagekräftigen, datenschutzverletzenden Informationsdatenbanken zu ihrem eigenen Nutzen weiterzuverarbeiten.
Die Revolution der Benutzeroberfläche von virtuellen KI-Assistenten steht vor der Tür. Und überall werden gleichermaßen Mikrofone eingesetzt.
Deshalb müssen wir alle die Teilnahme von Facebook an dieser Revolution ablehnen – insbesondere nach den wiederholten Verstößen gegen die Privatsphäre ihrer Nutzer, die im besten Fall als inkompetent und im schlimmsten Fall als bösartig oder sogar kriminell einzustufen sind.
Facebook ist einfach nicht vertrauenswürdig.
*Mike Elgan ist ein tech-besessener Journalist, Autor, Blogger, Podcaster und digitaler Nomade. Er schreibt unter anderem für Computerworld.com.
Be the first to comment