Kann womöglich bald übermitteln, woher der Nutzer stammt: ein Amazon Echo Dot. © CC
«Voiceprint» oder Abdruck einer menschlichen Stimme in Stereo. © iHLS

Der Spion im Wohnzimmer

Daniela Gschweng / 04. Jan 2019 - Smarte Lautsprecher wie Amazon Echo könnten in Zukunft in der Lage sein, Ethnien festzustellen. Das weckt heikle Begehrlichkeiten.

Vor zwei Monaten hat Amazon ein Patent für eine Software bekommen, die es dem Unternehmen ermöglicht, Gefühlszustand und Sprachakzent eines Nutzers zu analysieren. Amazon wertet dazu Hintergrundgeräusche, Geschlecht, Sprache, Akzent und Indikatoren für den Gefühlszustand aus Gesprächen aus.

Es ist nicht schwer sich vorzustellen, wie der momentane Gefühlszustand eines Nutzers bei der Betrachtung von Anzeigen kommerziell genutzt werden kann. Interessant und brisant ist aber vor allem der Akzent des Nutzers. Die Software macht dabei nichts anderes, als ein Mensch es auch täte. Jemand mit geübtem Ohr kann hören, ob ein Sprechender aus dem Emmental stammt, aus Bamberg oder aus Wien. Selbst, wenn die betreffende Person schon lange in Zürich lebt und Hochdeutsch spricht.

Es ist anzunehmen, dass eine künstliche Intelligenz, die anhand von sehr vielen Beispielen lernen kann, mindestens genauso gut in der Erkennung eines Dialekts ist wie ein darin geübter Mensch. Dazu kommen Daten, die Amazon ohnehin schon erhebt, wie Wohn- und Lieferadresse, IP-Adresse und Browsereinstellungen.

Schon wieder: ethnisch selektive Werbung

Damit wäre der Weg zur Ermittlung der Herkunft und ethnischen Gruppe von Nutzern frei. Daten, die allerdings rechtliche Fragen aufwerfen, was ihre Anwendung betrifft! Eine der harmloseren Auswirkungen könnte die Ausspielung von ethnisch selektiver Werbung sein. Beispielsweise durch Anzeigen, die Nutzern mit spanischem Akzent nicht mehr angezeigt werden. Ähnliche Einstellungen brachten bereits Facebook in Konflikt mit in den USA geltenden Anti-Diskriminierungs-Gesetzen. (Infosperber: «Facebook-Werbung: (noch immer) rassistisch»).

Alexa, zeig mir Terroristen…

Weniger harmlos ist, dass diese Daten auch Behörden interessieren dürften, berichtet der «Intercept» – zum Beispiel das FBI. Wenn Amazon Nutzer zu ethnischen oder religiösen Gruppen zuordnen könne, wäre es naiv, anzunehmen, dass die US-Regierung kein Interesse an dieser neuen Datenklasse hätte. Das sagt Jennifer King, Direktorin für Verbraucherschutz am Center for Internet and Society der Stanford Law School. Sie beschreibt gegenüber dem «Intercept» ein Szenario, in dem aus der Einkaufsgeschichte eines Nutzers, demografischen Daten und ob er Arabisch oder Englisch mit arabischem Akzent spricht, eine ethnische und religiöse Zuordnung gemacht werden kann.

«Voiceprint» oder Abdruck einer menschlichen Stimme (Quelle: iHLS)

Es sei plausibel, dass das FBI die Herausgabe solcher Daten von Amazon erzwingen könnte, wenn sie helfen könnten, die Mitgliedschaft eines Benutzers zu einer terroristischen Gruppe zu bestimmen. Nach den US-Gesetzen ist es für Unternehmen in diesem Fall schwierig bis unmöglich, die Herausgabe zu verweigern. Andrew Crocker, leitender Anwalt bei der «Electronic Frontier Foundation», bestätigt, dass die US-Regierung zur «Ausspähung fremder Mächte» einen nicht-öffentlichen Durchsuchungsbefehl ausstellen kann. Das zugrundeliegende Gesetz heisst FISA (Foreign Intelligence Surveillance Act) und wird regelmässig angewendet.

…oder wenigstens einen illegalen Einwanderer

Jennifer Granick, Anwältin für Überwachung und Cybersicherheit am «American Civil Liberties Union’s Speech, Privacy, and Technology Project», vermutet, dass die Akzentdaten von Amazon auch der Einwanderungsbehörde ICE Rückschlüsse liefern könnten. «Nehmen wir an, ICE geht zu einem dieser Anbieter und sagt: ‹Geben Sie uns alle Abonnementinformationen von Personen mit spanischen Akzenten›», sagt sie. Diese Information könne missbraucht werden, um Personen einer bestimmten Herkunft oder Rasse zu identifizieren oder die, die theoretisch undokumentierte Verwandte haben könnten.

Obwohl Granick noch keine Beweise für solche Anfragen hat, hat sie «parallele Dinge in anderen Kontexten» beobachtet. Es sei auch möglich, dass Amazon einen «National Security Letter» vom FBI bekäme, diesen aber nicht offenlegen dürfe, gibt sie zu bedenken.

Alexa und der Tote im Whirlpool

In einer Mordermittlung in Arkansas wurden Daten von Amazon Alexa bereits genutzt. Amazon hatte sich zwar mit Hinweis auf die Redefreiheit im ersten Zusatz der US-Verfassung (1st Amendment) zunächst geweigert, diese herauszugeben, seinen Einspruch aber dann fallengelassen. Es gibt andere US-Gesetze, die die Privatsphäre der Nutzer schützen, diese sind – mit Ausnahme von Kalifornien – jedoch längst nicht so streng wie die europäische Gesetzgebung.

Bisher gibt es keine Beweise dafür, dass hinter Amazons Patent eine anwendbare Software steckt. Dafür, dass diese zumindest auf grosses Interesse stossen würde, spricht:

  • Im Gegensatz zu Apple, Facebook und Google macht Amazon nicht in Gänze öffentlich, wie viele «National Security Letters» das Unternehmen bekommen hat und wie viele Nutzerkonten diese betreffen. Anhand der veröffentlichten Daten ist aber nachvollziehbar, dass die Zahl der Regierungsanfragen bei Apple, Alphabet/Google und Amazon ständig steigt. Bei Amazon gab es zwischen 2015 und 2016 einen steilen Anstieg an Anfragen. Im Jahr 2015 wurde Echo, Amazons erster Smart-Speaker, am Markt vorgestellt.
  • Es ist bekannt, dass sich die NSA mit Sprachtechnologie beschäftigt. Im Januar hat der «Intercept» über eine Technologie berichtet, die nicht nur Gespräche abhören und transkribieren kann. Sie erstellt ausserdem ein einzigartiges Sprachprofil (englisch «Voiceprint») einer Person. Eine Quelle für die dazu benötigten Audiodaten wären zum Beispiel Google und Amazon.
  • Dialekterkennungssoftware wird bereits eingesetzt, unter anderem beim deutschen Bundesamt für Migration und Flüchtlinge zur Erkennung verschiedener arabischer Dialekte und in China bei der Erstellung biometrischer Datenbanken.

Dazu kommt, dass Amazon auch an anderer Stelle mit den Behörden zusammenarbeitet, wie im Projekt «Rekognition», das sich mit Gesichtserkennung beschäftigt. Im Unterschied zu einer Überwachungskamera, die sich im öffentlichen oder zumindest allgemein zugänglichen Raum befindet, sitzt das Mikrofon bei Nutzern von Echo und Alexa jedoch im heimischen Wohnzimmer.

In einem Email-Statement sagte Amazon, dass es «eine Reihe von zukunftsweisenden Patentanmeldungen eingereicht habe, die die Möglichkeiten der neuen Technologie voll ausschöpfen». Die Erteilung von Patenten spiegle nicht unbedingt aktuelle Entwicklungen bei Produkten und Dienstleistungen wieder.

Und dennoch wollen ihn viele haben

Mehr als 20 Prozent aller US-Amerikaner nutzen Sprachassistenten wie Alexa, etwa zwei Fünftel aller erwachsenen Internetnutzer in den USA erwägen, ein Smart-Home-Gerät zu kaufen. IT-Sicherheitsspezialisten sind in der Regel skeptisch, was eine sichere Benutzung von Amazon Echo, Apple Home Pod oder Google Home angeht. Hersteller wie Amazon halten dagegen: Aus technischer Sicht lauscht Echo zwar die ganze Zeit, Alexa schaltet sich aber erst ein, wenn sie das Signalwort, etwa «Alexa» oder «Computer», hört oder ein anderes damit verwechselt. Sonst zeichnet der intelligente Lautsprecher Daten nicht auf und leitet sie nicht weiter, versichert das Unternehmen.

Nach einem Versuch, den die Zeitschrift «Chip» gemacht hat, ist es jedoch ziemlich einfach, Echo von Hand so umzubauen, dass er zum permanenten Überwachungsgerät wird. Es sei nur eine Zeitfrage, bis das aus der Ferne möglich sein wird, schätzte «Chip». Bekannt wurden auch diverse andere Tricks, wie die Steuerung durch vom menschlichen Ohr nicht hörbare Sprachbefehle.

Themenbezogene Interessen (-bindung) der Autorin/des Autors

keine

Weiterführende Informationen

«Amazon’s Accent Recognition Technology Could Tell the Government Where You’re From», The Intercept
«Amazon ermöglicht Live-Gesichtserkennung für ganze Städte», heise.de
«Verdeckte Recherchen bringen Amazon in Erklärungsnot: Überwacht der Internet-Riese seine Mitarbeiter?», RTL

Meinungen / Ihre Meinung eingeben

Ähnliche Artikel dank Ihrer Spende

Möchten Sie weitere solche Beiträge lesen? Ihre Spende macht es möglich:

Mit Kreditkarte oder Paypal - oder direkt aufs Spendenkonto für Stiftung SSUI, Jurablickstr. 69, 3095 Spiegel BE
IBAN CH0309000000604575581 (SSUI)
BIC/SWIFT POFICHBEXXX, Clearing: 09000

Ihre Spenden können Sie bei den Steuern abziehen.

Einzahlungsschein anfordern: kontakt@infosperber.ch (Postadresse angeben!)

5 Meinungen

Ich frage mich ernsthaft, ob diese Technologie nicht der Anti-Christ der Bibel ist. Etwas, was uns ständig überwacht. Es nimmt uns die Freiheit und die Würde. Es macht uns Einsam und Misstrauisch gegenüber unserem Nächsten. Im Ernst: Diese Technologie ist gefährlich und sie wird sich gegen uns richten. Es wird garantiert auch missbraucht. Und wir können uns nicht davon entziehen.
Roland Ruckstuhl, am 04. Januar 2019 um 09:06 Uhr
....
..."Wenn Amazon Nutzer zu ethnischen oder religiösen Gruppen zuordnen könne, wäre es naiv, anzunehmen, dass die US-Regierung kein Interesse an dieser neuen Datenklasse hätte."
einvcerstanden. es ist naiv nicht zu «wissen», dass Amazon und co «abteilungen» der US regierung sind!
Luc Farinelli, am 04. Januar 2019 um 09:40 Uhr
In einer Zeit, wo Hacker in Tel Aviv/Israel, vor der Reporterkamera zeigten, wie mühelos sie übers Netz in Deutschland via zufälligem Staubsauger auf das dortige Hausnetz in Echtzeit zugreifen konnten und wo auf einem Leipziger CCC-Kongress berichtet wurde, daß schon die Software zu einer simplen Glühlampe im «SmartHome» als unsicheres Einfallstor für Übernahme und Fernsteuerung des gesamten Hausnetzes und seine Kommunikation missbraucht werden kann, ist so ein «Spion-Lautsprecher» eher noch ein «kleineres Licht» unter Vielem...
Werner Eisenkopf
Werner Eisenkopf, am 04. Januar 2019 um 14:16 Uhr
Was Facebook et al - inzwischen auch Microsoft - «Recht ist», ist anderen US-High Tec Providern «billig"! Mit anderen Worten können sich insbesondere US-High Tec Produzenten NICHT dem staatlichen Druck zur Herausgabe ALLER Kundeninformationen entziehen, wenn sie dazu «vom Staat» sprich CIA et al aufgefordert werden.
Ich gehe davon aus, dass in von US-Truppen besetzten Ländern wie der Bundesrepublik Deutschland nicht «bloss» High Tec Unternehmen, sondern «der Staat», d.h. insbesondere der Geheimdienst der BRD ALLE Informationen «traditionell» mit amerikanischen Diensten teilt, denen seine Dienst habhaft werden! Die Regierung, zumindest Teile davon wie der/die Kanzler/in der BRD weiss das und ist damit einverstanden. Nur 99,9% der Deutschen wissen es - noch - nicht und vertrauen deshalb Facebook intimste persönliche Geheimnisse an, was sich spätestens bei der Bewerbung um einen - neuen - Job oder der Mitgliedschaft in einer - anderen - privaten Kranken- oder Unfallversicherung negativ auswirken könnte.
Ich kenne die Personalchefin eines mittelgrossen Deutschen Industrieunternehmens, die keinen neuen Mitarbeiter einstellt, ohne sich zuvor in den Netzen danach umzusehen!
Rolf Schmid, am 04. Januar 2019 um 19:30 Uhr
Wie naiv muss man wohl sein, dass man sich solche «Smart Home» Technik freiwillig in die eigene Wohnung holt? Zur Zeit gibt es ja noch die Möglichkeit, fast alles noch über Kabel zu betreiben - ausser «Tablets».
Doch was, wenn uns «intelligente» Stromzähler und die 5G-Mobilfunktechnik aufgezwungen werden kann?
Daniel Nägeli, am 07. Januar 2019 um 10:55 Uhr

Ihre Meinung

Loggen Sie sich ein. Wir gestatten keine Meinungseinträge anonymer User. Hier können Sie sich registrieren.
Sollten Sie ihr Passwort vergessen haben, können Sie es neu anfordern. Meinungen schalten wir neu 9 Stunden nach Erhalt online, damit wir Zeit haben, deren Sachlichkeit zu prüfen. Wir folgen damit einer Empfehlung des Presserats. Die Redaktion behält sich vor, Beiträge, welche andere Personen, Institutionen oder Unternehmen beleidigen oder unnötig herabsetzen, oder sich nicht auf den Inhalt des betreffenden Beitrags beziehen, zu kürzen, nicht zu veröffentlichen oder zu entfernen. Über Entscheide der Redaktion können wir keine Korrespondenz führen. Zwei Meinungseinträge unmittelbar hintereinander sind nicht erlaubt.