circuitsArtikel

© cc Philipp Marquetand Pixabay

Social Bots und Lauschangriffe auf das private Leben

Heinz Moser /  Meldungen im Netz werden immer häufiger durch Maschinen erzeugt. Die Hintergründe zeigt ein neues Buch von Christoph Drösser auf.

Bei der Berichterstattung zu den US-Wahlen tauchen häufig Berichte über Trolle und Bots auf, die Falschnachrichten verbreiten. Schon bei der Wahl Donald Trumps von 2016 war das Internet in Verruf geraten. Automatisierte Programme – sogenannte «Chat-Boots» – versuchten, die Wahlen mit Falschmeldungen zu beeinflussen. Christoph Drösser berichtet in seinem eben erschienen Buch «Wenn Dinge mit uns reden»: Rund 400 000 Bots seien damals auf Twitter aktiv gewesen und 19 Prozent der politischen Tweets hätten von Computern gestammt. Beunruhigend sei die Ausrichtung solcher Bots. Sie sollten die Wähler nicht mit Argumenten zu neuen Einsichten bringen, sondern sie durch Falschmeldungen beeinflussen und gegeneinander aufbringen. Es seien geeignete Werkzeuge, um extreme Positionen und Verschwörungstheorien zu fördern.

Aber auch im Journalismus können Kurznachrichten von einer Software aus Textbausteinen zusammengesetzt werden, ohne dass wir es merken. Dazu eignen sich, so Drösser, Unternehmensbilanzen, Sportereignisse, Wetter, Verkehrsstaus etc. Kurz: alles Themen, wo strukturierte Daten vorliegen, welche der Computer aus den vorformulierten Textbausteinen nur noch zu einer Geschichte zusammensetzen muss.

Bots und Sprachassistenten sind nicht nur politische Instrumente

Das Buch von Drösser zeigt, dass das Thema der automatisierten Computerkommunikation weit über die politische Diskussion um die Social Bots hinausgeht. Wer das Internet nutzt, trifft immer häufiger auf automatisierte Sprachassistenten, die in Webseiten integriert sind. Wenn Firmen Online-Kundendienste anbieten, steckt dahinter nicht mehr eine Telefonberatung, sondern öfters ein solcher Assistent. Nach Drösser verbergen sich dahinter oft relativ simpel gestrickte Programme, welche die Anfrage des Nutzers auf wichtige Stichworte hin durchsuchen und aus dem Vorrat an Standardantworten eine passende heraussuchen.

Es handelt sich dabei um regelbasierte Chatbots, deren gesamtes Verhaltensrepertoire programmiert werden muss. Das Buch beschreibt, wie sich die Szene der Sprachassistenten in den letzten Jahren jedoch rasant weiterentwickelt hat. Stichwörter dazu sind «Deep Learning» und «neuronale Netze». Solche Systeme basieren nicht mehr auf Regeln, sondern auf statistischen Mechanismen. Die neuronalen Netze der künstlichen Intelligenz lernen, Wörter zu erkennen und korrekte Sätze zu identifizieren, weil sie mit unzähligen korrekten Sätzen trainiert worden sind. Grosskonzerne wie Amazon, Google und Apple verfügen bereits über riesige Datensätze, die sie als Trainingsmaterial für ihre Sprachassistenten nutzen.

Siri und Alexa

Dies verweist auf den Smalltalk mit dem Smartphone, wie er über Sprachassistenten wie «Siri» oder «Alexa» in unseren Alltag Eingang gefunden hat. Mit «Alexa» von Amazon können wir über Sprachbefehle Wetterdaten anfordern, Radiosender einstellen oder das Licht in der Wohnung steuern. Doch diese Kommunikation ist doppelseitig: Dass die Nutzerinnen und Nutzer gleichzeitig ihre eigenen Daten preisgeben, schafft Unbehagen. Drösser beschreibt den Zwiespalt: «In der Vergangenheit haben sich Menschen, insbesondere in Diktaturen, immer wieder Sorgen darüber gemacht, dass ihre Telefonate abgehört werden können. Inzwischen stellen sich Millionen freiwillig Geräte wie Alexa in die Wohnung, die über ein Mikrofon verfügen und zumindest potenziell für Lauschangriffe genutzt werden können. Kaum jemand scheint darüber nachzudenken, was von diesen Geräten tatsächlich aufgezeichnet wird und wer es zu hören bekommt.»

Chancen und Risiken künstlichen Intelligenz

Wie nützlich – trotz der genannten Gefahren – neuronale Netze sein können, zeigt dagegen das Beispiel der Entwicklung von Übersetzungssoftware. Noch vor zehn Jahren galten Computerübersetzungen in fremde Sprachen als kaum verwendbare Lachnummern. Das hat sich geändert, seit es das auf neuronalen Netzen basierte Übersetzungsprogramm DeepL gibt. Da benötigt man nur noch ein bescheidenes Mass an Nachbearbeitung, um eine brauchbare Übersetzung zu erzeugen. DeepL wirbt denn auch vollmundig auf seiner Website: «Neuronale Netzwerke erweitern menschliche Möglichkeiten, überwinden Sprachbarrieren und bringen Kulturen einander näher.»

Aber auch das automatisierte Fahren, das vor kurzem noch als unerreichbares Wunder galt, hat dank neuronalen Netzen und Millionen von verfügbaren Daten riesige Fortschritte gemacht – auch wenn manchmal in einer Zeitung Meldungen stehen wie: «Wieder tödlicher Unfall mit Tesla-Autopilot. Zwei Personen im gerammtem Honda Civic sterben.» Das hört sich wie eine Beschwörung der Überlegenheit der guten alten analogen Techniken an, wo der Mensch das Auto noch selbst lenken musste .

Die Werkzeuge der künstlichen Intelligenz wirken auf uns oft wie die Wunderdinge aus der Welt von Science Fiction. Christoph Drösser gelingt eine spannende Einführung zur Frage der neuronalen Netze und wie Maschinen lernen. Er beschreibt in einer verständlichen Sprache, welche technischen Entwicklungen dabei stattgefunden haben. Der Autor macht deutlich, dass hinter den Kommunikationspartnern im Netz oft kein Mensch mehr steht, sondern eine Maschine. Das ist nach Drösser mit Chancen, aber auch mit grossen Risiken verbunden.

Christoph Drösser: Wenn Dinge mit uns reden; Von Sprachassistenten, dichtenden Computern und Social Bots. Dudenverlag. Zur Bestellung

Weiterführende Informationen


Themenbezogene Interessenbindung der Autorin/des Autors

keine

Zum Infosperber-Dossier:

Business_News_Ausgeschnitten

Medien: Trends und Abhängigkeiten

Konzerne und Milliardäre mischen immer mehr mit. – Die Rolle, die Facebook, Twitter, Google+ spielen können

War dieser Artikel nützlich?
Ja:
Nein:


Infosperber gibt es nur dank unbezahlter Arbeit und Spenden.
Spenden kann man bei den Steuern in Abzug bringen.

IBAN: CH 0309000000604575581

2 Meinungen

  • am 1.11.2020 um 13:36 Uhr
    Permalink

    Interessant, was man dank Heinz Mosers Besprechung erfährt. Und eine Einladung zur Buchbestellung. Danke. Da fällt mir ein Artikel auf Infosperber ein, der sich mit dem ebenfalls nahezu autonomen, algorithmengesteuerten Hochfrequenz-Handel an den Börsen beschäftigt und das Ausmass der duch diese neue Generation des Finanzkapitalismus hervorgerufenen globalen Risiken aufgezeigt hat. Beides zusammen stimmt nicht unbedingt optimistisch für die Zukunft ein. Ich erlaube mir an dieser Stelle den Hinweis auf das neue Buch «Jackpot oder die Würde des Menschen ist verfügbar», in dem eine Gruppe von acht Alten sich aufmacht, diese manipulativen Systeme ihrerseits für die Rückeroberung von Freiräumen und die Reduktion von Ungleichheiten zu nutzen. Näheres dazu unter freystefan.ch. Zugegeben, weniger wissenschaftlich, dafür umso amüsanter.

    1
  • am 1.11.2020 um 18:01 Uhr
    Permalink

    Die Swisscom hat Sprache und womöglich unser Verhalten das die Stimme entsprechend ändert aufgezeichnet und wird diese gesammelten Daten für genau diese Zwecke verwenden. So oder so hat die Swisscom (und auch die Post) dank entsprechender politischer Mehrheiten schon längst den Auftrag sich an den Daten der Kunden gütlich zu tun und diese entsprechend weiter zu geben. Auch die Teilnahme der Kunden mit ihren Daten an einem von der Swisscom mitgegründeten aber nun verkauften (privatisierten) Werbenetzwerk wurde erst dank entsprechender politischer Mehrheiten, die es eben auch sonst mit Daten- Konsumentenschutz am liebsten so liberal wie möglich haben, ermöglicht. Dies konnte man jeweils in den ausschliesslich auf OptIn voreingestellten Auswahl in den Datenschutzbestimmungen der Swisscom sehen. Alles möglichst liberal, gratis (es wird an Daten schlicht geklaut was möglich ist) und immer leicht am kriminellen ritzend

    0

Ihre Meinung

Lade Eingabefeld...