Digital
Schweiz

ETH-Professor warnt vor der totalen Überwachung

Hohe Polizeipräsenz auf der Strasse, totale Überwachung im Netz?
Hohe Polizeipräsenz auf der Strasse, totale Überwachung im Netz?
Bild: Frank Augstein/AP/KEYSTONE
Interview

ETH-Professor: «Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte»

Lassen sich Terroranschläge mit mehr Überwachung vermeiden? Nein, im Gegenteil, meint Soziologe Dirk Helbing. Die Totalobservierung münde in eine von Algorithmen gesteuerte diktatorische Gesellschaft.
18.11.2015, 09:3205.02.2016, 14:19
raffael schuppisser / Aargauer Zeitung
Mehr «Digital»

Herr Helbing, nach den Terroranschlägen in Paris werden Stimmen laut, die fordern, dass die elektronische Kommunikation stärker überwacht werden soll. Halten Sie das für sinnvoll?
Dirk Helbing:
Frankreich ist bereits eines der am stärksten überwachten Länder. Der Umstand, dass es möglich war, mehrere Attentate dieses Ausmasses gleichzeitig zu begehen, ohne dass ihre Planung bemerkt wurde, beweist eher, dass das Konzept der Überwachung als Instrument für Sicherheit und Frieden grundsätzlich versagt hat.

Die Anschläge sind das Resultat einer Kette von Ereignissen, die mit dem 11. September 2001 ihren Ausgang genommen und zu immer unkontrollierbareren Ergebnissen geführt haben. Die eigentliche Frage ist also, wie man eine weitere Eskalation vermeiden kann.

«Die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.»
Dirk Helbing, ETH-Professor

Die meisten Menschen scheint es nicht zu stören, wenn der Staat ihre Kommunikation überwacht, sofern das zu mehr Sicherheit führt.
Das ist hoch naiv. Eines kann man mit Sicherheit sagen: Wenn immer es Missbrauchsmöglichkeiten gibt, dann werden sie früher oder später auch genutzt. Derzeit sehen wir in vielen Ländern zunehmenden Extremismus. Früher oder später wird es irgendwo zum Missbrauch unserer Daten kommen. Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte. Damit wird die perfekte Diktatur möglich.

Bild
Zur Person
Der 50-jährige Dirk Helbing ist promovierter Physiker und Professor für Soziologie an der ETH Zürich. Er erforscht mittels Big Data und Computersimulation gesellschaftliche Entwicklungen. Vor drei Jahren bewarb er sich mit dem Flaggschiff-Projekt FuturICT um einen Milliardenkredit der EU. Das Projekt sah vor, einen Weltensimulator zu entwickeln, der künftige politische und wirtschaftliche Krisen erkennt.

Auch am Flughafen sind wir ja bereit, uns und unser Gepäck durchleuchten zu lassen, um so dazu beizutragen, dass keine Terroristen mitfliegen. Ist es nicht dasselbe, wenn wir nun dazu einwilligen, unsere Daten durchleuchten zu lassen?
Nein, es ist nicht das Gleiche. Im Unterschied zu unserem Gepäck müssen wir kreativ und innovativ sein. Überwachung führt jedoch zu mehr Opportunismus, Systemkonformität und Selbstzensur. Das ist schädlich, denn unsere heutigen Lösungen müssen infrage gestellt werden. Offensichtlich funktionieren sie nicht mehr gut genug, um den Frieden zu sichern, die Finanz-, Wirtschafts- und Schuldenkrise zu bewältigen, die digitale Revolution zu meistern und den Klimawandel zu minimieren.

Predator-Drohne: In einem offenem Brief haben sich zahlreiche Wissenschaftler sowie Tech-Prominente diesen Sommer für eine weltweite Ächtung autonomer Waffensysteme ausgesprochen.
Predator-Drohne: In einem offenem Brief haben sich zahlreiche Wissenschaftler sowie Tech-Prominente diesen Sommer für eine weltweite Ächtung autonomer Waffensysteme ausgesprochen.
Bild: EPA

Letzte Woche haben Sie mit acht anderen Wissenschaftern einen Appell zu Sicherung von Freiheit und Demokratie im Digitalzeitalter veröffentlicht. Warum?
Die demokratischen Grundprinzipien sind in Gefahr. Durch Verfolgen aller Aktivitäten, die digitale Spuren hinterlassen, entsteht ein gläserner Bürger, dessen Menschenwürde und Selbstbestimmung auf der Strecke bleiben. Durch die Verwendung persönlicher Daten kann künstliche Intelligenz jetzt lernen, unsere Entscheidungen zu manipulieren. Nach der Automatisierung der Produktion und dem Bau von selbstfahrenden Fahrzeugen steht daher die Automatisierung der Gesellschaft an. Man denkt darüber nach, die Gesellschaft wie eine grosse Maschine zu steuern, und das schliesst Methoden der Verhaltenssteuerung mit ein. Wir würden alle vom Staat gelenkt werden. Aber die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.

Das klingt sehr schwarzmalerisch.
Es ist aber kein Fantasiegespinst. In China wird derzeit bereits ein Citizen Score eingeführt. Alles, was die Bürger tun, soll mit Plus- oder Minuspunkten bewertet werden, auch was im Internet angeklickt wird oder was die Freunde tun. Ein solches System liesse sich im Prinzip auch hier umsetzen. Die Entwicklung dahin verläuft schleichend. Deshalb ist sie so gefährlich.

«Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar.»

Diesen Frühling stimmte das Schweizer Parlament mit grosser Mehrheit für ein neues Fernmeldegesetz (BÜPF). Dieses sieht vor, dass heikle Daten von Bürgern auf Vorrat gespeichert werden dürfen. Was halten Sie davon?
Die Liste der Kriterien, die einen verdächtig machen, ist viel zu lang. Im Prinzip wären sie auf beinahe jeden anwendbar. Wir müssen daher aufpassen, dass der Sicherheitsapparat nicht selber zur Gefahr für Bürger und Gesellschaft wird. 99 Prozent der Daten, auf die Geheimdienste Zugriff haben, sollten für Wissenschaft und Gesellschaft geöffnet werden. Das sorgt für Transparenz, ein Gleichgewicht der Kräfte, und einen viel grösseren wirtschaftlichen und gesellschaftlichen Nutzen.

Braucht es wegen der Terrorgefahr mehr Überwachung?

Sie schreiben, dass wir Gefahr laufen, durch Daten manipuliert zu werden, dabei bietet doch das Internet ein gigantisches Meer an Infos. Die Gesellschaft ist so gut informiert wie noch nie zuvor.
Es hat den Anschein, aber wir bekommen natürlich oft nur eine Fassade zu sehen, während uns die eigentlich interessanten Informationen nicht erreichen. Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar. Oft ist man froh, wenn einem gesagt wird, was wir tun sollen, weil es uns überfordert, täglich Hunderte von Entscheidungen zu treffen. Dieser Umstand wird natürlich ausgenutzt.

Auch Tesla-Gründer Elon Musk warnt vor dem Missbrauch künstlicher Intelligenz.
Auch Tesla-Gründer Elon Musk warnt vor dem Missbrauch künstlicher Intelligenz.
Bild: Marcio Jose Sanchez/AP/KEYSTONE

Als Soziophysiker nutzen Sie öffentliche Daten, um die Entwicklung der Gesellschaft am Supercomputer zu simulieren. Auch Sie haben ein Interesse an möglichst vielen Daten. Big Data bietet also auch Chancen.
Ja, natürlich bieten Big Data, künstliche Intelligenz und Verhaltensökonomie grosse Chancen für unsere Gesellschaft. Entscheidend ist es daher, sicherzustellen, dass sie verantwortungsvoll eingesetzt werden. Für den Erfolg moderner, komplexer Gesellschaften ist es insbesondere erforderlich, Pluralismus, Partizipation und verteilte Kontrolle sicherzustellen. Wir sprechen uns daher dafür aus, mehr Daten für alle zu öffnen, sodass jeder bessere Entscheidungen treffen und innovativ tätig werden kann. Jeder, der will und kompetent genug ist, könnte dabei mitmachen.

«Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren.»

In Ihrem Appell schreiben Sie, dass wir nun an einem historischen Scheideweg stehen. Aber die Technikgiganten wie Google und Facebook sowie die Geheimdienste sind doch schon in Besitz unserer digitalen Daten. Wurden die Weichen nicht schon längst gestellt?
Das ist vielleicht so. Doch mittlerweile warnen auch namhafte Vertreter aus den USA vor dem Missbrauch der künstlichen Intelligenz, unter anderem Elon Musk von Tesla, Bill Gates von Microsoft, und Steve Wozniak von Apple.

Stuart Russell, der mit Peter Norvig von Google ein Standardwerk zur künstlichen Intelligenz geschrieben hat, sagte kürzlich: Es sei, als würden wir direkt auf einen Abgrund zufahren und darauf hoffen, dass uns das Benzin ausgehe. Wir müssen einsehen, dass wir die richtige Abzweigung verpasst haben und umkehren, bevor wir die Klippe heruntergestürzt sind. Es gibt bessere Wege, diese Technologien zu verwenden.

Das digitale Manifest
Letzten Donnerstag, einen Tag vor den Anschlägen in Paris, veröffentlichte Dirk Helbing zusammen mit anderen namhaften Wissenschaftern in der Online-Ausgabe des Fachmagazins Spektrum der Wissenschaften ein digitales Manifest. Die Autoren – unter denen sich auch der ehemalige Präsident der ETH-Zürich, Ernst Hafen, und der Ökonom Bruno S. Frey befinden – warnen vor den Auswüchsen der Datensammelwut und der Massenüberwachung. Wenn Big Data und künstliche Intelligenz nicht mit unseren Grundrechten kompatibel sind, würden sie früher oder später grossflächigen Schaden anrichten. «Im schlimmsten Fall», so schreiben die Forscher, «droht eine zentrale künstliche Intelligenz zu steuern, was wir wissen, denken und wie wir handeln.»

Wie können wir persönliche Daten der Bürger nutzen, ohne dass wir Gefahr laufen, in eine Überwachungsgesellschaft zu schlittern?
Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren. Es ist also wichtig, darauf zu bestehen, dass dieser Missstand schnellstmöglich behoben wird.

Jetzt auf

Und wie soll das gehen?
Mit einem neuen Datenschutzgesetz. Alle Daten, die über uns erzeugt werden, sollten – abgesehen von wenigen Ausnahmen – als Kopie in eine persönliche Datenmailbox gesandt werden. Dort könnten wir dann einstellen, welche Daten von wem, für welchen Zweck und wie lange genutzt werden dürfen. Unautorisierte, missbräuchliche Verwendungen von Daten, wie sie vom Gesetzgeber zu definieren wären, müssten bestraft werden. Bestimmte Anwendungen sind sicher im gesellschaftlichen Interesse, aber das Individuum muss geschützt werden.

Das könnte dich auch interessieren

So überwacht uns der Staat (11.4.2016)

Alle Storys anzeigen
DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
4 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Lowend
18.11.2015 10:30registriert Februar 2014
Diesen warnenden Worten von Dirk Helbing ist nichts hinzuzufügen und wer meint, dass er oder sie nichts zu verstecken hat, soll sich kurz mal ausmalen, um wie viel effektiver die Judenverfolgung gewesen wäre, wenn die Nazis über unsere Technologien verfügt hätten! Wer weiss, ob nicht schon bald ein neuer Führer auf die Idee kommt, alle Menschen, die seine Ideen nicht teilen, zu eliminieren um so, zusammen mit seinen Gesinnungsgenossen, die perfekte Diktatur des Volkes zu errichten? Die Möglichkeiten dazu wären vorhanden und darum ist es wichtig, diesen Büpf-Unsinn an der Urne zu beerdigen!
704
Melden
Zum Kommentar
avatar
daenu
18.11.2015 11:34registriert Februar 2014
Nicht nur die digitale Überwachung führt in eine Sackgasse. Auch mehr Grenzkontrollen, Grenzzäune und höhere Mauern verhindern kaum Anschläge aber sie behindern unsere Freiheit und manipulieren unsere Wahrnehmung. Umdenken wäre endlich angesagt.
463
Melden
Zum Kommentar
4
Nur 9 Monate im Amt: UBS-Boss Ermotti streicht Monster-Bonus für 2023 ein
UBS-Chef Sergio Ermotti hat mit seiner Rückkehr zur Grossbank ordentlich mehr Lohn kassiert. Für neun Monate 2023 verdiente er 14,4 Millionen Franken.

Für UBS-Chef Sergio Ermotti hat sich die Rückkehr zur Grossbank auch mit Blick auf den Gehaltscheck gelohnt. Überhaupt verdienten die Top-Kader und Verwaltungsräte der UBS deutlich mehr.

Zur Story