Terror in Paris
Wissenschafter warnen vor gläsernen Bürgern
Lassen sich Terroranschläge mit mehr Überwachung vermeiden? Nein, im Gegenteil, meint Soziologe Dirk Helbing. Die Totalobservierung mündet in eine von Algorithmen gesteuerte diktatorische Gesellschaft.
Ist der Mensch erst einmal gläsern, dauert es nicht lange, bis er in Scherben liegt.
Herr Helbing, nach den Terroranschlägen in Paris werden Stimmen laut, die fordern, dass die elektronische Kommunikation stärker überwacht werden soll. Halten Sie das für sinnvoll?
Dirk Helbing: Frankreich ist bereits eines der am stärksten überwachten Länder. Der Umstand, dass es möglich war, mehrere Attentate dieses Ausmasses gleichzeitig zu begehen, ohne dass ihre Planung bemerkt wurde, beweist eher, dass das Konzept der Überwachung als Instrument für Sicherheit und Frieden grundsätzlich versagt hat. Die Anschläge sind das Resultat einer Kette von Ereignissen, die mit dem 11. September 2001 ihren Ausgang genommen und zu immer unkontrollierbareren Ergebnissen geführt haben. Die eigentliche Frage ist also, wie man eine weitere Eskalation vermeiden kann.
Die meisten Menschen scheint es nicht zu stören, wenn der Staat ihre Kommunikation überwacht, sofern das zu mehr Sicherheit führt.
Das ist hoch naiv. Eines kann man mit Sicherheit sagen: Wenn immer es Missbrauchsmöglichkeiten gibt, dann werden sie früher oder später auch genutzt. Derzeit sehen wir in vielen Ländern zunehmenden Extremismus. Früher oder später wird es irgendwo zum Missbrauch unserer Daten kommen. Über jeden von uns gibt es heute weit mehr Daten, als die Stasi jemals hatte. Damit wird die perfekte Diktatur möglich.
Dirk Helbling
Der 50-Jährige ist promovierter Physiker und Professor für Soziologie an der ETH Zürich. Er erforscht mittels Big Data und Computersimulation gesellschaftliche Entwicklungen. Vor drei Jahren bewarb er sich mit dem Flaggschiff-Projekt FuturICT um einen Milliardenkredit der EU. Das Projekt sah vor, einen Weltensimulator zu entwickeln, der künftige politische und wirtschaftliche Krisen erkennt.
Auch am Flughafen sind wir ja bereit, uns und unser Gepäck durchleuchten zu lassen, um so dazu beizutragen, dass keine Terroristen mitfliegen. Ist es nicht dasselbe, wenn wir nun dazu einwilligen, unsere Daten durchleuchten zu lassen?
Nein, es ist nicht das Gleiche. Im Unterschied zu unserem Gepäck müssen wir kreativ und innovativ sein. Überwachung führt jedoch zu mehr Opportunismus, Systemkonformität und Selbstzensur. Das ist schädlich, denn unsere heutigen Lösungen müssen infrage gestellt werden. Offensichtlich funktionieren sie nicht mehr gut genug, um den Frieden zu sichern, die Finanz-, Wirtschafts- und Schuldenkrise zu bewältigen, die digitale Revolution zu meistern und den Klimawandel zu minimieren.
Letzte Woche haben Sie mit acht anderen Wissenschaftern ein Appell zu Sicherung von Freiheit und Demokratie im Digitalzeitalter veröffentlicht. Warum?
Die demokratischen Grundprinzipien sind in Gefahr. Durch Verfolgen aller Aktivitäten, die digitale Spuren hinterlassen, entsteht ein gläserner Bürger, dessen Menschenwürde und Selbstbestimmung auf der Strecke bleiben. Durch die Verwendung persönlicher Daten kann künstliche Intelligenz jetzt lernen, unsere Entscheidungen zu manipulieren. Nach der Automatisierung der Produktion und dem Bau von selbstfahrenden Fahrzeugen steht daher die Automatisierung der Gesellschaft an. Man denkt darüber nach, die Gesellschaft wie eine grosse Maschine zu steuern, und das schliesst Methoden der Verhaltenssteuerung mit ein. Wir würden alle vom Staat gelenkt werden. Aber die Gesellschaft ist keine Maschine. Wenn man sie wie eine zu bedienen versucht, wird das schiefgehen.
Das klingt sehr schwarzmalerisch.
Es ist aber kein Fantasiegespinst. In China wird derzeit bereits ein Citizen Score eingeführt. Alles, was die Bürger tun, soll mit Plus- oder Minuspunkten bewertet werden, auch was im Internet angeklickt wird oder was die Freunde tun. Ein solches System liesse sich im Prinzip auch hier umsetzen. Die Entwicklung dahin verläuft schleichend. Deshalb ist sie so gefährlich.
Diesen Frühling stimmte das Schweizer Parlament mit grosser Mehrheit für ein neues Fernmeldegesetz (BÜPF). Dieses sieht vor, dass heikle Daten von Bürgern auf Vorrat gespeichert werden dürfen. Was halten Sie davon?
Die Liste der Kriterien, die einen verdächtig machen, ist viel zu lang. Im Prinzip wären sie auf beinahe jeden anwendbar. Wir müssen daher aufpassen, dass der Sicherheitsapparat nicht selber zur Gefahr für Bürger und Gesellschaft wird. 99 Prozent der Daten, auf die Geheimdienste Zugriff haben, sollten für Wissenschaft und Gesellschaft geöffnet werden. Das sorgt für Transparenz, ein Gleichgewicht der Kräfte, und einen viel grösseren wirtschaftlichen und gesellschaftlichen Nutzen.
Sie schreiben, dass wir Gefahr laufen, durch Daten manipuliert zu werden, dabei bietet doch das Internet ein gigantisches Meer an Infos. Die Gesellschaft ist so gut informiert wie noch nie zuvor.
Es hat den Anschein, aber wir bekommen natürlich oft nur eine Fassade zu sehen, während uns die eigentlich interessanten Informationen nicht erreichen. Wir werden mit Informationen überflutet, und es bleibt nicht genügend Zeit, sie kritisch zu bewerten. Das macht uns leicht manipulierbar. Oft ist man froh, wenn einem gesagt wird, was wir tun sollen, weil es uns überfordert, täglich Hunderte von Entscheidungen zu treffen. Dieser Umstand wird natürlich ausgenutzt.
Als Soziophysiker nutzen Sie öffentliche Daten, um die Entwicklung der Gesellschaft am Supercomputer zu simulieren. Auch Sie haben ein Interesse an möglichst vielen Daten. Big Data bietet also auch Chancen.
Ja, natürlich bieten Big Data, künstliche Intelligenz und Verhaltensökonomie grosse Chancen für unsere Gesellschaft. Entscheidend ist es daher, sicherzustellen, dass sie verantwortungsvoll eingesetzt werden. Für den Erfolg moderner, komplexer Gesellschaften ist es insbesondere erforderlich, Pluralismus, Partizipation und verteilte Kontrolle sicherzustellen. Wir sprechen uns daher dafür aus, mehr Daten für alle zu öffnen, sodass jeder bessere Entscheidungen treffen und innovativ tätig werden kann. Jeder, der will und kompetent genug ist, könnte dabei mitmachen.
In Ihrem Appell schreiben Sie, dass wir nun an einem historischen Scheideweg stehen. Aber die Technikgiganten wie Google und Facebook sowie die Geheimdienste sind doch schon in Besitz unserer digitalen Daten. Wurden die Weichen nicht schon längst gestellt?
Das ist vielleicht so. Doch mittlerweile warnen auch namhafte Vertreter aus den USA vor dem Missbrauch der künstlichen Intelligenz, unter anderem Elon Musk von Tesla, Bill Gates von Microsoft, und Steve Wozniak von Apple. Stuart Russell, der mit Peter Norvig von Google ein Standardwerk zur künstlichen Intelligenz geschrieben hat, sagte kürzlich: Es sei, als würden wir direkt auf einen Abgrund zufahren und darauf hoffen, dass uns das Benzin ausgehe. Wir müssen einsehen, dass wir die richtige Abzweigung verpasst haben und umkehren, bevor wir die Klippe heruntergestürzt sind. Es gibt bessere Wege, diese Technologien zu verwenden.
Das digitale Manifest
Letzten Donnerstag, einen Tag vor den Anschlägen in Paris, veröffentlichte Dirk Helbing zusammen mit anderen namhaften Wissenschaftern in der Online-Ausgabe des Fachmagazins «Spektrum der Wissenschaften» ein digitales Manifest. Die Autoren – unter denen sich auch der ehemalige Präsident der ETH-Zürich, Ernst Hafen, und der Ökonom Bruno S. Frey befinden – warnen vor den Auswüchsen der Datensammelwut und der Massenüberwachung. Wenn Big Data und künstliche Intelligenz nicht mit unseren Grundrechten kompatibel sind, würden sie früher oder später grossflächigen Schaden anrichten. «Im schlimmsten Fall», so schreiben die Forscher, «droht eine zentrale künstliche Intelligenz zu steuern, was wir wissen, denken und wie wir handeln.»
Wie können wir persönliche Daten der Bürger nutzen, ohne dass wir Gefahr laufen, in eine Überwachungsgesellschaft zu schlittern?
Wir können uns momentan gegen den Missbrauch unserer persönlichen Daten nicht effektiv wehren. Es ist also wichtig, darauf zu bestehen, dass dieser Missstand schnellstmöglich behoben wird.
Und wie soll das gehen?
Mit einem neuen Datenschutzgesetz. Alle Daten, die über uns erzeugt werden, sollten – abgesehen von wenigen Ausnahmen – als Kopie in eine persönliche Datenmailbox gesandt werden. Dort könnten wir dann einstellen, welche Daten von wem, für welchen Zweck und wie lange genutzt werden dürfen. Unautorisierte, missbräuchliche Verwendungen von Daten, wie sie vom Gesetzgeber zu definieren wären, müssten bestraft werden. Bestimmte Anwendungen sind sicher im gesellschaftlichen Interesse, aber das Individuum muss geschützt werden.