Es ist so weit. Bei der Jahresversammlung des Vereins Zivilgesellschaft am 11. November hielt Professor Hans Ulrich Gumbrecht eine denkwürdige Rede – einen «Gottesdienst», wie manche meinten. Es gehe jetzt nicht nur um den Versuch, ein superintelligentes System mit Bewusstsein zu schaffen, sondern um ein gottgleiches Wesen mit übermenschlichem Wissen und Urteilskraft, das die menschlichen Geschicke leiten solle. Man gehe dabei allerdings die Gefahr ein, dass sich dieser Gott gegen die Menschheit richten könnte, obwohl er von Menschenhand gebaut sei. Stutzig machte vor allem die Erwähnung, dass dieser Gott uns von der biblischen Ursünde erlösen solle.

Gumbrecht ist nicht der Erste, der das Thema Künstliche Intelligenz (KI) als Gott aufbringt. Erst vor kurzem vermeldete der «Guardian» unter dem Titel «Deus Ex Machina», dass Ex-Google-Mitarbeiter Levandowski Künstliche Intelligenz als Religion anmelden wolle. Kurze Zeit später vermeldete Google seinen neuesten Triumph. Es sei gelungen, ein KI-System zu bauen, das ganz von selber lerne, das Strategiespiel Go zu gewinnen, und zwar so gut, dass es auch die Weltmeister schlagen könne. Es wurde zugleich suggeriert, dass man jetzt einen Ansatz gefunden habe, mit dem man früher oder später alle Probleme der Menschheit lösen könne, einschliesslich jener, die uns Menschen über den Kopf gewachsen sind.

Nur wenige Tage später titelte «Spiegel Online»: «Ein Gott braucht keine Lehrmeister». Bereits 2013 diskutierte ich in einem «NZZ»-Artikel unter dem Titel «Google als Gott?» die Chancen und Risiken des Informationszeitalters. Und 2015 fragte das DigitalManifest im «Spektrum der Wissenschaft»: «Angenommen, es gäbe eine superintelligente Maschine, die quasi gottgleiches Wissen und übermenschliche Fähigkeiten hätte – würden wir dann ehrfürchtig ihren Anweisungen folgen?»

Manche Leser hielten die Frage damals für lächerlich. Doch das Lachen ist vielen inzwischen vergangen. Denn Suchmaschinen und Geheimdienste wissen alles über uns. Längst leben wir in der Big-Brother- Welt. George Orwells dystopischer Roman «1984», 1948 verfasst, war als Warnung gedacht. Doch immer öfter beschleicht uns das Gefühl, er wurde als Gebrauchsanleitung benutzt.

Die heutige Daten-getriebene Welt hat zwei Grundsätze: «Daten sind das neue Öl» und «Wissen ist Macht». Stück um Stück hat dies fast unmerklich zu einer neuen Gesellschaft geführt. Es gibt eine neue Währung: «Daten» ersetzen das klassische Geld. Es gibt ein neues Wirtschaftssystem: die «Aufmerksamkeitsökonomie», in der man unsere Aufmerksamkeit im Zehntelsekundentakt versteigert. Dazu vermessen die Unternehmen des «Überwachungskapitalismus» unser Verhalten, unsere Persönlichkeit und unser Leben immer detaillierter. In Zeiten kostenloser Services sind wir selber zum Produkt geworden.

Laufen wir Gefahr, unsere Freiheiten, Menschenrechte und Mitwirkung an der Gesellschaft Stück um Stück, beinahe unmerklich zu verlieren? Verzichten wir aus Angst vor Terrorismus, Klimawandel, und Cyberkriminalität auf Dinge, die uns wichtig sind? Drohen wir, vom selbstbestimmten Bürger zum Untertanen zu werden? Möglich wärs! Schon testet China den «Citizen Score». Dabei hat jeder Bürger einen Punktestand. Punktabzug gibt es, wenn es die Regierung für richtig hält. Bestraft wird, wer seinen Kredit nicht gleich bezahlt, bei Rot über die Ampel geht, die «falschen» Freunde oder Nachbarn hat oder kritische Nachrichten liest. Der Punktestand bestimmt die Jobchancen, Kreditkonditionen und Reisemöglichkeiten. Grossbritannien geht sogar noch einen Schritt weiter. Es vermisst seine Bürger einschliesslich der Videos, die sie sehen, und der Musik, die sie hören. Das dortige System heisst «Karma Police». Wird es also einmal Gedankenverbrechen ahnden, werden Sie nun vielleicht fragen? Ist «Karma Police» eine Art «Jüngstes Gericht» auf Abruf?

Müssen wir das akzeptieren? Computer treffen die besseren Entscheidungen, wird oft gesagt. In der Tat sind Computer seit Jahren schon die besseren Schachspieler. In vielen Bereichen sind sie die besseren Arbeiter. Sie werden nicht müde, beklagen sich nicht, machen keinen Urlaub, und müssen keine Steuern und Sozialabgaben zahlen. Bald sind sie die besseren Autofahrer. Sie diagnostizieren Krebs besser als Ärzte, können Fragen besser beantworten als Menschen – jedenfalls jene, die bereits eine Antwort haben. Wann werden sie zum Richter und Henker? Wann ersetzen sie uns?

Um auf die Eingangsfrage zurückzukommen: Baut Google nun den digitalen Gott? Mit dem Loon Projekt versucht das Unternehmen zumindest, allgegenwärtig zu sein. Mit seiner Suchmaschine, Sprachassistenten und Mess-Sensoren in unserer Wohnung bemüht sich Google, allwissend zu sein. Zwar ist das Unternehmen noch nicht allmächtig, aber es gibt immerhin Antworten auf 95 Prozent unserer Fragen. Durch personalisierte Informationen steuert Google zunehmend unser Denken und Handeln. Mit dem Projekt Calico wird ausserdem versucht, Menschen unsterblich zu machen. Würde Google in einer überbevölkerten Welt also auch zum Herrscher über Leben und Tod? Der «Guardian» schrieb kürzlich jedenfalls, ein KI-Gott würde bald eine neue Bibel schreiben. Würde er also Gebote festlegen, nach denen wir zu leben hätten? Müssen wir bald einen Algorithmus anbeten und uns ihm unterwerfen?

Gewiss träumt mancher schon von einem digitalen Gott, der unsere Weltgeschicke lenkt. Was für die einen jedoch die Erfindung Gottes durch Menschenhand ist, ist für Christen die ultimative Gotteslästerung, gewissermassen die Schaffung des Antichristen. Wie auch immer man dazu stehen mag: Der Satz «Wissen ist Macht» ist sicherlich manchem zu Kopf gestiegen. Google, IBM und Facebook wird nachgesagt, an einem neuen Betriebssystem für die Gesellschaft zu arbeiten. Die Demokratie wird als veraltete Technologie gebrandmarkt. Man möchte ein digitales Paradies auf Erden schaffen – einen smarteren Planeten, auf dem alles vollautomatisch funktioniert.

Doch selbst im Silicon Valley, dem Herzen der technologischen Entwicklung, gibt es die Warner, denen der Fortschritt nicht mehr geheuer ist. Elon Musk beispielsweise fürchtet, dass die Künstliche Intelligenz, zur grössten Bedrohung der Menschheit werden könnte, wenn sie falsch verwendet werde. Auch Bill Gates musste zugeben, dass er im Camp jener sei, die über Superintelligenz besorgt seien. Der berühmte Physiker Stephen Hawking warnte, Menschen würden mit der Entwicklung der Künstlichen Intelligenz nicht mithalten und ersetzt werden. Apple-Mitbegründer Steve Wozniak sieht das ähnlich: «Computer werden Menschen ablösen, keine Frage», äusserte er sich und fuhr fort: «Werden wir wie Götter sein, wie Haustiere, oder wie Ameisen, die achtlos zertreten werden? Ich weiss es nicht.»

Die Sorge, dass sich die Technologie einst gegen den Menschen wenden könnte, ist indessen schon alt. Neben George Orwells «1984» und «Animal Farm», warnte schon Aldous Huxleys «Brave New World» vor dem Totalitarismus. Plötzlich erinnert man sich auch wieder an «The Machine Stops» von Edward Morgan Forster aus dem Jahre 1909 (!). Auch «Homo Deus» von Yuval Noah Harari und Joel Cachelins «Internetgott» sei in diesen Zeiten jedem empfohlen. Wer Science-Fiction mag, wird vielleicht «iGod» von Willemijn Dicke mögen.

Die Frage, die sich nicht nur Science-Fiction-Schriftsteller stellen sollten, sondern alle lautet: In welcher Zukunft wollen wir leben? Noch nie hatten wir bessere Chancen, eine Welt nach unserem Geschmack zu bauen, aber dazu müssen wir die Zukunft schon selber in die Hand nehmen. Es wird also höchste Zeit, die selbst verschuldete digitale Unmündigkeit zu überwinden. Um uns von den digitalen Fesseln zu befreien, braucht es digitale Aufklärung. Noch entwickelt sich die Demokratie marktkonform und die Wirtschaft technologiegetrieben. Stattdessen sollten wir die Wirtschaft so gestalten, dass sie Mensch und Gesellschaft dient, und Technologie sollte unser Mittel sein, dies zu erreichen. In «The Globalist» habe ich kürzlich meine Vision einer digitalen Gesellschaft der Zukunft skizziert. Vielleicht haben Sie eigene Ideen, wie wir Big Data und Künstliche Intelligenz nutzen können. In jedem Fall gilt: Eine bessere Zukunft ist möglich! Fordern wir sie ein, gestalten wir sie mit! Worauf warten wir noch?