Maschinelle Intelligenz - Fluch oder Segen? Es liegt an uns!

Ein Beitrag von Dirk Helbing (ETH Zürich und TU Delft)

Künstliche Intelligenz (KI) kann uns in vielerlei Hinsicht eine große Hilfe sein. Vor allem in Verbindung mit Robotern könnte sie uns im Alltag entlasten (z. B. beim Saubermachen). Sie kann uns schwere, gefährliche oder langweilige Arbeiten abnehmen. Sie kann helfen, Leben zu retten und Katastrophen besser zu bewältigen. Sie kann Alte und Kranke unterstützen. Sie kann uns täglich zur Hand gehen und unser Leben interessanter machen. Die meisten von uns würden gerne von diesen neuen Möglichkeiten profitieren, dessen bin ich mir sicher. Allerdings war bislang noch jede Technologie mit Nebenwirkungen und Gefahren verbunden. Wenn wir nicht aufpassen, können Menschen ihr Recht auf Selbstbestimmung und Demokratie, Unternehmen die Kontrolle und Staaten ihre Souveränität verlieren. Im Folgenden zeige ich Ihnen anhand eines Worst-Case- und eines Best-Case-Szenarios, dass sich unsere Gesellschaft an einem Scheideweg befindet. Jetzt kommt es darauf an, den richtigen Weg zu gehen.

Über lange Zeit war der Fortschritt der Forschung auf dem Gebiet der künstlichen Intelligenz (KI) äußerst schleppend. Allerdings nehmen solche Entwicklungen einen exponentiellen Fortschrittsverlauf. Nach Jahrzehnten sehr langsamer, kaum spürbarer Veränderungen geht plötzlich alles sehr schnell und wird immer schneller. Ray Kurzweil, ein Technologie-Guru aus dem Silicon Valley, der am Google Brain-Projekt arbeitet, geht davon aus, dass Computer bis 2030 die Leistungsfähigkeit des menschlichen Gehirns und bis 2060 die Leistungsfähigkeit aller menschlichen Gehirne zusammen übertrumpfen werden. Prognosen dieser Art galten lange als Science Fiction, doch mit neuen Deep Learning-Algorithmen kann KI eigenständig lernen und explosionsartige Fortschritte erzielen.

Computer sind bereits seit Jahrzehnten die besseren Schachspieler und uns mittlerweile in fast allen beliebten Strategiespielen überlegen. Der Watson-Computer von IBM gewinnt sogar Spielshows – und nicht nur das: Auch bei vielen medizinischen Diagnosen überragt er die humane Konkurrenz. Heutzutage werden rund 70 Prozent aller Finanzgeschäfte durch autonome Computeralgorithmen getätigt und schon bald gibt es selbstfahrende Autos, die unsere Fahrkünste in den Schatten stellen. Auch wenn es darum geht, Handschriften zu erkennen, Sprachen zu verstehen und zu übersetzen oder Muster zu identifizieren, kommen Algorithmen den menschlichen Fähigkeiten sehr nahe. In Anbetracht der Tatsache, dass 90 Prozent der heutigen Berufe genau diese Fähigkeiten erfordern, wird es schon sehr bald möglich sein, Routineaufgaben durch Computeralgorithmen oder Roboter zu ersetzen, die leistungsfähiger sind, nie müde werden, sich nicht beschweren und keine Sozialversicherungsbeiträge oder Steuern zahlen.

In meinem Beitrag zu John Brockmans Buch "What to Think About Machines that Think" ^[1] beschreibe ich die Situation wie folgt: "Durch den explosionsartigen Anstieg der Rechenleistung und Datenmenge, angeheizt durch leistungsfähige Machine Learning-Algorithmen, überholt siliziumbasierte Intelligenz auf lange Sicht die kohlenstoffbasierte Intelligenz. Intelligente Maschinen müssen nicht mehr programmiert werden. Sie lernen und entwickeln sich eigenständig – und zwar viel schneller, als sich die menschliche Intelligenz entwickelt."

Jim Spohrer von IBM prognostiziert: "KI mag uns anfangs noch als Instrument dienen, aber schon bald werden Roboter unsere Teamkollegen und dann unsere Lehrer sein." Ich bin überzeugt, dass KI neue intelligente "Lebensformen" hervorbringen wird. Aber wird hochentwickelte KI dem Menschen weiterhin dienen, ihn versklaven oder ihn einfach links liegen lassen (wie der Deep Learning-Experte Jürgen Schmidhuber vermutet)? Zum jetzigen Zeitpunkt kann niemand diese Frage beantworten. Steve Wozniak, Mitbegründer von Apple, kommentiert dies wie folgt:^[2] "... Ich stimme zu, dass die Zukunft der Menschheit beängstigend und wenig rosig aussieht. Wenn wir zulassen, dass uns Maschinen alles abnehmen, werden sie über kurz oder lang schneller denken als wir und sich der langsamen Menschen entledigen, da sie Unternehmen selbst sehr viel effizienter führen können. [Aber:] Werden wir wie Götter verehrt? Wie Haustiere gehalten? Oder wird auf uns wie auf Ameisen herumgetrampelt? Ich weiß es nicht..." Die Technologievisionäre Bill Gates und Elon Musk äußerten kürzlich ähnliche Bedenken hinsichtlich Superintelligenz. Was macht sie so nervös?

In "What to Think About Machines that Think" analysiere ich das Phänomen wie folgt: "Die Menschen konnten nur schwer akzeptieren, dass die Erde nicht der Mittelpunkt des Universums ist, und sie wollen oft noch immer nicht einsehen, dass die Menschheit durch Zufall und Selektion entstanden ist, wie wir durch die Evolutionstheorie wissen. Jetzt stehen wir kurz davor, als intelligenteste Lebensform auf der Erde abgelöst zu werden. Sind wir dafür bereit?"

Kurz gesagt: "Nein, wir sind nicht dafür bereit, aber wir sollten uns so schnell wie möglich darauf vorbereiten." Ich möchte mit dem Worst-Case-Szenario beginnen, bevor ich zum Best-Case-Szenario komme.

Worst-Case-Szenario

Wurden in der Vergangenheit Bedenken laut, KI könne die Weltherrschaft übernehmen, beruhigten uns die Experten immer damit, dass wir jederzeit den Stecker ziehen und so das Problem lösen könnten. Leider ist dem nicht so. Erstens würden viele Wirtschafts- und Gesellschaftsbereiche nicht mehr funktionieren, wenn wir intelligente Maschinen einfach abschalten, darunter unsere Geld- und Kommunikationssysteme, viele wichtige Infrastrukturen und die zugehörigen Sicherheitseinrichtungen. Zweitens ist uns KI in gewisser Weise schon entronnen. Seitdem Google seine Machine Learning-Software "Tensorflow" als Open Source bereitstellt,^[3] kann sie von jedermann frei verwendet werden, auch von Kriminellen und Terroristen. Als Konsequenz dieser KI-Verbreitung erwarten wir einen weiteren Anstieg bei Internetkriminalität und Cyberwar-Bedrohungen. Schon heute verursacht Internetkriminalität jedes Jahr wirtschaftliche Verluste von 3 Billion US-Dollar, Tendenz rapide steigend.

Meine Hauptsorge ist jedoch nicht, dass KI die Weltherrschaft übernehmen könnte, sondern vielmehr, dass eine kleine Personengruppe versuchen könnte, mithilfe von KI-Technologie die Weltherrschaft an sich zu reißen. Lassen Sie mich an dieser Stelle kurz die bisherige Entwicklung zusammenfassen: In den 1970er Jahren experimentierte Chile – inspiriert durch die Arbeit von Norbert Wiener (1894 – 1964) – mit einem dritten politischen System neben Kommunismus und Kapitalismus, der kybernetischen Gesellschaft. In diesem System müssen Fabriken regelmäßig ihre Produktionszahlen einem Kontrollzentrum melden, welches ihnen daraufhin sagt, wie sie ihre Produktion anzupassen haben. In Anbetracht des damaligen Stands der Informationstechnologie funktionierte das System überraschend gut. Vor allem half es der Regierung, einen Generalstreik abzuwenden. Die CIA unterstützte jedoch einen Militärputsch im Land, durch den am 11. September 1973 die chilenische Regierung gestürzt wurde; Präsident Salvador Allende beging Selbstmord.

Scheinbar sind in der Zwischenzeit neue kybernetische Gesellschaftsformen entstanden, die sich Massenüberwachungsdaten zunutze machen. Singapur betrachtet sich selbst beispielsweise als Soziallabor.^[4] Gerechtfertigt durch die Terrorgefahr werden große Mengen persönlicher Daten über jeden einzelnen Bürger gesammelt. Diese werden anschließend in KI-Systeme eingespeist, die dadurch lernen, wie sich die Bürger verhalten. Ein Beispiel hierfür ist das "China Brain"-Projekt. Anders ausgedrückt: Anhand unserer persönlichen Daten werden digitale Double von uns kreiert, die unsere Entscheidungen und Verhaltensweisen imitieren. Diese Imitation ist jedoch nicht perfekt. Deshalb werden Methoden entwickelt, um unsere Entscheidungen zu manipulieren und unser Verhalten zu steuern.

Die obigen Ansätze basieren auf der Arbeit von Burrhus Frederic Skinner (1904 – 1990). Er sperrte Tiere, z. B. Ratten, Tauben oder Hunde, in sogenannte "Skinner Boxes" und setzte sie gewissen Reizen aus. Durch Belohnung (wie Essen) und Bestrafung (wie Elektroschocks) konditionierte er die Tiere so, dass sie die gewünschten Verhaltensweisen an den Tag legten. Heute sind wir die Versuchskaninchen von Unternehmen wie Google und Facebook,^[5] die tagtäglich Millionen automatisierter Experimente mit uns machen. Unsere Skinner-Box ist die um uns herum entstehende "Filterblase"^[6], das heißt die personalisierten Informationen über die Welt, die uns erreichen und uns bestimmten Reizen aussetzen. Dabei lernen die KI-Systeme, wie wir auf diese Reize reagieren und wie durch diese Reize das gewünschte Verhalten ausgelöst werden kann.

Anders gesagt, der Trend geht von der Programmierung des Computers zur Programmierung des Menschen.^[7] Diese Manipulation geschieht häufig so subtil, dass wir es gar nicht merken. Was wir als eigene Entscheidung wahrnehmen, wird tatsächlich oft von anderen bestimmt und uns heimlich übergestülpt. Die Technologie, die ursprünglich zur Personalisierung und effektiveren Gestaltung von Werbeanzeigen entwickelt wurde, wird heute vermehrt auch als politisches Instrument eingesetzt. Mittels "Big Nudging",^[8] zusammengesetzt aus "Nudging" (engl. für Stupsen oder Schubsen) aus der Verhaltensökonomik und "Big Data" über all unsere Verhaltensweisen, werden die öffentliche Meinung und die Wahlergebnisse beeinflusst.

Der Nudging-Ansatz hat jedoch nicht die Macht, ein gesundes und umweltbewusstes Verhalten der Bevölkerung in einem Land zu bewirken.^[9] Dies ist der Grund, weshalb effektivere Feedback-Mechanismen, wie personalisierte Preise, entwickelt werden. Der "Citizen Score",^[10] wie er derzeit in China implementiert wird, ist der erste Schritt in diese Richtung. Alles, was die Bürger tun, erhält eine positive oder negative Bewertung: das Kaufverhalten ebenso wie die angeklickten Links im Internet. Sowohl die politische Meinung als auch das Verhalten in sozialen Netzwerken wird ausgewertet.

Der Citizen Score legt fest, welche Kreditkonditionen und welche Jobs eine Person bekommt und in welche Länder sie reisen darf oder nicht. Durch den Citizen Score entsteht so ein moderndes "Kastensystem". Bei Engpässen bestimmt der Score, wer Anspruch auf knappe Ressourcen hat und wer nicht. Der Citizen Score ist ein Mechanismus, mit dem wir auf der Grundlage willkürlicher, durch "Big Governments" oder "Big Business" ausgewählter Kriterien Tag des Jüngsten Gerichts spielen.  

Höchstwahrscheinlich kommen Big Nudging- und Citizen Score-Technologien nicht nur in Singapur und China zum Einsatz. Wenn man dem "Nudging-Papst" Richard Thaler Glauben schenkt, haben in den letzten Jahren mindestens 90 Länder "Nudging-Einheiten" eingerichtet. Bislang ist wenig über diese Einheiten an die Öffentlichkeit gedrungen. Wir können jedoch davon ausgehen, dass sie über leistungsfähige IT-Infrastrukturen verfügen, die mit persönlichen Daten aus Massenüberwachungs- und Profiling-Tätigkeiten privater Unternehmen gefüttert werden. Die Führung autokratischer Staaten, wie Saudi-Arabien, macht sich diese Infrastrukturen zunutze.

Das Ziel von Big Nudging und Citizen Scores liegt vermutlich darin, Gesellschaften nach dem Modell von Singapur oder China zu kontrollieren. Grundgedanke ist eine datenbasierte, kybernetische Gesellschaft, die von einem "gutmütigen Diktator" regiert wird. Ein solcher Ansatz widerspricht allerdings den demokratischen Prinzipien und Verfassungsrechten. Sollte das singapurische oder das chinesische Modell in den zuvor genannten 90 Ländern zur Anwendung kommen, gefährdet dies alle Demokratien weltweit.^[11]

Das Problem besteht darin, dass eine digitale Machtübernahme problemlos möglich und nicht umkehrbar ist. Beispielsweise kann jeder, der Zugang zu einer Big Nudging-Infrastruktur hat, ein Wahlergebnis beeinflussen.^[12] Ferner können Terroranschläge oder andere Ereignisse, die die Bevölkerung traumatisieren, ausgenutzt werden, um die demokratischen Grundrechte einzuschränken. So geschehen in Frankreich, wo Massenüberwachung bereits heute genutzt wird, um die eigenen Bürger in Schach zu halten und die Opposition zu unterdrücken, wie ein hochrangiges UN-Komitee kritisierte.^[13] Auch am Beispiel Polens zeigt sich, wie einfach es ist, demokratische Institutionen wie das Verfassungsgericht und die Pressefreiheit zu untergraben. Ähnliche Entwicklungen sind in Ungarn mit der geplanten Verfassungsänderung^[14] zu beobachten ebenso wie in der Türkei, in der sowohl die Opposition als auch die kurdische Minderheit schon heute unterdrückt werden.

Angesichts des beängstigenden Potenzials, Schaden anzurichten und Grundrechte zu verletzen, das der oben beschriebene Zusammenschluss der Technologien mit sich bringt, benötigen wir dringend Initiativen, die möglichst rasch die folgenden Maßnahmen umsetzen:

• Die obigen Instrumente bedürfen einer demokratischen Kontrolle durch das Parlament und dürfen nicht von einem Kanzler oder Präsidenten, dem Militär oder dem Geheimdienst eigenmächtig angewendet werden.
• Den Oppositionsparteien sollte sinnvollerweise Zugang zu diesen Informationssystemen gewährt werden, um ein ausgewogenes Machtverhältnis sicherzustellen. (Bedenken Sie, dass zum Verständnis und zur Kontrolle komplexer Systeme wie unserer Gesellschaft eine pluralistische Herangehensweise notwendig ist.)
• Die Nutzung dieser Instrumente muss einem demokratischen Mandat und wissenschaftlichen Prinzipien folgen. Sie sollten von interdisziplinären Teams führender Wissenschaftler betrieben werden (darunter Psychologen, Soziologen, Wirtschaftswissenschaftler, Informatiker und Komplexitätsforscher). Diese Gruppen müssen offen für einen internationalen Austausch sein und vor öffentlichen internationalen Konferenzen Rechenschaft über ihre Aktivitäten ablegen.
• Eine ethische Aufsicht sollte gewährleistet sein.
• Persönliche Daten müssen anonymisiert und Datenschutzverletzungen bestraft werden.
• Transparenz bezüglich der laufenden Aktivitäten ist wichtig. Es muss aufgezeichnet werden, wer das System wie nutzt, und die Nutzung muss der Öffentlichkeit regelmäßig in verständlicher Form offengelegt werden.
• Es muss eine Opt-Out-Möglichkeit bestehen (zumindest vom Scoring und Big Nudging), um die Selbstbestimmung über persönliche Daten zu gewährleisten. (Dies würde auch eine vertrauenswürdige Nutzung der Methoden fördern.)
• Sollten soziale Experimente unerwünschte Nebenwirkungen haben, müssen die Opfer angemessen entschädigt werden.

Aller Voraussicht nach werden die Geheimdienste einen individuellen Zugang zu diesen Informationssystemen haben wollen, aber auch für sie sollten bestimmte Prinzipien gelten:

• Die Nutzung dieser Instrumente muss aufgezeichnet werden. Nudging im großen Stil sollte verboten werden. Auf individueller Ebene kann Nudging im Einzelfall zulässig sein.
• Massenüberwachung muss ebenfalls verboten werden. Die Aufhebung der Anonymität sollte auf einzelne Personen beschränkt werden und demokratischen Kontrollen unterliegen.

Privatunternehmen müssen die neue europäische Datenschutz-Grundverordnung beachten. Dabei muss die Regierung deren Einhaltung nicht nur durch große IT-Unternehmen, sondern auch durch relativ unbekannte Unternehmen, die mit unseren persönlichen Daten handeln, durchsetzen.

Die Demokratie verdient zweifellos ein "digitales Upgrade"^[15], aber wenn sie aussterben würde, wäre dies eine Katastrophe für die Zukunft unseres Planeten, d. h. wenn es keinen Wettbewerb mehr zwischen verschiedenen politischen Systemen gäbe. Es ist nachgewiesen, dass langfristig nur Demokratien friedlich koexistieren können, was auf dem effektiven Gleichgewicht unterschiedlicher gesellschaftlicher Interessen beruht (durch Subsidiarität, föderale Organisation, Gewaltentrennung und Bürgerbeteiligung). Wir müssen uns vor Augen führen, dass diese institutionellen Strukturen ebenso wie die Menschenrechte und unser Rechtssystem Ergebnis einer mehr als hundertjährigen Geschichte sind, inklusive zweier Weltkriege.

Weshalb bin ich so sicher, dass ein demokratischer, datenbasierter Ansatz überlegen ist? Weil es einen ähnlichen Fall in unserer Geschichte bereits gab: den Wettbewerb zwischen zentral regierten kommunistischen Regimes mit hierarchischen Strukturen von oben nach unten und föderal organisierten kapitalistischen Systemen, die in höherem Maße von unten nach oben gelenkt wurden. Der Kapitalismus gewann diesen Wettbewerb, weil Innovation meist von unten nach oben geschieht. (Die reichsten Personen der Welt haben ihr Geld größtenteils in wenigen Jahrzehnten mit vollkommen neuen Geschäftsmodellen gemacht. Nicht wenige dieser Unternehmen wurden von Studienabbrechern in irgendeiner Garage gegründet.)

Umfassende Analysen empirischer Daten belegen, dass der Wechsel von einem autokratischen zu einem demokratischen System häufig mit starkem Wirtschaftswachstum einhergeht. Eine Veränderung in umgekehrter Richtung hingegen führt mittelfristig zu einem Verlust von soziopolitischem Kapital und langfristig zur Stagnation des Wirtschaftswachstums.^[16] Der Preis für die Abschaffung unserer demokratischen Grundordnung ist also hoch.

Ich arbeite weiterhin an einem wissenschaftlichen Projekt zur Erforschung virtueller (Gaming-) Welten mit. Hier fanden wir heraus, dass Welten, die automatische Sanktionsmechanismen ähnlich dem Citizen Score verwenden, nicht nur weniger attraktiv, sondern auch weniger innovativ sind.

Ich möchte Singapur und China keineswegs kritisieren. Es ist durchaus möglich, dass ihre Governance-Modelle die beste Lösung für ihre Gesellschaften in der derzeitigen historischen Situation sind. Ich bezweifle jedoch, dass dieser Ansatz sich als Modell für den Rest der Welt eignet. Demokratische Staaten sollten sich hieran kein Beispiel nehmen. Für sie muss ein anderes Modell entwickelt werden (siehe Best-Case-Szenario weiter unten).

Bedenken Sie auch, dass der Erfolg von Singapur nicht allein auf dem datenbasierten Ansatz beruht. Singapur ist auch eine Steueroase und importiert Innovationen aus den USA, Deutschland, der Schweiz usw. in weit größerem Umfang, als andere Länder dies tun. Ohne diese Importe wäre die Innovationskraft deutlich geringer. Dabei stelle ich nicht den Import von Innovation aus anderen Ländern in Frage, ich möchte lediglich darauf hinweisen, dass in anderen Ländern liberalere Strukturen notwendig sind, damit diese Innovationen überhaupt erst entstehen. Singapur weiß das^[17], weshalb das Land derzeit versucht, mehr Raum für ein gewisses Maß an "kreativem Chaos" zu schaffen.

Auch China wurde schon oft als politisches Rollenmodell vorgeschlagen. Der durchschnittliche Lebensstandard in China ist jedoch trotz der beeindruckenden Entwicklung nach wie vor sehr viel niedriger als in vielen demokratischen Ländern. Zudem ist das Land derzeit mit akuten Umweltproblemen und großen Marktturbulenzen konfrontiert. Dabei spürt es zunehmend die Grenzen der zentralisierten Führung und weiß, dass es für seine weitere Entwicklung pluralistischer und demokratischer werden muss.

Schließlich sollte es uns zu denken geben, dass keine der IT-Supermächte wie die USA, China oder Singapur eine Stadt in der Liste der zehn lebenswertesten Städte der Welt hat. Wie können wir also annehmen, dass diese Governance-Modelle Gesellschaften mit einer besonders hohen Lebensqualität hervorbringen? Wenn Unternehmen wie Google ein Paradies auf Erden erschaffen könnten, warum ist San Francisco dann nicht die attraktivste Stadt unseres Planeten? Stattdessen liegen die attraktivsten Städte alle in Ländern, die auf ein ausgewogenes Interessenverhältnis aller Beteiligten achten, die Zivilgesellschaft eingeschlossen.

Zusammenfassend lässt sich festhalten, dass die Selbstbestimmung der Menschheit derzeit auf dem Spiel steht, was uns große Sorgen bereitet. Big Nudging, Citizen Scores und Implantate ebnen den Weg für digitale Sklaverei. Dies gefährdet nicht nur die Freiheit der Menschen. Es riskiert auch die Souveränität von Unternehmen und ganzen Ländern. Auslöser sind dabei nicht nur Massenüberwachung und Spionage. Mithilfe von KI-Systemen lassen sich auch die Schwächen von IT-Systemen und Personen aufdecken, indem bestimmte Reize ausgesendet und die Reaktionen darauf aufgezeichnet werden. So können wir nicht nur lernen, wie wir die Menschen manipulieren (siehe oben), sondern erfahren auch, wie wir IT-Systeme und wichtige Infrastrukturen kontrollieren. Tatsache ist, dass selbst unabhängige KI-Systeme extern steuerbar sind: Dadurch dass sie auf Informationsinput reagieren, lässt sich der Output manipulieren. Die Konsequenz daraus ist, dass derjenige mit dem leistungsfähigsten KI-System alle anderen KI-Systeme und folglich alle Unternehmen, Institutionen und Menschen, die von diesen manipuliert werden, kontrollieren kann. Die explosionsartige technologische Entwicklung, wie Quantencomputing, Memristor-Technologien und lichtwellenbasierte LiFi-Kommunikation, löst ein Wettrennen um die Weltherrschaft aus.

Anders formuliert, die Technologie intensiviert das Wettrennen um die Herrschaft über die Welt und ihre Ressourcen. Heute kontrollieren angeblich 62 Personen so viel Kapital wie 50 Prozent der Weltbevölkerung.^[18] Angeführt wird diese Rangliste von folgenden Personen: Bill Gates (Microsoft, USA), Amancio Ortega (Mode, Spanien), Warren Buffet (Finanzen, USA), Jeff Bezos (Amazon, USA), Carlos Slim Helu (Telekommunikation, Mexiko), Larry Ellison (Oracle, USA), Mark Zuckerberg (Facebook, USA), Charles und David Koch (Öl und andere Produkte, USA), Liliane Bettencourt (L'Oreal, Frankreich), Michael Bloomberg (Finanzdaten, USA), Larry Page (Google, USA), Sergey Brin (Google, USA). Wir beobachten, dass Unternehmen, die mit Daten, Software und Informations- sowie Kommunikationstechnologien handeln, die meisten klassischen Geschäftsmodelle überholen. Ich gehe davon aus, dass wir auch in Zukunft einen raschen Konzentrationsprozess erleben werden, bis die Welt nur noch von sehr wenigen Personen kontrolliert wird.

Auch wenn ich grundsätzlich nichts gegen Freihandelsabkommen habe, steht zu erwarten, dass die geplanten TTIP- und TISA-Abkommen diesen Konzentrationsprozess beschleunigen werden. Letzten Endes wird ein Großteil des Geldes, der Macht und der Ressourcen in den Händen sehr weniger Menschen liegen (die vermutlich nicht in Europa leben). Diese Menschen können dann wie Diktatoren über das Schicksal des Planeten entscheiden. Werden diese Menschen ein Grundeinkommen zahlen oder sich für andere Lösungen einsetzen, die den vielen Arbeitslosen ein Überleben ermöglichen, deren Aufgaben zukünftig von Robotern oder KI-Systemen erledigt werden? Oder steht uns ein Weltkrieg bevor, durch den die Bevölkerung auf, sagen wir, vielleicht eine Milliarde hochqualifizierter Personen zusammengeschrumpft wird, die wir brauchen, um die tolle neue Datenwelt zu führen? Gleich mehrere IT-Unternehmen bauen jetzt eigene Weltraumraketen. Ihr Ehrgeiz, das Universum zu erobern, lässt sich also kaum ignorieren.

Ich glaube jedoch, dass eine Weltherrschaft egal welcher Art weder dem Planeten noch der Menschheit gut täte, und damit bin ich nicht alleine. Über 20.000 Personen haben kürzlich eine Petition unterschrieben, den Einsatz von KI als Waffe gegen die Menschheit zu verbieten.^[19] Meiner Ansicht nach sollten wir uns vielmehr um ein kooperatives KI-Paradigma bemühen und uns von "Big Nudging", "Citizen Scores" und ähnlichen Ansätzen distanzieren, mit denen Millionen, wenn nicht gar Milliarden Menschen von zentraler Stelle aus und von oben nach unten kontrolliert werden können und die nur allzu leicht ein totalitäres Regime hervorbringen, wie wir es bislang nicht kannten.

Best-Case-Szenario

Zum Glück gibt es aber auch positive Aussichten. Wir stehen an der Schwelle eines neuen Zeitalters – das der digitalen Gesellschaft und Wirtschaft 4.0. Um diesen Wandel erfolgreich zu vollziehen, müssen wir gleiche Chancen für alle schaffen: Wirtschaft, Politik, Wissenschaft und Bürger. Mit den neuen Informations- und Kommunikationstechnologien ist dies heute einfacher als je zuvor. Die gute Nachricht ist, dass die digitale Wirtschaft kein "Nullsummenspiel" ist. Sie erlaubt uns, den exklusiven Wettbewerb unserer materiellen Welt und unseres alten Wirtschaftssystems zu überwinden. Wettbewerb und Kooperation schließen sich heute nicht mehr aus. Das neue Paradigma heißt "Co-opetition". Wenn es uns gelingt, einen geeigneten gesetzlichen Rahmen zu schaffen, können wir alle am Wohlstand teilhaben.

Die Vorteile eines offenen Informationsaustauschs werden immer offensichtlicher. Mehr und mehr Menschen erkennen, dass Informationen, Erfindungen und Unternehmen durch diesen Austausch an Wert gewinnen. Richtig organisiert eröffnet die digitale Wirtschaft nahezu unbegrenzte Möglichkeiten, da immaterielle Güter beliebig oft reproduzierbar und auf unzählige Arten nutzbar sind. Beispielsweise wird immer mehr Geld in virtuellen Welten verdient. Das bezieht sich nicht nur auf Computerspiele; wie Bitcoin gezeigt hat, lassen sich Bits in Gold verwandeln. Kaum jemand hätte dies für möglich gehalten.

Wenn wir die Herausforderungen, vor denen die Menschheit derzeit steht, meistern möchten, werden wir unsere Wirtschaft und Gesellschaft völlig neu organisieren (müssen). Zweifellos wird die Welt in den nächsten drei Jahrzehnten verstörende Zeiten mit gravierenden Problemen durchleben: digitale Revolution, Finanz- und Wirtschaftskrisen, Klimawandel (mit extremen Wetterbedingungen und einem Verlust an Biodiversität), Energiewandel, demografische Herausforderungen (wie Alterung und Migration) und labile Friedenslagen.

Ich denke nicht, dass Big Data und künstliche Intelligenz das Allheilmittel für diese Probleme sind (siehe Anhang). Die Welt ist zu komplex, als dass ein Blick in die "Big-Data-Glaskugel" zuverlässige Zukunftsperspektiven liefern könnte; Predictive Analytics und Kontrollen können sogar kontraproduktiv sein. Sie halten uns möglicherweise davon ab, neue Wege zu beschreiten, da KI-Systeme auf zurückliegenden Daten beruhen und dazu neigen, vergangene Lösungen zu reproduzieren (sogar einen Krieg im Extremfall).

Wir benötigen stattdessen eine belastbare und funktionsfähige Gesellschaftsordnung. Voraussetzung hierfür sind diverse Systemkomponenten, modulare Systemdesigns und dezentrale Kontrollmechanismen, zum Beispiel eine Beteiligung von unten nach oben. Ein solcher Ansatz erlaubt uns eine flexible Anpassung an unvorhergesehene Ereignisse. Zudem müssen wir die Innovationsrate drastisch anheben. Aus diesen Gründen nehme ich an, dass die neuen Organisationsprinzipien unserer zukünftigen Gesellschaft kollektive Intelligenz und Co-evolution in einer hochgradig diversifizierten, vernetzten Wirtschaft sein werden – eine neu entstehende partizipatorische Gesellschaft, die als "Innovationsökologie" betrachtet werden kann.

Wenn wir die Innovation ankurbeln wollen, ist der Einsatz von Big Nudging und Citizen Scores kontraproduktiv. Diese fördern Opportunismus und Konformismus, anstatt die Risikobereitschaft der Menschen zu stärken und vorhandene Lösungen zu hinterfragen – was in der jetzigen Situation unverzichtbar ist.

Wir brauchen darüber hinaus einen grundlegend neuen Innovationsansatz, der mehr Wert auf offene Innovation legt als bisher, damit auch all die Produkte und Dienstleistungen bereitgestellt werden können, die große Unternehmen aktuell nicht im Angebot haben. Citizen Science (Bürgerwissenschaft), sogenannte Fablabs (öffentliche Zentren für digitale Amateurgemeinschaften) sowie Initiativen zur Mobilisierung der Zivilgesellschaft werden immer wichtiger. Das Schlüsselwort ist Co-creation, das heißt die Bürger erweitern die vorhandenen Informationen, Kenntnisse, Dienstleistungen und Produkte in einem weitgehend offenen Informations- und Innovations-Ökosystem. Dies schließt eine Kommerzialisierung nicht aus, im Gegenteil. Hier hat jeder die Möglichkeit, mit Daten Geld zu verdienen. Bürger und Kunden werden zu Partnern. Die partizipative Gesellschaft der Zukunft stützt sich nicht mehr nur auf großen, globalen Konzernen. Unternehmen jeder Art und Größe ebenso wie Einzelunternehmer spielen eine deutlich größere Rolle als heute. Das ist gut, da Monopole bekanntlich vergleichsweise wenig innovativ sind und kein Interesse an Produkten und Dienstleistungen ohne eine signifikante Rendite von, sagen wir, 20 Prozent haben. Gleichwohl profitieren auch große Unternehmen hiervon. Ein reiches Informations-Ökosystem ist wie ein Regenwald, in dem viele Bäume sehr viel größer sind als die wenigen Bäume in der Wüste.

In diesem Zusammenhang ist die OpenAI-Initiative bemerkenswert, die kürzlich mit einer Spende von 1 Milliarde US-Dollar gestartet wurde. Der Initiator Elon Musk formulierte die Ziele wie folgt: "KI sollte eine Erweiterung des individuellen menschlichen Willens und im Geiste der Freiheit so breit und gleichmäßig wie möglich verteilt sein." Zusätzlich dazu müssen wir uns für ein verantwortungsbewusstes Innovationsparadigma einsetzen, das auf die Erschaffung wertorientierter Designs passend für den jeweiligen Kontext und die Kultur ausgerichtet ist. Vor allem müssen wir den KI-Systemen beibringen, moralisch und sozial zu handeln. Hierdurch ändern wir das Paradigma "Mensch-Maschine-Interaktion" in ein Paradigma "Mensch-Maschine-Symbiose". In John Brockmans Buch "What to Think About Machines that Think" ziehe ich folgende Schlussfolgerung:

"[Langfristig] ... lernen intelligente Maschinen höchstwahrscheinlich, dass es von Vorteil ist, vernetzt und kooperativ zu handeln, bei Entscheidungen andere Perspektiven einzubeziehen und auf systemische Ergebnisse zu achten. Sie würden schnell merken, dass Diversität für Innovation, systemische Resilienz und kollektive Intelligenz wichtig ist. Die Menschen würden zum Knotenpunkt in einem globalen Intelligenzgeflecht und einem riesigen Ideen-Ökosystem."

Ich glaube weiterhin, dass wir (soweit möglich) Wissen in Echtzeit generieren und unsere Überlegungen, Beurteilungen und Einsichten adäquat, schnell und weltweit teilen müssen.Im digitalen Zeitalter müssen wir Innovation neu erfinden – von der Forschung über die Veröffentlichung bis hin zur Lehre. Dies verlangt einen neuen Rahmen, den ich als "Pluralitäts-Universalität" bezeichne. Wir müssen uns außerdem Gedanken machen, wie wir die Experimentierfreude fördern können. Viel zu viele Erfindungen sind lediglich bescheidene Verbesserungen bereits vorhandener Ideen, sogenannte lineare Innovationen, die den Lebenszyklus "alter" Produkte verlängern. Stattdessen sollten wir radikal neue Ideen vorantreiben, auch als "disruptive Innovationen" bezeichnet.

Die Frage ist, wie wir sicherstellen, dass solche Innovationen nachhaltige Produkte hervorbringen, die unserer Gesellschaft und Umwelt keinen Schaden zufügen (angesichts dessen, dass die Hoffnung, unser Planet erholt sich selbständig von all den Beanspruchungen und Belastungen, noch nicht wahr geworden ist). Hierfür müssen wir externe Faktoren messen und bepreisen, das heißt die externen Kosten bzw. den Nutzen der Produkte, Dienstleistungen und Interaktionen bestimmen. Interessanterweise wird dies durch Big Data und das Internet of Things (IoT) zunehmend möglich.

Bedenken Sie dabei, dass die Messung und Bepreisung externer Faktoren weniger Regulierung erfordert, was dazu beitragen kann, die heutige Überregulierung abzubauen. Würden externe Faktoren wie Finanzderivate gehandelt, könnten völlig neue Finanzmärkte entstehen. Dies würde ein enormes wirtschaftliches Potenzial freisetzen. Ein mehrdimensionales Finanzsystem würde auch vollkommen neue Anwendungen ermöglichen, wie selbstorganisierende sozioökonomische Systeme, die verschiedene Anreizmechanismen erfordern. Vielfach könnte die Anwendung von Dezentralisierungsansätzen und Prinzipien der Selbstorganisation die Ressourceneffizienz um 30 bis 40 Prozent erhöhen.

Daher ist es in hohem Maße sinnvoll, mithilfe von Informations- und Kommunikationstechnologien die Bürger zu stärken, sodass diese bessere Entscheidungen treffen und mehr zur Wirtschaft und Gesellschaft und zu deren digitaler Transformation beitragen können. Richtig gemacht führt die Stärkung der Nutzer, Kunden und Bürger zu besseren Services, besseren Produkten, besseren Unternehmen, besseren Nachbarschaften, intelligenteren Städten und intelligenteren Gesellschaften.

Beispielsweise können digitale Assistenten den Menschen zu einem gesünderen und umweltfreundlicheren Verhalten verhelfen. Das lässt sich anhand eines GPS-basierten Navigationssystems veranschaulichen. Der Nutzer kann hier sein Ziel festlegen und der digitale Assistent bietet ihm verschiedene Alternativen zur Auswahl an, einschließlich der Vor- und Nachteile jeder Möglichkeit. Anschließend unterstützt der digitale Assistent den Nutzer so gut wie möglich dabei, das Ziel zu erreichen und optimale Entscheidungen zu treffen. Um die Menschen anzuregen, mehr Sport zu treiben und gesünder zu essen, müssen weder der Staat noch die Krankenkassen die persönlichen Daten jedes Einzelnen aufzeichnen. Man könnte sich auch eine Social Media-Plattform vorstellen, die den Menschen erlaubt, eigene "Gesundheitskreise" zu bilden, in denen der Wettbewerb unter Freunden eine gesündere Lebensweise fördert. Um Anreize zu schaffen, ohne die Privatsphäre zu verletzen, könnten der Staat oder die Krankenkassen diese Gesundheitskreise anstelle von Einzelpersonen belohnen, was aber vermutlich gar nicht zwingend notwendig wäre.

Ich bin überzeugt, dass die moderne Informationstechnologie uns auch helfen kann, Konflikte in der Welt zu lösen, indem der Wettbewerb um knappe Ressourcen minimiert wird. Dies lässt sich durch eine Kombination verschiedener Maßnahmen erreichen. Erstens müssen die Ressourcen effizienter genutzt werden, wie bereits besprochen. Zweitens sind erhebliche Fortschritte bei den Recyclingtechniken möglich. Drittens lassen sich die Prinzipien der Sharing Economy auf immer mehr Bereiche des gesellschaftlichen und wirtschaftlichen Lebens anwenden, einschließlich der Verwaltung und Nutzung des urbanen Raums. Dies eröffnet mehr Menschen einen höheren Lebensstandard, während gleichzeitig der Ressourcenverbrauch gesenkt wird. Um Krieg und Terrorismus vorzubeugen, müssen wir den Lebensbedingungen im Rest der Welt mehr Aufmerksamkeit schenken.

Ferner müssen wir uns bewusst machen, dass in einer multikulturellen Gesellschaft Bestrafungsmechanismen meist keine gesellschaftliche Ordnung herstellen, sondern zur Eskalation des Konflikts führen. Das haben wir nicht nur im Nahen Osten beobachten können, sondern auch in Ferguson und an vielen anderen Orten. Wir benötigen daher neue Mechanismen, um Koordination und Kooperation in einer multikulturellen Welt zu fördern. Geeignete Reputationsmechanismen sind vielversprechende Instrumente, ebenso wie Qualifikation, Wettbewerb, Kommunikation und Abstimmung.

Last but not least, könnte uns ein "Kulturgenomprojekt" zu einem besseren Verständnis der Erfolgsrezepte verhelfen, auf denen andere Kulturen beruhen. Wir könnten diese dann auf innovative Weise kombinieren, um neue gesellschaftliche und wirtschaftliche Werte zu schaffen. Das größte Potenzial dieses Ansatzes liegt direkt in den kulturellen Unterschieden unserer Zeit. Einige dieser kulturellen Erfolgsmechanismen werden beispielsweise in die Nervousnet-Plattform integriert,^[20] sodass deren Ansatz "Daten für alle" einen verantwortungsbewussten Umgang bewirkt.

Nervousnet (siehe nervousnet.info) ist eine privat betriebene, offene und partizipative Internet-of-Things-Plattform, die Folgendes ermöglicht: (1) Echtzeitmessung unserer Umwelt, (2) deren wissenschaftlicher Kompetenz, (3) Bewusstsein für die Auswirkungen verschiedener Entscheidungsalternativen, (4) Echtzeit-Feedback zur Unterstützung der Selbstorganisation und (5) Schwarmintelligenz. Dieses Projekt nimmt informationelle Selbstbestimmung ernst. Die Daten werden dezentral gespeichert und es kommen verschiedene Verfahren zum Anonymisieren, Verschlüsseln und "Vergessen" der Daten zur Anwendung. Die Nutzer können selbst entscheiden, welche Art von Daten sie für sich selbst generieren bzw. mit anderen teilen möchten.

Stellen Sie sich außerdem vor, dass alle Daten, die Sie generieren, an einen persönlichen Datenspeicher gesendet werden, in dem diese nach Kategorie sortiert und verwaltet werden können. Vorausgesetzt, wir verfügen über geeignete technische Lösungen und gesetzliche Regelungen, könnten wir dann selbst entscheiden, welche Daten wir mit wem und zu welchem Zweck teilen möchten. Vertrauenswürdigere Unternehmen erhielten dann Zugang zu mehr Daten. Dies würde einen Wettbewerb um Vertrauen in Gang bringen und die datenbasierte Gesellschaft würde erneut auf Vertrauen basieren.

Es ist höchste Zeit, dass wir dieses Best-Case-Szenario in Angriff nehmen. Zum einen sind wir gezwungen, sehr viel innovativer zu werden, als wir es heute sind. Zum anderen wäre die Umsetzung dieser Vorschläge für alle Beteiligten von großem Vorteil. Es scheint, als hätten die USA bereits erste Investitionen in eine neue Strategie getätigt. Sie setzen auf Re-Industrialisierung einerseits und Citizen Science (Bürgerwissenschaft) sowie kombinatorische Innovation andererseits. Selbst Google hat sich mit der Gründung von Alphabet auf eine neue Strategie eingelassen mit dem Ziel, die Abhängigkeit des Unternehmens von personalisierter Werbung zu verringern. Auch Apple hat den Wert von Datenschutz als Wettbewerbsvorteil erkannt.Die Menschen verstehen endlich, dass die digitale Wirtschaft kein "Nullsummenspiel" ist. Im Bereich Internet-of-Things engagiert sich Google für offene Innovation. Tesla Motors hat viele seiner Patente freigegeben und viele Milliardäre haben jüngst große Spenden für gute Zwecke versprochen. Wir sehen also viele Zeichen für Veränderungen. Als einzige Frage bleibt, wann Europa endlich die fantastischen Möglichkeiten der digitalen Revolution nutzen wird. Wir betreten ein digitales Zeitalter, das sich mehr und mehr von materiellen Einschränkungen befreit.Das ist absolut faszinierend!

Weiterführende Literatur

D. Helbing, The Automation of Society Is Next: How to Survive the Digital Revolution (CreateSpace, 2015).

D. Helbing, Responding to complexity in socio-economic systems: How to build a smart and resilient society?, siehe http://papers.ssrn.com/Sol3/papers.cfm?abstract_id=2583391

D. Helbing et al., Eine Strategie für das digitale Zeitalter, Spektrum der Wissenschaft 1/2015, http://www.spektrum.de/news/eine-strategie-fuer-das-digitale-zeitalter/1376083

Anhang: Häufige Fallstricke datenbasierter Technologien

Seit einigen Jahren verbreitet sich das Konzept von Big Data- und KI-basierten Smart Nations auf der ganzen Welt. Zweifellos bieten diese Technologien interessante Möglichkeiten, die politischen Entscheidungsprozesse und die Situation in der Welt zu verbessern. Dabei ist jedoch eine Reihe von Problemstellungen zu beachten:^[21]

1.) Big-Data-Analyse
Bei der Klassifizierung kommt es zu Problemen, Fehlern erster und zweiter Klasse, was Ungerechtigkeiten impliziert, sofern die Entscheidungen nicht hinterfragt und korrigiert werden. Die aktuellen Algorithmen zur Identifikation von Terroristen sind relativ schlecht. Sie erzeugen zu lange Listen an Verdächtigen, sodass man "den Wald vor lauter Bäumen nicht sieht".

2.) Künstliche Intelligenz (KI)
KI-Systeme verarbeiten riesige Datenmengen, aber:

3.) Big Nudging
"Big Nudging" nutzt demografische Big Data, KI und Methoden der Verhaltensökonomie (wie "Nudging"), um die Entscheidungen und Verhaltensweisen von Personen zu manipulieren.

Ein gemeinsames Problem der drei obigen Ansätze ist, dass ihre Allgemeingültigkeit überbewertet wird. Sie verleihen wenigen Menschen extreme Macht, sind aber nur sehr schwer zu kontrollieren. In der Praxis können sie als "Waffe" gegen die eigene Bevölkerung missbraucht werden. Die Nutzung von "Big Methods" birgt die Gefahr großer Fehler. Es ist nur eine Frage der Zeit, bis es dazu kommt.

[1] J. Brockman (Hrsg.), What to Think About Machines that Think (Harper Perennial, 2015)

[2] Siehe http://www.computerworld.com/article/2901679/steve-wozniak-on-ai-will-we-be-pets-or-mere-ants-to-be-squashed-our-robot-overlords.html, Stand 24. Januar 2016

[3] Siehe https://www.tensorflow.org/, Stand 24. Januar 2016

[4] Siehe http://foreignpolicy.com/2014/07/29/the-social-laboratory/ und http://www.internationalinnovation.com/predicting-how-people-think-and-behave/, Stand 24. Januar 2016

[5] Siehe beispielsweise http://www.wsj.com/articles/furor-erupts-over-facebook-experiment-on-users-1404085840 und http://www.pnas.org/content/111/24/8788.full, Stand 24. Januar 2016

[6] E. Pariser, Filter Bubble: What the Internet Is Hiding from You (Penguin, 2011)

[7] Siehe https://www.youtube.com/watch?v=KlWeuK46_nA und https://www.youtube.com/watch?v=pplhyw-vEWg, Stand 24. Januar 2016

[8] http://www.spektrum.de/news/big-nudging-zur-problemloesung-wenig-geeignet/1375930, Stand 24. Januar 2016

[9] http://www.theguardian.com/commentisfree/2011/jul/19/nudge-is-not-enough-behaviour-change, Stand 24. Januar 2016

[10] http://www.computerworld.com/article/2990203/security/aclu-orwellian-citizen-score-chinas-credit-score-system-is-a-warning-for-americans.html, Stand 24. Januar 2016

[11] Wenn das Kräfteverhältnis zwischen denen, die entscheiden, und denen, die folgen, zu stark voneinander abweicht, wird früher oder später jedes System kippen und außer Kontrolle geraten, wie das Stanford-Prison-Experiment gezeigt hat.

[12] http://www.pnas.org/content/112/33/E4512.abstract, Stand 25. Januar 2016

[13] https://netzpolitik.org/2016/un-sonderberichterstatter-kritisieren-frankreichs-flaechendeckende-ueberwachung/ und http://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=16966&LangID=E, Stand 25. Januar 2016

[14] http://www.focus.de/politik/ausland/kontaktverbot-und-umsiedlung-terror-notstand-geheimer-notfallplan-koennte-orban-zu-ungeahnter-macht-verhelfen_id_5234034.html, Stand 25. Januar 2016

[15] D. Helbing und E. Pournaras, Build Digital Democracy, Nature 527, 33-34 (2015): http://www.nature.com/news/society-build-digital-democracy-1.18690

[16] H.H. Nax und A.B. Schorr, Democracy-growth dynamics for richer and poorer countries, http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2698287, Stand 24. Januar 2016

[17] http://www.zeit.de/2015/25/singapur-image-innovation-unterwelt, Stand 24. Januar 2016

[18] http://m.spiegel.de/wirtschaft/a-1072576.html, Stand 24. Januar 2016, und http://www.forbes.com/forbes/welcome/#version:realtime, Stand 18. Januar 2016

[19] http://futureoflife.org/open-letter-autonomous-weapons/, Stand 24. Januar 2016

[20] D. Helbing und E. Pournaras, Build Digital Democracy, Nature 527, 33-34 (2015): http://www.nature.com/news/society-build-digital-democracy-1.18690
http://futurict.blogspot.ch/2014/09/creating-making-planetary-nervous.html
http://futurict.blogspot.ch/2015/08/smart-data-running-internet-of-things.html
http://futurict.blogspot.ch/2016/01/nervousnet-towards-open-and.html, alle Stand 24. Januar 2016

[21] Eine ausführliche Behandlung des Themas finden Sie hier: D. Helbing, Societal, Economic, Ethical and Legal Challenges of the Digital Revolution: From Big Data to Deep Learning, Artificial Intelligence, and Manipulative Technologies, Jusletter IT (2015), siehe http://papers.ssrn.com/soL3/papers.cfm?abstract_id=2594352; D. Helbing, B.S. Frey, G. Gigerenzer, E. Hafen, M. Hagner, Y. Hofstetter, J. van den Hoven, R.V. Zicari und A. Zwitter, Digitale Demokratie statt Datendiktatur, Spektrum der Wissenschaft 1/2016, siehe http://www.spektrum.de/pdf/digital-manifest/1376682