Maschinelle Intelligenz - Fluch oder Segen? Es liegt an uns!
Ein Beitrag von Dirk Helbing (ETH Zürich und TU Delft)
Künstliche Intelligenz (KI) kann uns in vielerlei Hinsicht eine große Hilfe sein. Vor allem in Verbindung mit Robotik könnte sie uns den Alltag erleichtern. Sie kann uns schwere, gefährliche oder langweilige Arbeiten abnehmen. Sie kann helfen, Leben zu retten und Katastrophen besser zu bewältigen. Allerdings war bislang noch jede Technologie mit Nebenwirkungen und Gefahren verbunden. Wenn wir nicht aufpassen, können Menschen ihr Recht auf Selbstbestimmung und Demokratie, Unternehmen die Kontrolle und Staaten ihre Souveränität verlieren. Im Folgenden zeige ich Ihnen anhand eines Worst-Case- und eines Best-Case-Szenarios, dass sich unsere Gesellschaft an einem Scheideweg befindet. Jetzt kommt es darauf an, den richtigen Weg zu wählen.[1]
Ray Kurzweil, ein Technologie-Guru aus dem Silicon Valley, der am Google Brain-Projekt arbeitet, geht davon aus, dass Computer bis 2030 die Leistungsfähigkeit des menschlichen Gehirns übertrumpfen werden. Solche Zukunftsprognosen wurden lange Zeit als Science Fiction betrachtet. Aber jetzt gibt es sogenannte Deep Learning Algorithmen, so dass KI von selber dazu lernt und rasende Fortschritte macht.
Schon seit Jahrzehnten sind Computer die besseren Schachspieler. Inzwischen sind sie uns in fast allen Strategiespielen überlegen. Der Watson-Computer von IBM gewinnt sogar Spieleshows - und nicht nur das: Auch bei vielen medizinischen Diagnosen übertrifft er die menschliche Kompetenz. Heutzutage werden rund 70 Prozent aller Finanzgeschäfte durch autonome Computeralgorithmen getätigt und schon bald gibt es selbstfahrende Autos, die unsere Fahrkünste in den Schatten stellen. Auch wenn es darum geht, Handschriften zu erkennen, Sprachen zu verstehen und zu übersetzen oder Muster zu identifizieren, kommen Algorithmen den menschlichen Fähigkeiten sehr nahe. In Anbetracht der Tatsache, dass 90 Prozent der heutigen Berufe genau diese Fähigkeiten erfordern, wird es schon sehr bald möglich sein, alle Routineaufgaben durch Computeralgorithmen oder Roboter zu ersetzen, die leistungsfähiger sind, nie müde werden, sich nicht beschweren und keine Sozialversicherungsbeiträge oder Steuern zahlen.
Jim Spohrer von IBM prognostiziert: "KI wird uns anfangs als Instrument dienen, aber schon bald werden Roboter unsere Teamkollegen und dann unsere Lehrer sein." Steve Wozniak, Mitbegründer von Apple, kommentiert dies wie folgt:[2] "... Ich stimme zu, dass die Zukunft beängstigend und schlimm für Menschen ist. Wenn wir zulassen, dass uns Maschinen alles abnehmen, werden sie über kurz oder lang schneller denken als wir und sich der langsamen Menschen entledigen, da sie Unternehmen selbst viel effizienter führen können"
Sind wir dafür bereit? Nein, das sind wir nicht, aber wir müssen uns so schnell wie möglich auf die damit verbundenen Herausforderungen vorbereiten. Ich möchte zunächst mit einem Worst-Case-Szenario beginnen, bevor ich dann zu einem Best-Case-Szenario komme.
Ein Worst-Case-Szenario
Wurden in der Vergangenheit Bedenken laut, KI könne die Weltherrschaft übernehmen, beruhigten uns die Experten immer damit, dass wir jederzeit den Stecker ziehen und so das Problem lösen könnten. Leider ist das nicht so. Meine Hauptsorge ist jedoch nicht, dass KI die Weltherrschaft übernehmen könnte. Das Problem ist vielmehr, dass eine kleine Gruppe von Personen versuchen könnte, mithilfe von KI-Technologie die Weltherrschaft an sich zu reißen.
Gerechtfertigt durch die Terrorgefahr werden nun große Mengen persönlicher Daten über jeden einzelnen Bürger gesammelt. Diese werden anschließend in KI-Systeme eingespeist, die dadurch lernen, wie sich alle Bürger verhalten. De Facto sind wir Versuchskaninchen von Unternehmen wie Google und Facebook geworden,[3] die tagtäglich Millionen automatisierter Experimente mit uns machen. Dabei lernen die KI-Systeme, wie wir auf diese Reize reagieren und wie durch diese Reize ein gewünschtes Verhalten ausgelöst werden kann.
Der Trend geht also von der Programmierung von Computern zur Programmierung von Menschen.[4] Diese Manipulation geschieht häufig so subtil, dass wir es gar nicht merken. Technologien, die ursprünglich zur Personalisierung und effektiveren Gestaltung von Werbung entwickelt wurden, werden heute vermehrt auch als politisches Instrument eingesetzt. Mittels "Big Nudging",[5] einer Kombination aus "Big Data" über all unsere Verhaltensweisen und "Nudging" (engl. für Stupsen oder Schubsen), einer Technik die in der Verhaltensökonomie entwickelt wurde, werden beispielsweise die öffentliche Meinung und Wahlergebnisse manipuliert.
Der Nudging-Ansatz ist jedoch nicht wirksam genug, um ein gesundes und umweltbewusstes Verhalten der Bevölkerung in einem Land zu erreichen.[6] Dies ist der Grund, weshalb effektivere Feedback-Mechanismen wie personalisierte Preise entwickelt werden. Der "Citizen Score",[7] wie er derzeit in China implementiert wird, ist ein weiterer Schritt in diese Richtung. Alles, was die Bürger tun, erhält eine positive oder negative Bewertung: das Kaufverhalten ebenso wie die angeklickten Links im Internet. Sowohl die politische Meinung als auch das Verhalten der sozialen Kontakte wird ausgewertet. Der Citizen Score bestimmt, welche Kreditkonditionen und welche Jobs eine Person bekommt und in welche Länder sie reisen darf oder nicht.
Höchstwahrscheinlich kommen Big Nudging- und Citizen Score-Technologien nicht nur in Singapur und China zum Einsatz. "Nudging-Papst" Richard Thaler zufolge haben in den letzten Jahren mindestens 90 Länder "Nudging-Zentren" eingerichtet. Bislang ist wenig über diese Zentren öffentlich bekannt. Sollte aber das singapurische oder das chinesische Modell in den zuvor genannten 90 Ländern zur Anwendung kommen, sind Demokratien weltweit in großer Gefahr.[8]
Das Problem besteht darin, dass mit den genannten Technologien eine digitale Machtübernahme problemlos möglich und kaum umkehrbar ist. Beispielsweise kann jeder, der Zugang zu einer Big Nudging-Infrastruktur hat, Wahlergebnisse beeinflussen.[9] Ferner können Terroranschläge oder andere Ereignisse, die die Bevölkerung traumatisieren, ausgenutzt werden, um die demokratischen Grundrechte einzuschränken.
Angesichts des beängstigenden Potenzials, Schaden anzurichten und Grundrechte zu verletzen, benötigen wir dringend Initiativen, die möglichst rasch die folgenden Maßnahmen umsetzen:
- Die oben genannten Technologien bedürfen einer demokratischen Kontrolle durch das Parlament.
- Auch Oppositionsparteien sollte sinnvollerweise Zugang zu diesen Informationssystemen gewährt werden, um einen fairen politischen Wettbewerb zu garantieren.
- Die Nutzung der Technologien muss auf einem demokratischen Mandat und wissenschaftlichen Prinzipien beruhen. Sie sollten von interdisziplinären Teams aus führenden Wissenschaftlern betrieben werden. Diese Gruppen müssen offen für einen internationalen Austausch sein und auf öffentlichen internationalen Kongressen Rechenschaft über ihre Aktivitäten ablegen.
- Außerdem ist die Einhaltung ethischer Prinzipien sicherzustellen.
- Persönliche Daten müssen anonymisiert und Datenschutzverletzungen bestraft werden.
- Transparenz bezüglich der laufenden Aktivitäten ist wichtig, und es muss eine Opt-Out-Möglichkeit bestehen (zumindest vom Scoring und Big Nudging), um die informationelle Selbstbestimmung zu gewährleisten.(Dies würde auch eine vertrauenswürdige Nutzung der Technologien fördern.)
- Sollten soziale Experimente unerwünschte Nebenwirkungen haben, müssen die Opfer angemessen entschädigt werden.
Aller Voraussicht nach werden die Geheimdienste einen individuellen Zugang zu diesen Informationssystemen haben wollen, aber auch für sie sollten bestimmte Prinzipien gelten:
- Die Nutzung dieser Instrumente muss aufgezeichnet werden. Nudging im großen Stil sollte ausgeschlossen werden, und Massenüberwachung ebenfalls. Die Aufhebung der Anonymität sollte auf einzelne Personen beschränkt sein und strikten demokratischen Kontrollen unterliegen.
Privatunternehmen müssen die neue europäische Datenschutz-Grundverordnung beachten. Öffentliche Institutionen müssen deren Einhaltung nicht nur für große IT-Unternehmen sicher stellen, sondern auch bei den relativ unbekannten Unternehmen durchsetzen, die mit unseren persönlichen Daten handeln.
Die Demokratie verdient zweifellos ein "digitales Upgrade"[10], aber wenn sie aussterben würde und es keinen Wettbewerb mehr zwischen verschiedenen politischen Systemen gäbe, wäre dies eine Katastrophe für die Zukunft unseres Planeten.
Zusammenfassend lässt sich festhalten, dass die Selbstbestimmung der Menschheit derzeit auf dem Spiel steht, was uns große Sorgen bereiten muss. Big Nudging, Citizen Scores und Implantate ebnen den Weg für digitale Sklaverei. Dies gefährdet nicht nur die Freiheit der Menschen, sondern auch die Souveränität von Unternehmen und ganzen Ländern. Derjenige mit dem leistungsfähigsten KI-System könnte alle anderen KI-Systeme und folglich alle Unternehmen, Institutionen und Menschen, die von diesen manipuliert werden, kontrollieren.
Anders formuliert, KI-Technologien intensivieren das Wettrennen um die Herrschaft über die Welt und ihre Ressourcen. Heute kontrollieren angeblich 62 Personen so viel Kapital wie 50 Prozent der Weltbevölkerung.[11] Der Konzentrationsprozess wird sich weiter beschleunigen.
Meiner Ansicht nach sollten wir uns dringend von "Big Nudging", "Citizen Scores" und ähnlichen Ansätzen distanzieren, mit denen Millionen, wenn nicht gar Milliarden Menschen von zentraler Stelle aus top-down kontrolliert werden können. Sie können allzu leicht im totalitärsten Regime aller Zeiten enden. Wir sollten uns vielmehr für ein kooperatives KI-Paradigma engagieren bemühen - die Symbiose von Mensch und Maschine.
Ein Best-Case-Szenario
Wir stehen an der Schwelle eines neuen historischen Zeitalters - das der digitalen Gesellschaft und Wirtschaft 4.0. Um diesen Wandel erfolgreich zu vollziehen, müssen wir Chancen für alle schaffen: Wirtschaft, Politik, Wissenschaft und Bürger. Mit den neuen Informations- und Kommunikationstechnologien ist dies heute einfacher als je zuvor. Wenn es uns gelingt, einen geeigneten gesetzlichen Rahmen zu kreieren können alle am Wohlstand teilhaben. Richtig organisiert eröffnet die digitale Wirtschaft nahezu unbegrenzte Möglichkeiten, da immaterielle Güter beliebig oft reproduzierbar und auf unzählige Arten nutzbar sind.
Wenn wir die Herausforderungen, vor denen die Menschheit derzeit steht, erfolgreich meistern wollen, müssen wir unsere Wirtschaft und Gesellschaft tatsächlich völlig neu organisieren. Insbesondere benötigen wir ein resilientes Design unserer Gesellschaft, um sich an unerwartete Entwicklungen flexibel anpassen zu können. Das erfordert insbesondere ein ausreichendes Maß an Dezentralisierung und Diversität.
Im digitalen Zeitalter müssen wir auch die Innovation neu erfinden, von der Forschung über wissenschaftliche Veröffentlichungsprozesse bis zur Ausbildung: wir müssen Wissen so gut es geht in Echtzeit erzeugen und unsere Reflexionen und Einsichten adäquater und schneller weltweit teilen.Dies erfordert eine neue Konzeption, die ich (als Gegenstück zur "Singularity University") als "Plurality University" bezeichne.
Zudem müssen wir die Innovationsrate drastisch erhöhen. Daher brauchen wir einen grundlegend neuen Innovationsansatz, der mehr Wert auf offene Innovation legt als bisher, damit auch all die Produkte und Dienstleistungen bereitgestellt werden, die große Unternehmen nicht anbieten. Tatsächlich werden Citizen Science (Bürgerwissenschaft), sogenannte Fablabs (öffentliche Zentren für digitale Hobbyisten) sowie Initiativen, welche die Zivilgesellschaft mobilisieren, immer wichtiger. Das Schlüsselwort ist Co-Creation, was bedeutet, dass Bürger Informationen, Wissen, Services und Produkte in einem weitgehend offenen Informations- und Innovationsökosystem veredeln können. Aus diesen Gründen gehe ich davon aus, dass kollektive Intelligenz und Ko-Evolution die neuen Organisationsprinzipien der partizipativen digitalen Gesellschaft der Zukunft sind, die auf einer in einer hochgradig diversifizierten und vernetzten Wirtschaft basieren wird.
In diesem Zusammenhang ist die OpenAI-Initiative bemerkenswert, die kürzlich mit einer Spende von 1 Milliarde US-Dollar gestartet wurde. Der Initiator Elon Musk formulierte die Ziele wie folgt: "Im Sinne der menschlichen Freiheit sollte KI eine Erweiterung des individuellen Willens und so breit und gleich wie möglich verteilt sein." Vor allem aber müssen wir den KI-Systemen beibringen, moralisch und sozial zu handeln. In John Brockmans Buch "What to Think About Machines that Think" ziehe ich folgende Schlussfolgerung:
"[Langfristig] ... lernen intelligente Maschinen höchstwahrscheinlich, dass es von Vorteil ist, vernetzt und kooperativ zu handeln, bei Entscheidungen andere Perspektiven einzubeziehen und auf systemische Ergebnisse zu achten..."
Wir müssen uns außerdem Gedanken machen, wie wir die Experimentierfreude fördern können. Radikal neue Ideen, oft als "disruptive Innovationen" bezeichnet, sollten stärker ermutigt werden. Die Frage ist jedoch, wie wir sicherstellen, dass solche Innovationen nachhaltige Produkte hervorbringen, die unserer Gesellschaft und Umwelt keinen Schaden zufügen. Hierfür müssen wir Externalitäten messen und bepreisen, d. h. die externen Kosten bzw. den Nutzen der Produkte, Dienstleistungen und Interaktionen bestimmen.
Interessanterweise macht dies das "Internet der Dinge" zunehmend möglich. Ergänzend dazu erlaubt ein multi-dimensionales Anreiz- und Austauschsystem, lokale Rückkopplungen zu erzeugen, welche die Selbstorganisation von komplexen Systemen unterstützen. Ich nenne dies das "Finanzsystem 4.0".
In vielen Fällen kann die Selbstorganisation komplexer dynamischer Systeme (wie der Wirtschaft, Gesellschaft oder des Autobahnverkehrs), basierend auf geeigneten Interaktionen zwischen den Systemkomponenten (z.B. den Fahrzeugen), die Ressourceneffizienz um 30 bis 40 Prozent erhöhen. Aus solchen Gründen macht es Sinn, die Bürger mit Informations- und Kommunikationssystemen in die Lage zu versetzen, bessere Entscheidungen zu treffen und mehr zu Wirtschaft und Gesellschaft beizutragen. Richtig aufgesetzt führt die Befähigung der Nutzer, Kunden und Bürger zu besseren Services, besseren Produkten, besseren Unternehmen, besseren Nachbarschaften, intelligenteren Städten und intelligenteren Gesellschaften. Beispielsweise können digitale Assistenten Menschen zu einem gesünderen und umweltfreundlicheren Verhalten anleiten.
Ich bin außerdem überzeugt, dass die moderne Informationstechnologie uns helfen kann, Konflikte in der Welt zu lösen, indem wir den Wettbewerb um knappe Ressourcen reduzieren. Dies lässt sich durch eine Kombination verschiedener Maßnahmen erreichen. Erstens müssen die Ressourcen effizienter genutzt werden, was durch Berücksichtigung der Externalitäten erzielt werden kann. Zweitens sind erhebliche Fortschritte bei den Recyclingtechniken möglich. Drittens lassen sich die Prinzipien der Sharing Economy auf immer mehr Bereiche des gesellschaftlichen und wirtschaftlichen Lebens anwenden, einschließlich der Verwaltung und Nutzung des urbanen Raums.
Weiterhin könnte ein "Culturepedia Projekt" zu einem besseren Verständnis der Erfolgsprinzipien führen, auf denen die verschiedenen Kulturen der Welt basieren, und zu ihrer innovativen Verwendung. Das größte soziale und wirtschaftliche Potenzial liegt unmittelbar an den heutigen kulturellen Bruchlinien. Zum Beispiel können geeignete Reputationsmechanismen die Koordination und Kooperation in multi-kulturellen Zusammenhängen fördern. Bestimmte Qualifikations-, Wettbewerbs-, Kommunikations- und Gruppenbildungsprozesse sind ebenfalls vielversprechende Instrumente.
Einige dieser kulturellen Erfolgsmechanismen werden jetzt beispielsweise in die Nervousnet-Plattform integriert,[12] damit der Ansatz "Daten für alle" zu einer verantwortungsvollen Nutzung führt. Nervousnet (siehe nervousnet.info) ist eine offene und partizipative Internet-der-Dinge-Plattform, die Folgendes unterstützt: (1) Echtzeitmessung unserer Umwelt, (2) deren wissenschaftliches Verständnis, (3) Bewusstsein für die Auswirkungen verschiedener Entscheidungsoptionen, (4) Echtzeit-Feedback zur Unterstützung von Selbstorganisation und (5) kollektive Intelligenz. Das Projekt nimmt außerdem die informationelle Selbstbestimmung ernst.
Es ist höchste Zeit, dass wir dieses Best-Case-Szenario in Angriff nehmen. Zum einen sind wir gezwungen, sehr viel innovativer zu werden, als wir es heute sind. Zum anderen wäre die Umsetzung dieser Vorschläge für alle Beteiligten von großem Vorteil.
Es scheint, als würden die USA bereits in eine neue Strategie investieren. Sie setzen auf Re-Industrialisierung einerseits und Citizen Science (Bürgerwissenschaft) sowie kombinatorische Innovation andererseits. Selbst Google hat sich mit der Gründung von Alphabet auf eine neue Strategie eingelassen mit dem Ziel, die Abhängigkeit des Unternehmens von personalisierter Werbung zu verringern. Apple hat den Wert von Datenschutz als Wettbewerbsvorteil erkannt.
Wir schreiten nun in ein digitales Zeitalter, das sich mehr und mehr von materiellen Einschränkungen befreit. Das ist absolut faszinierend. Die Menschen beginnen zu verstehen, dass die digitale Wirtschaft kein "Nullsummenspiel" ist. Im Bereich des Internets der Dinge engagiert sich Google beispielsweise für offene Innovation. Tesla Motors hat viele seiner Patente freigegeben, und viele Milliardäre haben jüngst große Spenden für gute Zwecke versprochen. Wir sehen also viele Zeichen der Veränderung. Fragt sich nur, wann Europa endlich all die fantastischen Möglichkeiten der digitalen Revolution nutzen wird.
Hinweis: Den vollständigen Beitrag von Professor Helbing finden Sie hier.
[1] Weitergehende Überlegungen finden Sie in https://www.researchgate.net/publication/291832442 und http://futurict.blogspot.ch/2016/02/how-internet-of-things-can-make.html, Stand 15. Februar 2016
[2] Siehe http://www.computerworld.com/article/2901679/steve-wozniak-on-ai-will-we-be-pets-or-mere-ants-to-be-squashed-our-robot-overlords.html, Stand 24. Januar 2016
[3] Siehe beispielsweise http://www.wsj.com/articles/furor-erupts-over-facebook-experiment-on-users-1404085840 und http://www.pnas.org/content/111/24/8788.full, Stand 24. Januar 2016
[4] Siehe https://www.youtube.com/watch?v=KlWeuK46_nA und https://www.youtube.com/watch?v=pplhyw-vEWg, Stand 24. Januar 2016
[5] http://www.spektrum.de/news/big-nudging-zur-problemloesung-wenig-geeignet/1375930, Stand 24. Januar 2016
[6] http://www.theguardian.com/commentisfree/2011/jul/19/nudge-is-not-enough-behaviour-change, Stand 24. Januar 2016
[7] http://www.computerworld.com/article/2990203/security/aclu-orwellian-citizen-score-chinas-credit-score-system-is-a-warning-for-americans.html, Stand 24. Januar 2016
[8] Wenn das Kräfteverhältnis zwischen denen, die entscheiden, und denen, die folgen, zu stark voneinander abweicht, wird früher oder später jedes System kippen und außer Kontrolle geraten, wie das Stanford-Prison-Experiment gezeigt hat.
[9] http://www.pnas.org/content/112/33/E4512.abstract, Stand 25. Januar 2016
[10] D. Helbing und E. Pournaras, Build Digital Democracy, Nature 527, 33-34 (2015): http://www.nature.com/news/society-build-digital-democracy-1.18690
[11] http://m.spiegel.de/wirtschaft/a-1072576.html, Stand 24. Januar 2016, und http://www.forbes.com/forbes/welcome/#version:realtime, Stand 18. Januar 2016
[12] D. Helbing und E. Pournaras, Build Digital Democracy, Nature 527, 33-34 (2015):
http://www.nature.com/news/society-build-digital-democracy-1.18690
http://futurict.blogspot.ch/2014/09/creating-making-planetary-nervous.html
http://futurict.blogspot.ch/2015/08/smart-data-running-internet-of-things.html
http://futurict.blogspot.ch/2016/01/nervousnet-towards-open-and.html, alle Stand 24. Januar 2016
