Übernehmen Maschinen die Macht?
Video-Interview mit Susan Schneider, Philosophin.
Wie realistisch ist es, dass Maschinen ein eigenes Bewusstsein und Gefühle entwickeln? Oder anders ausgedrückt: Mensch werden?
Susan Schneider: Gute Frage. Vordergründig denke ich, es ist realistisch, dass Androiden wie Menschen aussehen werden. Aber die Frage ist wirklich, ob sie innere Eigenschaften haben könnten, die uns sehr ähnlich sind.
Wir können die Antwort sicher in verschiedene Dimensionen aufteilen. Eine Frage ist, wie wird es sich anfühlen, sie zu sein? Es ist aus meiner Sicht eine Frage über die Natur der bewussten Erfahrung und ob etwas aus einem anderen Substrat, das kein Gehirn hat, tatsächlich fühlen kann.
Ich betrachte das als eine empirische Angelegenheit und habe Tests für das Bewusstsein von Maschinen entwickelt.
Man könnte sich auch fragen, ob sie eine Selbstwahrnehmung haben. Sie haben von Selbstbewusstsein gesprochen, und das hängt wirklich davon ab, ob das System seine Grenzen versteht und eine Geschichte hat, ob es einen Sinn für die Ereignisse hat, die in ihm geschehen sind. Und dann fragen Sie vielleicht auch nach Intelligenz. Werden sie so intelligent sein wie wir? Wir haben heute Maschinen, die Menschen beim Go-Spielen, bei Jeopardy! schlagen können. Alle Arten von Aufgaben, die für bestimmte Bereiche spezifisch sind. Und der heilige Gral der künstlichen Intelligenz und wohin es aus meiner Sicht in Zukunft gehen wird, sind Maschinen, die zunehmend von einer Sache zur nächsten fortschreiten können und eine flexiblere allgemeine Intelligenz haben. Also werden wir vielleicht in 20 Jahren Systeme sehen, die wie wir denken. Wir wissen es noch nicht.
Müssen wir Angst vor so einer super intelligenten KI haben?
Susan Schneider: Ein super intelligentes System wäre ein System, das die menschliche Intelligenz in jedem Bereich übertrifft. Wenn wir erst ein Niveau erreicht haben, so fürchten manche, in dem Systeme wie Menschen denken, dann wäre es einfach, diese Systeme weiter zu verbessern. Wir sehen ja bereits, dass „Alpha Go“, das Go-Spiel, in einem Bereich viel besser ist als wir.
So konnten wir uns – zumindest im Grundsatz – keine künstliche Intelligenz vorstellen, die allgemeine Fähigkeiten besitzt und uns intellektuell überlegen ist. Dann wird der Mensch nicht mehr das intelligenteste Wesen auf Erden sein. Haben wir etwas zu befürchten? Ich denke, wir müssen sehr vorsichtig sein. Ich sage nicht, dass das morgen passieren würde. Aber wenn wir etwas schaffen, das klüger ist als wir, was lässt uns dann glauben, dass wir es kontrollieren können? Wir können ja nicht mal Menschen kontrollieren.
Wir haben Kinder, die als Teenager verrückte Dinge tun. Wir haben Leute, die als Erwachsene kriminell werden und Schlimmes anrichten. Ich denke, wir müssen beim Thema KI-Sicherheit sehr, sehr vorsichtig sein.
Vor allem, wenn es um die mögliche Entwicklung superintelligenter künstlicher Intelligenz geht.
Wie sollten wir KI bauen, um sicherzustellen, dass sie menschenfreundlich wird?
Susan Schneider: Es gibt eine Menge Projekte, die sich derzeit auf unterschiedlichen Wegen mit dem Bau einer „freundlichen“ KI beschäftigen. Wir müssen uns jetzt mit diesen Fragen auseinandersetzen, da künstliche Intelligenz von bestimmten Bereichen wie „Go“ und „Jeopardy“ aus voranschreitet. Wir müssen uns jetzt Gedanken über Maschinen machen, die im Allgemeinen flexibler sein können – auch wenn sie noch nicht super intelligent sind. Wir müssen jetzt damit beginnen.
Man könnte also denken, wenn man KI Zeit zum Entwickeln gibt, dann kann sie sich entwickeln wie ein Kind. Das könnte ein Weg sein. Ein anderer besteht darin, Themen wie Ethik in der Philosophie und Grundprinzipien ethischen Verhaltens in allen unterschiedlichen Ansätzen zu betrachten. Es ist sehr, sehr schwer. Vor allem, wenn man über Superintelligenz oder eine allgemeine künstliche Intelligenz nachdenkt, die dem Niveau des Menschen entspricht, da die Systeme ihr eigenes Verhalten und ihre eigene Architektur anpassen und sich sehr schnell in einer Weise verändern können, die für uns nicht vorhersehbar ist. KI-Sicherheit ist also ein großes Thema nicht nur auf der Ebene der alltäglichen Cyber-Sicherheit – worüber wir uns schon jetzt Gedanken machen müssen –, sondern auch auf der Ebene hin zur intelligenten Super-Smart KI, die auf dem Weg in die Zukunft ist.
Befürworten Sie also einen kritischen Umgang mit diesem Thema?
Susan Schneider: Ich bin tendenziell sehr vorsichtig. Auch wenn die Wahrscheinlichkeit nur bei zwei Prozent liegt, dass wir etwas schaffen, über das wir die Kontrolle verlieren, so müssen wir doch bei Themen, die die Zukunft der Menschheit betreffen, sehr vorsichtig sein.
Selbst wenn die Gefahr nur bei zwei Prozent liegt, dass künstliche Intelligenz uns kontrollieren könnte, anstatt dass wir sie kontrollieren, müssen wir Vorsichtsmaßnahmen ergreifen.
