Video-Interview mit Ranga Yogeshwar: Haben Algorithmen Vorurteile?
Ein großes Thema bei der Digitalisierung sind Algorithmen, die im Hintergrund auch Prozesse und Meinungen steuern können. Haben Algorithmen Vorurteile? Was denken Sie?
Ranga Yogeshwar: Man muss verstehen, dass wir im Moment dabei sind, einen Übergang zu schaffen, bei dem viele Entscheidungen, die wir vorher gemacht haben - wir Menschen -, übertragen werden auf mathematische Modelle, die mithilfe von Daten nach Korrelationen entscheiden. Warum sage ich das? Die Grundidee der Aufklärung ist Kausalität, Ursache und Wirkung. Darauf basiert ganz viel, darauf basiert zum Beispiel unsere Gesetzgebung. Wenn einer schuld ist, dann geht es um nichts anderes als die Klärung der Kausalität: Warum hast du das gemacht? Wer war es? Wer ist schuld?
Was wir heute erleben, ist der Übergang in den Nebel der Daten, bei denen Algorithmen anfangen, über Korrelationen Entscheidungen zu fällen. Und die können sehr relevant sein. Konkretes Beispiel: Es gibt inzwischen Banken wie Kreditech, die entscheiden nach Ihren persönlichen Daten von sozialen Netzwerken und E-Mails, ob Sie kreditwürdig sind oder nicht. Und das Interessante ist: Diese Daten machen das auf der Basis von Korrelationen. Wenn Sie den Kredit nicht bekommen, haben Sie keine Chance, im Nachhinein zu sagen: "Woran liegt es?", weil der Software-Entwickler, mit dem ich sprach, sagt: "Das können wir selber nicht sagen." Der Algorithmus kommt darauf.
Wenn man das überträgt in viele Bereiche, ob das die Kreditnahme ist, ob das die Wahrscheinlichkeit ist, eine kriminelle Handlung zu machen - auch da sind wir schon dabei, durch Korrelationen im Grunde genommen, mit Hilfe von Algorithmen, Entscheidungen zu fällen -, dann passieren zwei Sachen: Das Erste ist, wir haben den Übergang von der Kausalität zur Korrelation. Insgeheim verabschieden wir uns von der Grundsubstanz der Aufklärung. Und das Zweite ist, dass wir auf dem Weg eine Umkehr der Fließrichtungen haben. Das bedeutet: Nehmen Sie die Polizei. Früher musste man eine Straftat begehen, und dann wurde die Polizei aktiv. Heute, aufgrund einer möglichen zukünftigen erhöhten Wahrscheinlichkeit kommt die Polizei. Oder nehmen Sie die Medizin: Aufgrund der vielen Daten wird Ihnen ein mögliches zukünftiges Risiko vorhergesagt, und das führt - heute schon - konkret zu medizinischen Eingriffen.
Das ist gefährlich, weil wir auf Dauer fast in eine Abhängigkeit von Algorithmen kommen. Der Algorithmus wird sozusagen über die menschliche Kausalität gestellt. Und es gibt für den Menschen, für das Individuum, keine Chance, klarzumachen, was Recht und Unrecht ist, weil: In der Welt der Korrelationen mit so vielen verschiedenen Datenströmen wird das geradezu unmöglich.
Und dann würden wir etwas sehr Widersprüchliches erleben, nämlich eine moderne Technik mit einer fast rückschrittorientierten Haltung unserer Kultur, die zurückgeht in ein Mittelalter, in die Schicksalshaftigkeit der Algorithmen. Diesen Widerspruch müssen wir auflösen. Es gibt viele Stimmen, die sagen: Wir brauchen jetzt Entscheidungen. Denn die Macht der Algorithmen, die Tatsache, dass wir im Internet, das ist die Magie des Digitalen, Prozesse sehr schnell hochskalieren können - die explodieren; die Zeiten, in denen Sachen eingeführt werden, sind unglaublich verkürzt -, führt dazu, dass wir diese Entscheidung wirklich fällen müssen. Denn wenn wir sie nicht fällen, dann machen wir uns abhängig. Und das wäre bedauerlich.
