Ist künstliche Intelligenz ein Datenschutz-Sünder?
Ein Beitrag von Dr. Claus-Dieter Ulmer, Konzernbeauftragter für den Datenschutz und Senior Vice President Group Privacy.
Daten sind die Basis für KI-Anwendungen (künstliche Intelligenz). Daher ist die Frage nach dem korrekten Umgang mit Daten hier eine sehr entscheidende. Geht hier etwas schief oder werden Daten für mehr genutzt, als der Anwender vielleicht annimmt, hat das schnell weitreichende Folgen.
Hinweis: Zu diesem Thema gibt es bereits ein aktuelleres „Management zur Sache“. Lesen Sie mehr zum Thema KI und Datenschutz bei der Deutschen Telekom hier.
Hier nur einige Beispiele: Redakteure der Zeitschrift c‘t berichteten, dass ein Kunde bei der Abfrage seiner durch Alexa gespeicherten Daten die Informationen eines anderen Nutzers erhielt. Online-Warenhäuser machen Kunden gezielt Angebote anhand des Kaufverhaltens. Mehr noch, auch die Preisgestaltung ist zum Teil von Nutzer zu Nutzer unterschiedlich. Noch viel weiter geht China mit dem System des ‚Citizen Score‘. Wer beispielsweise über eine rote Ampel fährt, erscheint sofort als Verkehrssünder mit Namen und Foto auf einer großen Leinwand an der Straßenkreuzung. All das basiert auf künstlicher Intelligenz. Wir müssen uns also beim Thema künstliche Intelligenz auch über Datenschutz unterhalten.
Bereits im Mai haben wir uns als eines der ersten Unternehmen überhaupt Leitlinien für die Entwicklung einer ethischen KI gegeben. Jetzt geht es darum, diese Leitlinien in die Praxis umzusetzen. Dabei war insbesondere der Bereich Datenschutz gefragt, dafür praktikable Datenschutzvorgaben bei der Deutschen Telekom zu entwickeln. Uns ging es darum, die Vorgaben der Datenschutzgrundverordnung zu konkretisieren und für uns anfassbarer zu machen. Mit dem so entstandenen Leitfaden (pdf, 437,5 KB) geben wir unseren Produktverantwortlichen und Entwicklern klare Hinweise, was bei der Entwicklung von KI-Systemen in Sachen Datenschutz berücksichtigt werden muss.
Zwei Punkte sind uns dabei besonders wichtig:
- Wie gewährleisten wir Transparenz über den Einsatz von KI und Einwirkungsrechte der Nutzer?
- Wie machen wir KI-Entscheidungen transparent und wie kontrollieren und überwachen wir KI-Systeme?
Der nun veröffentlichte Leitfaden stellt sicher, dass wir unserem Prinzip ‚Privacy and Security by Design‘ auch bei künstlicher Intelligenz treu bleiben. Das heißt, dass Datenschutz und Datensicherheit bei uns schon während der Entwicklung von neuen KI-Systemen berücksichtigt werden, damit sie datenschutzkonform sind. Datenschutzkonform sind KI-Systeme nach unserer Auffassung dann, wenn
- die Rechtmäßigkeit der Verarbeitung aller Daten(quellen) gewährleistet ist,
- der Einsatz von künstlicher Intelligenz allen Beteiligten transparent ist,
- Regelungsmöglichkeiten bei vermeintlich bestehenden Fehlentscheidungen bestehen,
- die Entscheidungsprozesse von KI-Systemen regelmäßig überwacht werden und
- sichergestellt werden kann, dass jede von der KI getroffene Entscheidung stets mit den Leitsätzen des Konzerns zur digitalen Ethik im Einklang steht.
Das setzt voraus, dass die Verantwortlichkeiten für KI-Systeme klar definiert sind und damit immer ein konkreter Ansprechpartner zur Verfügung steht. Außerdem muss eine KI-Lösung von den Kunden her gedacht und entwickelt werden. Nur so kann sie ihnen auch gut zu Diensten sein und Fehlentwicklungen werden vermieden. Die Anwender von KI-Lösungen müssen zudem einen angemessenen und wirksamen Überwachungsprozess zur Kontrolle der Entscheidungen des KI-Systems etablieren. Sollte eine Kontrolle negativ ausfallen, muss gewährleistet sein, dass sofort eingegriffen werden kann. Das alles gilt natürlich auch für KI-Systeme, die die Deutsche Telekom bei Dritten einkauft. Auch sie müssen unsere ethischen und rechtlichen Anforderungen einhalten. Ist dies nicht garantiert, wird das Produkt nicht eingesetzt.
So stellen wir sicher, dass künstliche Intelligenz eben nicht zum Datenschutz-Sünder wird. Wir möchten die Chancen, die diese Technologie bietet, zum Vorteil unserer Kunden und Mitarbeiter einsetzen. Und das geht eben nur, wenn der Datenschutz durch uns gewährleistet wird. Der neue Leitfaden stellt dafür die richtigen Weichen. Gerne stellen wir ihn auch zur Diskussion und freuen uns über fachlich konstruktive Kritik.
