„Die Nutzung von künstlicher Intelligenz muss moralisch legitim sein“

Die Suchmaschine kennt meinen aktuellen Aufenthaltsort, der Onlinehändler kann mir heute schon sagen, was ich mir morgen kaufen möchte und meine intelligente Uhr weiß, wie es um meine Gesundheit bestellt ist. Der gläserne Kunde ist mittlerweile Realität. Wie beurteilen Sie diese Entwicklung der Digitalisierung? 

Claudia von Bothmer: Ich finde, wir sollten mehr über die Chancen der Digitalisierung sprechen. Welche enormen Potenziale in der Datenanalyse stecken und welche Fortschritte sie ermöglicht: von der Medizin über die Verkehrsplanung bis zur Bekämpfung des Hungers und weiteren Bereichen. Dabei ist es natürlich wichtig, dass faire Bedingungen gelten. Die Digitalisierung ist für die Menschen da und nicht umgekehrt. Sie müssen immer souverän darüber entscheiden können, was mit ihren Daten geschieht.

Nur wenige Menschen wissen aber, wie ihre persönlichen Daten genutzt und von künstlicher Intelligenz ausgewertet werden. Telefónica selbst hat den intelligenten Assistenten „Aura“ eingeführt, der gezielt auf Kundenbedürfnisse eingehen soll. Von Deutschland aus kann man auf Aura nur über den Facebook-Messenger zugreifen. Wie garantieren Sie Ihren Kunden hier trotzdem Datensicherheit?

Von Bothmer: Bei Telefónica Deutschland können die Kunden immer selbst entscheiden, wie sie das Unternehmen kontaktieren. Zum Beispiel ganz persönlich durch einen Anruf bei der Hotline oder den Besuch in einem O2 Shop. Wer Aura nicht über Facebook nutzen möchte, der kann auch den Chat auf der O2 Website dafür verwenden. Für das Speichern der Daten gelten dabei besondere Regeln: Mit Aura verfügt jeder Kunde über seinen eigenen persönlichen Datenspeicher, der die Daten, die bei der Nutzung generiert werden, sicher auf Servern von Telefónica ablegt. Damit ermöglicht Aura jedem Kunden sein eigenes persönliches Nutzungserlebnis. Alle Nutzer können ihre Daten auch jederzeit einsehen und über die Verwendung entscheiden. Telefónica betreibt sogar zusammen mit Deutsche Telekom, KPN und Orange die sogenannte „Data Portability Cooperation“. Sie entwickeln gemeinsam Protokolle, damit sich diese Daten auch von einer Telko zur anderen übertragen lassen. Denn für uns ist immer wichtig, dass der Mensch mit seinen Wünschen und Bedürfnissen im Mittelpunkt steht. Und dass er selbst entscheiden kann, wie seine Daten genutzt werden.

Telefónica hat sich weltweit dazu bekannt, künstliche Intelligenz nur nach ethischen Prinzipien einzusetzen. Was heißt das?

Von Bothmer: Künstliche Intelligenz (KI) unterstützt bei datenbasierten Entscheidungen oder Automatisierungen, die zahlreiche Verbesserungen ermöglichen. Das gilt nicht nur für medizinische Diagnosen, autonome Autos oder die Spracherkennung im Smartphone. Auch wir als Mobilfunkanbieter nutzen Algorithmen und KI in verschiedensten Bereichen. Das geht von der Optimierung unseres Mobilfunknetzes über den digitalen Assistenten Aura bis zu Datenanalysen für die Verkehrsplanung.

Daraus ergibt sich eine große Verantwortung, und deshalb hat Telefónica Deutschland im Februar ethische Prinzipien veröffentlicht, die von den Prinzipien des internationalen Telefónica-Konzerns abgeleitet sind. Sie dienen als Orientierung bei unserer Arbeit mit Datenanalysen und künstlicher Intelligenz, um den positiven Einfluss dieser Techniken auf die Gesellschaft zu unterstützen. Die neuen Prinzipien dienen zur Bewertung von KI-Projekten bei Telefónica Deutschland nach ethischen Grundsätzen. Zugleich richten sie sich aber auch an unsere Partner und Lieferanten.

Die Schwerpunktthemen sind dabei: KI soll fair sein und der Gesellschaft dienen. Außerdem sollten alle Teile der Gesellschaft den Zugang zu digitalen Möglichkeiten erhalten. Die Nutzung von künstlicher Intelligenz muss moralisch legitim sein und Nutzer sollen selbst entscheiden können, wie man ihre Daten verwendet.
Dazu gehört auch, dass Kunden darüber informiert werden, wenn sie mit einer KI kommunizieren statt mit einem Menschen. Und die Logik hinter KI-basierten Entscheidungen soll nachvollziehbar sein. Das gilt ebenso für die Zusammenarbeit mit Dritten, deren Daten den Überprüfungen durch Telefónica Deutschland standhalten müssen. Denn schließlich soll der Mensch die oberste ethische Instanz bleiben, wenn es um künstliche Intelligenz und die Analyse von Daten geht.

2018 sind Sie außerdem der „Corporate Digital Responsibility“ (CDR)-Initiative vom Bundesjustizministerium beigetreten. Was ist das und welche Ziele verfolgt das Projekt?

Von Bothmer: Die Initiative dient vor allem dazu, die Sichtbarkeit für dieses wichtige Thema zu stärken und gemeinsam konkrete Lösungsansätze für die nachhaltige Digitalisierung erarbeiten, um den digitalen Wandel zum Wohl aller Menschen zu gestalten. Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) hat deshalb mit Telefónica Deutschland und weiteren bekannten Unternehmen einen Prozess zur Entwicklung von Leitlinien für CDR angestoßen. Sein Ziel ist es, die digitale Verantwortung zu einer Selbstverständlichkeit für Unternehmen aller Branchen werden zu lassen. „Die ‚ehrbaren Kaufleute‘ sollen dadurch auch einen echten Marktvorteil gewinnen“, hieß es Anfang April bei der Vorstellung der ersten Ergebnisse. Die Verbraucherinnen und Verbraucher sollen durch die Arbeit der Initiative einen besseren Überblick darüber gewinnen, wie Unternehmen mit ihren Daten umgehen.

Unsere Gesellschaft befindet sich längst im digitalen Transformationsprozess. Ist es jetzt nicht ein bisschen spät, um sich über eine verantwortungsvolle Gestaltung Gedanken zu machen?

Von Bothmer: Dieser Prozess beginnt ja nicht erst jetzt. Telefónica Deutschland setzt sich beispielsweise seit Jahren dafür ein, die Digitalisierung verantwortlich zu gestalten. Seit 2015 stehen dafür sogar konkrete Ziele in unserem Responsible Business Plan, die wir bis 2020 dabei erreichen wollen. Wir sind also echte Verpflichtungen eingegangen, an denen wir uns messen lassen. Außerdem sollte man beachten, dass viele Entwicklungen auch noch am Anfang stehen. Einige Experten sagen beispielsweise, dass KI noch „bahnbrechender als die Erfindung der Elektrizität“ werden wird. 

Bis 2030 dürfte ihr Einsatz das weltweite Bruttoinlandsprodukt viermal so stark steigern, wie es die Dampfmaschine in den ersten Jahren nach ihrer Erfindung vermochte: um 1,2 Prozentpunkte pro Jahr, haben Forscher des McKinsey Global Institute berechnet. KI soll in den nächsten zwölf Jahren eine zusätzliche Wertschöpfung von bis zu 13 Billionen US-Dollar generieren. Die digitale Transformation hat in vielen Bereichen gerade erst begonnen. Und wir möchten, soweit es geht, die langfristigen Auswirkungen frühzeitig mit bedenken. Ethik und digitale Verantwortung werden dann am besten im Sinne eines Responsibility-by-design-Ansatzes berücksichtigt.

Bei wichtigen Zukunftsfragen der Digitalisierung vertreten Politik und Zivilgesellschaft zum Teil unterschiedliche Ansichten wie etwa die Debatte über die Urheberrechtsreform gezeigt hat. Warum sind Sie dennoch davon überzeugt, dass die CDR-Initiative Lösungen entwickelt, die eine breite öffentliche Akzeptanz finden? Welchen Beitrag kann speziell Telefónica dafür leisten?

Von Bothmer: Für Unternehmen führt der digitale Wandel zu einem neuen Wettbewerb um Innovationen und Erfolge durch digitale Geschäftsmodelle. Daneben verstärkt sich aber auch der Wettbewerb um das Vertrauen von Kunden und Öffentlichkeit. Verbrauchervertrauen ist eine Kernressource der Digitalökonomie. Die digitale Transformation kann nur gelingen, wenn die Verbraucher darauf vertrauen, dass Unternehmen ihre persönlichen Daten nicht missbrauchen und sie bei Problemen mit digitalen Anwendungen nicht alleine gelassen werden.

Um beispielsweise die Chancen von Big Data tatsächlich nutzen zu können, ist es entscheidend, dass die Menschen mit der Analyse ihrer Daten einverstanden sind, weil sie sonst nicht bereitgestellt werden. Deshalb ist es wichtig, durch CDR das Vertrauen in die sichere Verwendung der Daten zu gewinnen. Telefónica Deutschland ist ein Vorreiter in diesem Bereich. Es ist unser erklärtes Ziel, mit digitalen Technologien eine nachhaltige Entwicklung voranzutreiben. Deshalb berücksichtigen wir die Auswirkungen unseres digitalen Geschäftsmodells auf Umwelt und Gesellschaft. Dabei steht für uns immer der Mensch im Mittelpunkt.

Am besten kann man das mit einem Beispiel erklären: Die Handys und Smartphones in unserem Mobilfunknetz erzeugen über fünf Milliarden Datenpunkte pro Tag. Daraus berechnen wir anonymisierte Bewegungsströme. Mit diesen Analysen haben wir Projekte von Partnern wie Fraunhofer IAO und Nahverkehrsunternehmen unterstützt, die zur Optimierung des Verkehrs in Hamburg, Stuttgart, Nürnberg, München, Berlin und anderswo dienten. Die Mobilfunkdaten werden dafür über ein dreistufiges und vom TÜV zertifiziertes Verfahren so anonymisiert, dass kein Rückschluss auf Einzelpersonen mehr möglich ist. Und dennoch kann sich bei uns jeder Kunde auch gegen die anonymisierte Analyse seiner Daten entscheiden. Obwohl der Gesetzgeber das gar nicht verlangt, weil die Daten anonymisiert sind. Beim Umgang mit den Daten unserer Kunden gehen wir in vielen Bereichen über die gesetzlichen Verpflichtungen hinaus.

Vielen Dank für das Gespräch! 

Erfahren Sie in der nächsten Woche im zweiten Teil des Interviews, wie die Zwischenergebnisse der CDR-Initiative ausfallen und wie Telefónica Deutschland CDR in der Unternehmensverantwortung integriert.