Die Bundesregierung wird im Rahmen ihrer am Mittwoch (27. Januar) vorgestellten Datenstrategie den Einsatz von „diskriminierenden“ Algorithmen in verschiedenen Sektoren in Angriff nehmen. EURACTIV Deutschland Berichte.
Der von EURACTIV erhaltene Text der neuen Strategie zielt auch darauf ab, die Datenschutzbestimmungen auf Bundesebene zu harmonisieren und die Sicherheit von IT-Systemen zu stärken.
In Bezug auf die Bekämpfung von landesweit voreingenommenen Algorithmen will die Bundesregierung „untersuchen, ob und wie Diskriminierung von Bürgern durch algorithmische Entscheidungen, beispielsweise in Antragsverfahren, oder bei der Gewährung von Darlehen entgegengewirkt werden kann“, heißt es in dem Dokument.
Digitale Diskriminierung wurde im vergangenen Jahr auch in anderen Bereichen Deutschlands diskutiert, beispielsweise in der automatischen Gesichtserkennung. Bundesinnenminister Horst Seehofer (CSU) wollte dafür zusätzliche Smart-Kameras an öffentlichen Orten installieren, doch die Zivilgesellschaft leistete starken Widerstand (EURACTIV berichtete), unter anderem Bedenken hinsichtlich der Diskriminierung von Frauen und Farbigen.
„Diskriminierung aufgrund datenbasierter und damit sogenannter objektiver Entscheidungen ist real – insbesondere dann, wenn Modelle bestehende diskriminierende Aspekte aufrechterhalten“, schreibt die Bundesregierung an anderer Stelle.
Algorithmen sind nicht neutral
Mit dem Ziel, den „innovativen und verantwortungsvollen Umgang mit Daten“ zu fördern, möchte die Regierung beispielsweise weiter untersuchen, wie Unternehmen ihre Angebote und Preise an ihre Kunden anpassen und welche Auswirkungen dies haben wird.
Wenn zwei Personen dasselbe Produkt unter verschiedenen Bedingungen angeboten werden (z. B. Versicherung), können Algorithmen dahinter stehen, die unterschiedliche Profile aller verfügbaren Daten erstellt haben.
Es kann auch bestehende soziale Ungleichheiten verschärfen, beispielsweise wenn Menschen mit einem bestimmten sozioökonomischen Hintergrund bei der Arbeitssuche benachteiligt sind, weil ein Algorithmus diesen Hintergrund mit geringen Beschäftigungsmöglichkeiten in Verbindung bringt und ihnen so den sozialen Fortschritt verweigert.
Über diese Algorithmen ist zu wenig bekannt, sagt die Regierung; Tatsächlich werden sie normalerweise durch das Geschäftsgeheimnis des Unternehmens abgedeckt.
In diesem Bereich sind weitere Forschungsarbeiten geplant, einschließlich der gesellschaftspolitischen Auswirkungen. Das Justizministerium wird auch untersuchen, ob eine solche Diskriminierung rechtlich angegangen werden kann, indem beispielsweise strengere Anforderungen an die Trainingsdaten gestellt werden, auf deren Grundlage solche Algorithmen lernen.
Lob von der Geschäftswelt
Im Bereich Datenschutz will die Bundesregierung die föderalen Strukturen besser koordinieren. Derzeit gibt es in Deutschland 17 Datenschutzbeauftragte, einen für jedes Land sowie Bundesbeauftragten Ulrich Kelber (SPD).
Sie koordinieren untereinander, „aber die rechtlichen Auslegungen können unterschiedlich sein“, sagte die Regierung.
Gleiches gilt auf europäischer Ebene, wo „unterschiedliche Datenschutzkonzepte von verschiedenen Aufsichtsbehörden innerhalb der EU […] kann auch Herausforderungen für eine harmonisierte Anwendung des Gesetzes und für mehr europäische Datenhoheit schaffen. „“
Aus diesem Grund prüfe das Innenministerium derzeit Maßnahmen, um eine solche engere Zusammenarbeit zu ermöglichen.
Im Bereich der Gesundheitsforschung, in dem ein gut funktionierender Datenaustausch unerlässlich ist, wurde zu diesem Zweck ein separater Lead Supervisor eingerichtet.
Dafür gibt es Lob Öko, der deutsche Fachverband für das Internet.
„Die Harmonisierung des bestehenden föderalen Patchworks des Datenschutzes in Deutschland ist ein grundsätzlich willkommenes Ziel der derzeit diskutierten Datenstrategie der Bundesregierung“, sagte eine Sprecherin des Verbandes.
„Wir als Öko fordern seit langem eine einheitlichere und einheitlichere Umsetzung des Datenschutzrechts unter Beibehaltung des bestehenden Datenschutzniveaus“, fuhr sie fort.
Kampf gegen Datenmonopole
Der Verband kritisiert jedoch die vorgeschlagene Verpflichtung von Unternehmen, nicht personenbezogene Daten weiterzugeben.
Insbesondere befürchtet die Bundesregierung, dass Unternehmen „ein erhebliches wirtschaftliches Interesse daran haben könnten, nur ihre eigenen Daten zu verwenden“. Dies würde Wettbewerbsvorteile bringen und sogar die Monopolisierung fördern.
Sie wollen daher eine „Kultur des freiwilligen und verantwortungsvollen Informationsaustauschs“ fördern und auch den Missbrauch von Marktmacht besser registrieren. Dies ist auch das Ziel der jüngsten Änderung des Gesetzes über Wettbewerbsbeschränkungen (GWB) (EURACTIV).
Wenn dies zu einer Voraussetzung für den Datenaustausch werden sollte, müsste die Regierung zunächst eingehend prüfen, „inwieweit eine solche Verpflichtung die Innovation und den Wettbewerb beeinträchtigen würde“, sagte die Öko-Sprecherin.
Hrsg. Von Samuel Stolton