Wie fair ist die digitale Welt

Computersysteme sind in immer mehr Entscheidungen einbezogen, die unser Leben einschneidend verändern können. Das Spektrum reicht dabei von der Kreditvergabe über die Auswahl von Bewerbungen bis zur Ermittlung der Dauer von Bewährungsstrafen.

Leider führt diese Automatisierung von Entscheidungen nicht nur zu Effizienzgewinnen und Innovationen. Um Regeln für algorithmische Entscheidungen zu bilden, müssen zunächst sehr große Mengen von personenbezogenen Daten verarbeitet werden. Kommen dabei nicht-repräsentative Datensätze zum Einsatz , kann es zu Verzerrungen und Ungleichbehandlungen bei den algorithmischen Entscheidungen kommen. Mit anderen Worten, es entstehen Diskriminierungsrisiken.

Diskriminierung droht auch dann, wenn Softwareentwickelnde und -Anwendende bewusst oder unbewusst und ohne anerkannte Begründung diskriminierungsrechtlich geschützte Merkmale in die Entscheidungsregeln einbauen. Etwa Geschlecht, Alter, Religion, Behinderung, ethnische Herkunft oder sexuelle Orientierung.

Mittlerweile haben Forschung, Wirtschaft und Politik u. a. mit Ethikrichtlinien und der Verschärfung des Datenschutzes reagiert. Bei der Diskussion um algorithmische Diskriminierungsrisiken treten jedoch alte Fragen nach dem Ausmaß, den Formen und Kriterien von gesellschaftlich akzeptabler Differenzierung und Ungleichbehandlung wieder verstärkt zu Tage, die einer breiten gesellschaftlichen Debatte bedürfen.