Social Scoring – Auf dem Weg in die gläserne Gesellschaft?
13.03.2019 18:30 - 19:55 in Berlin (Deutschland)
Wie wäre es, wenn in unserem Land mit Hilfe von Technik und Algorithmen jeder Mensch zu lesen wäre, wie ein offenes Buch? Jeder Gang über die rote Ampel würde verzeichnet und über unsere Bewegungsdaten könnte genau ermittelt werden, welche Vorlieben wir haben und wo wir oft sind. Über Chancen und Risiken von Scoring diskutierten am 13. März Bundesministerin Katarina Barley, Andrea Timmesfeld (Generali Deutschland AG), Soziologe Steffen Mau und Peter Weibel (ZKM | Zentrum für Kunst und Medien Karlsruhe) im BMJV.
Scoring betrifft sehr oft besonders sensible Lebensbereiche: z.B. bei der Kreditvergabe oder bei der Einstufung in eine Versicherungsklasse. Läuft dieser Entscheidungsprozess primär maschinenbasiert, stellt er sich für den einzelnen Verbraucher meist als „black box“ dar. Er kann nicht nachvollziehen, warum er welchen Score erhalten hat. Verlassen sich auch die Unternehmen primär nur noch auf den „Maschinenwert“ oder überprüfen das Scoring-Ergebnis nicht noch einmal durch eigene Mitarbeiter, besteht ein Risiko für die individuelle Handlungsfreiheit, Teilhabe, Chancengleichheit und Selbstbestimmung des Einzelnen.
„Es ist ein fundamentaler Grundsatz unserer Verfassung“, so Barley, „dass Menschen nicht zu bloßen Objekten von Maschinen-Entscheidungen werden. Die Menschen müssen wissen, wer eine Entscheidung auf welcher Datenbasis und nach welchen Prinzipien über sie trifft. Der überwachte, kontrollierte manipulierte und fremdgesteuerte Mensch entspricht nicht dem Menschenbild des Grundgesetzes.“