#brodnig: Prognose: schuldig
Gesellschaft

#brodnig: Prognose: schuldig

Eine umstrittene Software berechnet, wer in Zukunft ein Verbrechen begehen wird.

Man stelle sich vor, in einer Stadt mit rund 400.000 Einwohnern und einem mächtigen Bürgermeister kommt es ganz diskret zu einer Absprache mit einem geheimnisvollen IT-Konzern. Das Technikunternehmen darf die privaten Daten von Bürgern analysieren, um sogenanntes Predictive Policing durchzuführen - mittels Software soll dabei kalkuliert werden, welcher Einwohner in Zukunft einen Mord begehen könnte oder wer vielleicht einer kriminellen Organisation angehört. Um diese Berechnung anzustellen, wird die Software mit Unmengen von Information gefüttert, mit Polizeiberichten, Gerichtsunterlagen, Telefondaten aus Gefängnissen, Wohnadressen und Social-Media-Aufzeichnungen. Ohne dass die Öffentlichkeit davon erfährt, werden die Daten dann bei Ermittlungen eingesetzt: Polizisten zeigt die Software an, wie ein Bürger soziale Medien nutzt oder ob er vielleicht ein Naheverhältnis zu Kriminellen aufweist. Die Datenauswertungen führen sogar dazu, dass Menschen vor Gericht landen - jedoch wird diese Software vor Gericht nicht erwähnt.


Der einzelne Mensch wird nicht nur danach bewertet, was er getan hat, sondern was er eines Tages tun könnte.

Das mag dystopisch klingen, ist aber Realität: In der Stadt New Orleans ging der Bürgermeister einen Deal mit dem Technikkonzern Palantir ein, der nicht einmal dem Gemeinderat mitgeteilt wurde. Das Medium "The Verge" deckte dies auf. Solches Predictive Policing gibt es in den USA schon länger, und es ist umstritten. Die Technik versucht, basierend auf Daten aus der Vergangenheit, die Zukunft vorherzusagen. Der einzelne Mensch wird nicht nur danach bewertet, was er getan hat, sondern was er eines Tages tun könnte. Besonders problematisch ist bei dem aktuellen Fall, dass dieses Ermittlungs-Tool ohne Wissen der Öffentlichkeit eingeführt wurde. Wie soll ein Richter ein korrektes Urteil fällen, wenn er nicht einmal weiß, wie die Polizei zum Verdächtigen kam? Wie soll man sich als Angeklagter gegen eine vielleicht fehlerhafte Software wehren, wenn man nicht einmal von der Software erfährt? Ich bin immer wieder erstaunt, was im US-Justizsystem alles möglich ist. Aber das Beispiel von New Orleans ist selbst für die überwachungsfreundlichen USA ein Horrorszenario.

Kommentar verfassen