In Broward County versuchte eine 18-Jährige, ein Kinderfahrrad und einen Roller zu stehlen. Ein 41-Jähriger, der bereits wegen bewaffneten Raubs im Gefängnis saß, stiehlt Werkzeug im Wert von ähnlich viel Geld. Für beide wird durch die Software COMPAS ein Score berechnet, der das individuelle Rückfallrisiko angeben soll. Die junge Frau erhält eine 8, der Mann eine 3.
Zwei Jahre später wurde die junge Frau nicht erneut angeklagt, der Mann saß wegen eines Einbruchs acht Jahre im Gefängnis.
In einer großen Recherche von ProPublica wird COMPAS im Jahr 2016 vorgeworfen, rassistische Vorurteile zu reproduzieren und nicht alle Menschen gleich fair zu behandeln. In dieser Folge schauen wir uns das System und die Vorwürfe genauer an. Dabei stellt sich die Frage, was Fairness überhaupt ist und wie fair ein Algorithmus sein kann, dessen Rechenweg ein Geschäftsgeheimnis ist.
Für diese Folge der Digitalen Anomalien gibt es ein vollständiges Transkript. Dieses Transkript wurde automatisiert erzeugt und nicht nachbearbeitet oder korrekturgelesen. Es wird daher sicher Fehler enthalten. Das Transkript ist als Ergänzung zu verstehen, um beispielsweise die Inhalte durchsuchbar zu machen. Im Zweifel gilt immer das gesprochene Wort aus der Folge.
Shownotes
- COMPAS (software) - Wikipedia
- US-Justiz: Algorithmen benachteiligen systematisch Schwarze | heise online
- Der Artikel von ProPublica, der die Frage der Fairness aufwirft
- Interaktive Simulation der Scoring Algorithmen | MIT Technology Review
- Warnendes Beispiel | heise online
- Algorithmen im US-Justizsystem - Schicksalsmaschinen
- Loomis v. Wisconsin - Wikipedia
- Minority Report – Wikipedia
- Beispielhafter COMPAS Fragebogen
- COMPAS Handbuch von 2019
- Hungry judge effect - Wikipedia
- Beware the Lure of Narratives: “Hungry Judges” Should Not Motivate the Use of “Artificial Intelligence” in Law | German Law Journal | Cambridge Core
- COMPAS: zu einer wegweisenden Debatte über algorithmische Risikobeurteilung | Forensische Psychiatrie, Psychologie, Kriminologie | Springer Nature Link
- A Popular Algorithm Is No Better at Predicting Crimes Than Random People - The Atlantic
- The limits of human predictions of recidivism | Science
- The accuracy, fairness, and limits of predicting recidivism | Science Advances
- How We Analyzed the COMPAS Recidivism Algorithm — ProPublica
Erwähnte Folgen
Digitale Anomalien in den anderen Kanälen
Unterstützung Exklusive Folgen gibt es ab 5 Euro pro Monat auf Steady. Damit hilfst du, den Podcast am Leben zu halten und weiterzuentwickeln.
Kanäle Digitale Anomalien findest du bei Spotify, Apple, YouTube und jeder gängigen Podcast-App.
Community Es gibt eine aktive Discord-Community. Der Podcast ist außerdem auf Mastodon und Instagram vertreten. Mich findet ihr auf Bluesky. Auf Twitch gibt es hin und wieder Live-Streams.
Newsletter Einmal im Monat erscheint das E-Mail-Magazin „Die Anomalie“ mit interessanten Artikeln und Updates direkt in deinem Postfach.
Links Alles schon gehört? Im Verzeichnis der Wissenschaftspodcast findest du viele weitere interessante Podcasts. Falls dich außerdem alte Spiele interessieren, schau gerne bei meinem Retro-Gaming-Podcast Grobe Pixel vorbei.
Credits
Sprecher & Produktion: Wolfgang Schoch
Musik: BACKPLATE von https://josephmcdade.com
Ein besonderer Dank an alle ROOT Supporter: Peter, Holger