{"version":"1.0.0","segments":[{"speaker":null,"startTime":7.227,"endTime":11.451,"body":"Hallo und herzlich willkommen bei Digitale Anomalien. Mein Name ist Wolfgang"},{"speaker":null,"startTime":11.451,"endTime":15.766,"body":"Schoch und in diesem Podcast erz\u00e4hle ich Geschichten von Computern und Katastrophen"},{"speaker":null,"startTime":16.178,"endTime":19.031,"body":"und von allem, was irgendwo dazwischen stattfindet."},{"speaker":null,"startTime":19.391,"endTime":23.251,"body":"Hier geht es um die wunderbare Welt der Technik und um all die Geschichten von"},{"speaker":null,"startTime":23.251,"endTime":24.584,"body":"Fehlern und vom Scheitern."},{"speaker":null,"startTime":25.147,"endTime":31.071,"body":"In der heutigen Folge Nummer 137, da geht es um das hohe Gericht und um die"},{"speaker":null,"startTime":31.071,"endTime":36.021,"body":"Frage, wie gut man eigentlich die R\u00fcckfallwahrscheinlichkeit von straff\u00e4llig"},{"speaker":null,"startTime":36.021,"endTime":38.295,"body":"gewordenen Menschen vorhersagen kann."},{"speaker":null,"startTime":39.079,"endTime":45.861,"body":"Wir sind in Washington im Jahr 2054. Die Polizei verhaftet Menschen f\u00fcr Morde,"},{"speaker":null,"startTime":45.861,"endTime":48.239,"body":"die diese noch gar nicht begangen haben."},{"speaker":null,"startTime":48.686,"endTime":52.506,"body":"M\u00f6glich machen das drei Menschen mit hellseherischen F\u00e4higkeiten,"},{"speaker":null,"startTime":52.779,"endTime":54.77,"body":"die sogenannten Precogs."},{"speaker":null,"startTime":55.013,"endTime":61.196,"body":"Der Name stammt von Precognition, also sinngem\u00e4\u00df so viel wie vorherige Wahrnehmung."},{"speaker":null,"startTime":61.405,"endTime":67.243,"body":"Und dabei handelt es sich nat\u00fcrlich um die Geschichte von Minority Report aus dem Jahr 2002."},{"speaker":null,"startTime":67.69,"endTime":71.893,"body":"Das ist ein Film von Steven Spielberg und die Hauptrolle spielt Tom Cruise."},{"speaker":null,"startTime":72.508,"endTime":76.154,"body":"Die Vorlage zu diesem Film ist allerdings noch ein ganzes St\u00fcck \u00e4lter."},{"speaker":null,"startTime":76.543,"endTime":83.584,"body":"Dabei handelt es sich n\u00e4mlich um eine Kurzgeschichte von Philip K. Dick aus dem Jahr 1956."},{"speaker":null,"startTime":84.246,"endTime":90.753,"body":"Im Film hei\u00dft dieses ganze System Pre-Crime, also Verbrechen verhindern, bevor die passieren."},{"speaker":null,"startTime":90.927,"endTime":93.891,"body":"Und nat\u00fcrlich ist das philosophisch und ethisch auch eine ziemlich spannende"},{"speaker":null,"startTime":93.891,"endTime":98.799,"body":"Frage, ob man \u00fcberhaupt f\u00fcr eine Tat schuldig sein kann, die man noch gar nicht begangen hat."},{"speaker":null,"startTime":99.262,"endTime":103.25,"body":"Wie gesagt, heute ist das noch Science-Fiction, aber es gibt Entwicklungen,"},{"speaker":null,"startTime":103.25,"endTime":105.979,"body":"die zumindest ein bisschen in diese Richtung gehen."},{"speaker":null,"startTime":106.275,"endTime":110.431,"body":"In den USA wird n\u00e4mlich bei Menschen, die schon mal mit der Justiz zu tun hatten,"},{"speaker":null,"startTime":110.686,"endTime":116.126,"body":"l\u00e4ngst ausgerechnet, wie wahrscheinlich es ist, dass diese Leute wieder straff\u00e4llig werden."},{"speaker":null,"startTime":116.52,"endTime":120.433,"body":"Und die bekannteste Software daf\u00fcr, die hei\u00dft Compass."},{"speaker":null,"startTime":120.851,"endTime":124.449,"body":"Und die Frage ist jetzt nat\u00fcrlich, wie sieht das in der Praxis aus?"},{"speaker":null,"startTime":124.826,"endTime":131.972,"body":"Und daf\u00fcr gehen wir nach Wisconsin. Im Februar 2013 in Barron County in Wisconsin,"},{"speaker":null,"startTime":132.378,"endTime":134.387,"body":"da steht Paul Silly vor Gericht."},{"speaker":null,"startTime":134.509,"endTime":140.186,"body":"Paul Silly ist Bauarbeiter und der hat einen Rasenm\u00e4her und einige Werkzeuge gestohlen."},{"speaker":null,"startTime":140.529,"endTime":145.097,"body":"Das ist kein Kavaliersdelikt, aber jetzt auch kein richtig gro\u00dfes Kapitalverbrechen."},{"speaker":null,"startTime":145.312,"endTime":149.323,"body":"Die Staatsanwaltschaft und die Verteidigung, die haben sich damals schon geeinigt"},{"speaker":null,"startTime":149.66,"endTime":154.54,"body":"und der Paul Silly, der soll ein Jahr im Bezirksgef\u00e4ngnis bekommen und danach"},{"speaker":null,"startTime":154.54,"endTime":156.347,"body":"unter Aufsicht gestellt werden."},{"speaker":null,"startTime":156.585,"endTime":162.059,"body":"Und an der Stelle brauchen wir, glaube ich, einen ganz kurzen Exkurs zum amerikanischen Strafsystem."},{"speaker":null,"startTime":162.506,"endTime":166.74,"body":"Mir war n\u00e4mlich bisher auch nicht so ganz klar gewesen, dass es einen Unterschied"},{"speaker":null,"startTime":166.74,"endTime":169.397,"body":"zwischen Jail und Prison gibt."},{"speaker":null,"startTime":169.617,"endTime":172.741,"body":"F\u00fcr mich war das beides irgendwie synonym f\u00fcr Gef\u00e4ngnis."},{"speaker":null,"startTime":173.118,"endTime":178.38,"body":"Aber das stimmt nicht. Das Bezirksgef\u00e4ngnis, das ist auf Englisch das Jail und"},{"speaker":null,"startTime":178.38,"endTime":182.82,"body":"das ist f\u00fcr eher kurze Strafen gedacht. Und wenn man jetzt l\u00e4nger einsitzt,"},{"speaker":null,"startTime":182.82,"endTime":186.503,"body":"dann kommt man ins Staatsgef\u00e4ngnis und das ist das Prison."},{"speaker":null,"startTime":186.938,"endTime":190.09,"body":"Aber zur\u00fcck zu Paul Silly. Der Richter in dieser Strafsache,"},{"speaker":null,"startTime":190.09,"endTime":195.06,"body":"das war damals James Babler, der schaut sich vor dem Urteil noch eine Auswertung"},{"speaker":null,"startTime":195.06,"endTime":196.685,"body":"der Software Kompass an."},{"speaker":null,"startTime":197.068,"endTime":201.288,"body":"Und in dieser Auswertung, da befinden sich verschiedene Zahlen und Balken."},{"speaker":null,"startTime":201.683,"endTime":207.169,"body":"Und diese Software, die stuft jetzt Silly als hohes Risiko f\u00fcr Gewalttaten ein"},{"speaker":null,"startTime":207.511,"endTime":211.72,"body":"und als mittleres Risiko f\u00fcr so eine allgemeine R\u00fcckf\u00e4lligkeit."},{"speaker":null,"startTime":212.306,"endTime":216.22,"body":"Und der Richter sieht das und er kippt jetzt die Einigung, die es schon zwischen"},{"speaker":null,"startTime":216.22,"endTime":218.558,"body":"der Verteidigung und der Staatsanwaltschaft gab."},{"speaker":null,"startTime":219.191,"endTime":223.028,"body":"Und statt diesem einen Jahr im Bezirksgef\u00e4ngnis gibt es f\u00fcr Paul Silly jetzt"},{"speaker":null,"startTime":223.028,"endTime":225.118,"body":"zwei Jahre im Staatsgef\u00e4ngnis."},{"speaker":null,"startTime":225.536,"endTime":229.618,"body":"Silly geht in Berufung und bei diesem Berufungsverfahren gibt es jetzt einen"},{"speaker":null,"startTime":229.618,"endTime":233.46,"body":"Zeugen und das ist der Mann, der die Software mitentwickelt hat."},{"speaker":null,"startTime":233.785,"endTime":239.456,"body":"Und zwar ist das Tim Brennan, der ist Statistiker und Mitgr\u00fcnder von der Firma Northpointe."},{"speaker":null,"startTime":240.077,"endTime":244.262,"body":"Brennan erkl\u00e4rt, dass die Software eigentlich gar nicht f\u00fcr Gerichte gedacht"},{"speaker":null,"startTime":244.262,"endTime":248.755,"body":"ist, sondern f\u00fcr Gef\u00e4ngnisse und vielleicht auch f\u00fcr Bew\u00e4hrungshelfer."},{"speaker":null,"startTime":249.005,"endTime":253.347,"body":"Und da soll die Software helfen, die Betreuung und die Behandlung zu planen."},{"speaker":null,"startTime":253.771,"endTime":257.712,"body":"Also beispielsweise dar\u00fcber zu entscheiden, ob jetzt jemand Freigang kriegt"},{"speaker":null,"startTime":257.712,"endTime":261.149,"body":"oder ob es jetzt eine strafmildernde Geschichte irgendwie gibt."},{"speaker":null,"startTime":261.788,"endTime":267.593,"body":"Am Ende von diesem Berufungsverfahren wird die Strafe von Silly auf 18 Monate reduziert."},{"speaker":null,"startTime":267.732,"endTime":272.342,"body":"Der Richter sagt sp\u00e4ter \u00fcbrigens, dass er ohne die Software \u00fcbrigens auch genau"},{"speaker":null,"startTime":272.342,"endTime":274.431,"body":"diese 18 Monate gegeben h\u00e4tte."},{"speaker":null,"startTime":275.023,"endTime":280.387,"body":"Der Einsatz von Kompass hat Paul Silly also fast ein halbes Jahr Knast gekostet."},{"speaker":null,"startTime":280.636,"endTime":284.722,"body":"Und das ist schon spannend, denn auch wenn die Software zum Gl\u00fcck nicht vollautomatisch"},{"speaker":null,"startTime":284.722,"endTime":289.072,"body":"l\u00e4uft und selbstst\u00e4ndig Urteile f\u00e4llt, so hat sie als Werkzeug nat\u00fcrlich schon"},{"speaker":null,"startTime":289.072,"endTime":292.229,"body":"einen Einfluss darauf, wie ein Urteil ausfallen kann."},{"speaker":null,"startTime":292.606,"endTime":296.925,"body":"Auch wenn die Software daf\u00fcr eigentlich gar nicht gedacht ist."},{"speaker":null,"startTime":297.21,"endTime":302.084,"body":"Und der Silly, der ist kein Einzelfall. Im gleichen Jahr, also 2013,"},{"speaker":null,"startTime":302.444,"endTime":306.892,"body":"da steht in Wisconsin Eric Loomis vor Gericht. Der wird im Zusammenhang mit"},{"speaker":null,"startTime":306.892,"endTime":311.975,"body":"einer Schie\u00dferei verurteilt und auch bei Loomis zeigt die Software hohe Werte an."},{"speaker":null,"startTime":312.463,"endTime":316.805,"body":"Und der Richter, der erw\u00e4hnt es auch ausdr\u00fccklich in seiner Begr\u00fcndung zum Urteil."},{"speaker":null,"startTime":317.235,"endTime":321.728,"body":"Loomis wird zu sechs Jahren Haft plus f\u00fcnf Jahren Aufsicht verurteilt."},{"speaker":null,"startTime":321.948,"endTime":326.182,"body":"Und Loomis, der klagt auch dagegen und er hat verschiedene Argumente und eines"},{"speaker":null,"startTime":326.182,"endTime":330.062,"body":"finde ich ganz spannend, denn Loomis sagt, er kann ja gar nicht \u00fcberpr\u00fcfen,"},{"speaker":null,"startTime":330.062,"endTime":334.116,"body":"wie diese Beurteilung zustande kommt, weil die Software propriet\u00e4r ist."},{"speaker":null,"startTime":334.487,"endTime":338.912,"body":"Also die Algorithmen, die da verwendet werden, die sind Gesch\u00e4ftsgeheimnis und"},{"speaker":null,"startTime":338.912,"endTime":343.712,"body":"so ist es \u00fcberhaupt nicht \u00fcberpr\u00fcfbar, wie da \u00fcberhaupt eine Zahl zustande kommt."},{"speaker":null,"startTime":343.712,"endTime":347.532,"body":"Der Fall von Loomis, der wird jetzt vom Berufungsgericht direkt an den obersten"},{"speaker":null,"startTime":347.532,"endTime":349.87,"body":"Gerichtshof von Wisconsin weitergeleitet."},{"speaker":null,"startTime":350.265,"endTime":354.312,"body":"Und Loomis versuchte sp\u00e4ter sogar noch beim obersten Gerichtshof der USA,"},{"speaker":null,"startTime":354.312,"endTime":355.838,"body":"also beim Supreme Court."},{"speaker":null,"startTime":356.291,"endTime":359.814,"body":"Und wie die Geschichte ausgeht, das erz\u00e4hle ich euch am Ende der Folge."},{"speaker":null,"startTime":360.134,"endTime":363.934,"body":"Also dranbleiben. Zun\u00e4chst einmal ist n\u00e4mlich eine andere Frage wichtig."},{"speaker":null,"startTime":364.334,"endTime":368.422,"body":"Warum wollen Gerichte so eine Software \u00fcberhaupt haben?"},{"speaker":null,"startTime":368.59,"endTime":373.894,"body":"Und damit kommen wir zur\u00fcck zu COMPASS. COMPASS steht f\u00fcr Correctional Offender"},{"speaker":null,"startTime":373.894,"endTime":377.344,"body":"Management Profiling for Alternative Sanctions."},{"speaker":null,"startTime":377.344,"endTime":382.514,"body":"Puh, ziemlich sperrig. Und COMPASS, das ist ein Werkzeug, das einsch\u00e4tzt,"},{"speaker":null,"startTime":382.514,"endTime":385.216,"body":"wie wahrscheinlich ein Mensch wieder straff\u00e4llig wird."},{"speaker":null,"startTime":385.361,"endTime":390.719,"body":"Entwickelt wurde Kompass ab Ende der 1990er Jahre von der Firma Northpoint."},{"speaker":null,"startTime":390.887,"endTime":394.329,"body":"Und die Versprechen von Kompass, die klingen erstmal ganz gut."},{"speaker":null,"startTime":394.649,"endTime":398.544,"body":"Gerichte sind \u00fcberlastet und eine Software, die kann Arbeit abnehmen."},{"speaker":null,"startTime":398.904,"endTime":402.434,"body":"Menschen, die urteilen teils nach Bauchgef\u00fchl. Eine Software,"},{"speaker":null,"startTime":402.434,"endTime":405.289,"body":"die ist objektiv und damit gerecht f\u00fcr alle Leute."},{"speaker":null,"startTime":405.574,"endTime":408.234,"body":"Und zu dem Punkt gibt es \u00fcbrigens eine ganz spannende Studie."},{"speaker":null,"startTime":408.234,"endTime":414.224,"body":"Und die stammt aus dem Jahr 2011 und die beschreibt den sogenannten Hungry Judge"},{"speaker":null,"startTime":414.224,"endTime":416.852,"body":"Effekt, also den hungrigen Richtereffekt."},{"speaker":null,"startTime":417.281,"endTime":422.504,"body":"Untersucht wurden damals israelische Bew\u00e4hrungsaussch\u00fcsse, also keine Strafrichter,"},{"speaker":null,"startTime":422.504,"endTime":428.415,"body":"und die sollen laut dieser Studie nach dem Mittagessen h\u00e4ufiger positiv entschieden haben."},{"speaker":null,"startTime":428.554,"endTime":431.884,"body":"Die Studie, die ist ziemlich ber\u00fchmt, aber auch ziemlich umstritten."},{"speaker":null,"startTime":431.884,"endTime":436.564,"body":"Und wenn man sich mit dieser Thematik besch\u00e4ftigt, dann st\u00f6\u00dft man zwangsl\u00e4ufig"},{"speaker":null,"startTime":436.564,"endTime":439.746,"body":"irgendwann mal auf diese Studie. Deswegen wollte ich sie kurz ansprechen."},{"speaker":null,"startTime":440.141,"endTime":444.824,"body":"Doch zur\u00fcck zu den Versprechen von KOMPASS. Wenn die ganzen Versprechen von"},{"speaker":null,"startTime":444.824,"endTime":450.457,"body":"KOMPASS stimmen, dann ist das ja prinzipiell f\u00fcr die betroffenen Personen und f\u00fcr den Staat gut."},{"speaker":null,"startTime":450.927,"endTime":455.655,"body":"Denn der Staat, der kann Geld sparen, weil weniger Leute im Gef\u00e4ngnis sind und"},{"speaker":null,"startTime":455.655,"endTime":460.105,"body":"die betroffenen Personen, die deswegen nicht oder nur k\u00fcrzer ins Gef\u00e4ngnis m\u00fcssen,"},{"speaker":null,"startTime":460.476,"endTime":462.115,"body":"naja, die bekommen mehr Freiheit."},{"speaker":null,"startTime":462.415,"endTime":464.632,"body":"Aber das Ganze hat nat\u00fcrlich auch eine Kehrseite."},{"speaker":null,"startTime":465.033,"endTime":469.075,"body":"Denn ein hoher Score bei KOMPASS, der kann sich nat\u00fcrlich auch darauf auswirken,"},{"speaker":null,"startTime":469.075,"endTime":472.87,"body":"dass man jetzt beispielsweise l\u00e4nger ins Gef\u00e4ngnis muss, weil KOMPASS denkt,"},{"speaker":null,"startTime":473.234,"endTime":478.145,"body":"man hat ein hohes R\u00fcckfallrisiko, obwohl man vielleicht nie wieder r\u00fcckf\u00e4llig wird."},{"speaker":null,"startTime":478.523,"endTime":482.875,"body":"Oder der hohe Score kann dazu f\u00fchren, dass man in Untersuchungshaft bleiben"},{"speaker":null,"startTime":482.875,"endTime":486.255,"body":"muss bis zu einem Urteil. Aber wie sieht das jetzt in der Praxis aus?"},{"speaker":null,"startTime":486.555,"endTime":491.299,"body":"Wird das so eine Software wie Kompass wirklich ganz neutral als Werkzeug verwendet,"},{"speaker":null,"startTime":491.636,"endTime":496.105,"body":"um dann mit Hilfe von diesen Informationen Entscheidungen zu treffen oder verl\u00e4sst"},{"speaker":null,"startTime":496.105,"endTime":498.921,"body":"man sich da vielleicht doch ein bisschen zu stark drauf?"},{"speaker":null,"startTime":499.583,"endTime":504.712,"body":"Der Fall von Silly vom Anfang, der hat ja schon gezeigt, dass solche Bewertungen"},{"speaker":null,"startTime":504.712,"endTime":507.302,"body":"das Urteil von einem Richter beeinflussen k\u00f6nnen."},{"speaker":null,"startTime":507.302,"endTime":511.692,"body":"Und ganz egal, wie gut so eine Prognose ist, die von so einem Algorithmus berechnet"},{"speaker":null,"startTime":511.692,"endTime":516.092,"body":"wird, am Ende ist nat\u00fcrlich vor allem wichtig, was man damit macht."},{"speaker":null,"startTime":516.432,"endTime":518.536,"body":"Und an der Stelle kommt der Mensch ins Spiel."},{"speaker":null,"startTime":519.065,"endTime":524.933,"body":"Es gibt Studien, die zeigen, dass Richter solchen Bewertungen oftmals gar nicht blind folgen."},{"speaker":null,"startTime":525.479,"endTime":531.636,"body":"Die folgen diesen Bewertungen vor allem dann, wenn die Zahl das best\u00e4tigt, was sie sowieso denken."},{"speaker":null,"startTime":531.874,"endTime":535.692,"body":"Und das ist vielleicht ein kleines bisschen, wie wenn ihr mit einem Auto unterwegs"},{"speaker":null,"startTime":535.692,"endTime":539.479,"body":"seid, ihr habt das Navi laufen und ihr fahrt eine bekannte Strecke."},{"speaker":null,"startTime":540.007,"endTime":543.681,"body":"Und das Navi, das l\u00e4uft halt wegen den Verkehrsinformationen."},{"speaker":null,"startTime":544.239,"endTime":547.422,"body":"Wenn euch das Navi jetzt einen Weg vorschl\u00e4gt, den ihr kennt,"},{"speaker":null,"startTime":547.422,"endTime":549.643,"body":"dann folgt ihr dem Vorschlag wahrscheinlich."},{"speaker":null,"startTime":550.073,"endTime":554.352,"body":"Wenn euch das Navi jetzt aber einen Weg vorschl\u00e4gt, den ihr nicht kennt oder"},{"speaker":null,"startTime":554.352,"endTime":559.932,"body":"der euch irgendwie abwegig vorkommt, dann werdet ihr diesem Vorschlag wahrscheinlich"},{"speaker":null,"startTime":559.932,"endTime":564.26,"body":"nicht direkt folgen. Ihr werdet dr\u00fcber nachdenken, ihr zweifelt es vielleicht an."},{"speaker":null,"startTime":564.748,"endTime":569.582,"body":"Und ich glaube, damit l\u00e4sst sich das ganz gut vergleichen, was jetzt bei diesen"},{"speaker":null,"startTime":569.582,"endTime":571.493,"body":"Richterinnen und Richtern auch passiert."},{"speaker":null,"startTime":572.201,"endTime":573.782,"body":"Wichtig ist an der Stelle nat\u00fcrlich"},{"speaker":null,"startTime":573.782,"endTime":578.117,"body":"auch die Frage, woher bekommt KOMPASS jetzt eigentlich diese Zahl?"},{"speaker":null,"startTime":578.9,"endTime":585.953,"body":"Am Anfang von der ganzen Berechnung, da steht ein Fragebogen mit sage und schreibe 137 Fragen."},{"speaker":null,"startTime":586.487,"endTime":590.912,"body":"Ein Teil von diesen Fragen wird mit Daten aus der Akte beantwortet."},{"speaker":null,"startTime":590.912,"endTime":595.205,"body":"Also da flie\u00dfen Dinge ein wie Vorstrafen oder fr\u00fchere Festnahmen."},{"speaker":null,"startTime":595.675,"endTime":601.592,"body":"Ein Teil wird im Gespr\u00e4ch erhoben, so Dinge wie aktuelle Wohnsituation, Job, Drogen etc."},{"speaker":null,"startTime":602.717,"endTime":607.242,"body":"Und dazu kommen noch so zus\u00e4tzliche Informationen wie sa\u00df bereits ein Elternteil"},{"speaker":null,"startTime":607.242,"endTime":610.954,"body":"im Gef\u00e4ngnis, wie viele der Freunde nehmen Drogen und so weiter."},{"speaker":null,"startTime":611.059,"endTime":614.443,"body":"Also 137 Fragen, das ist eine ganze Menge."},{"speaker":null,"startTime":615.063,"endTime":620.845,"body":"Und die eigentliche Prognose, die dann erstellt wird, die st\u00fctzt sich aber nur auf den Teil davon."},{"speaker":null,"startTime":621.199,"endTime":626.197,"body":"Und darunter sind so Informationen wie das Alter, das Alter bei der ersten Festnahme"},{"speaker":null,"startTime":626.493,"endTime":628.774,"body":"und die Zahl fr\u00fcherer Festnahmen."},{"speaker":null,"startTime":629.239,"endTime":634.223,"body":"Aber es werden keine Merkmale wie beispielsweise die Hautfarbe verwendet."},{"speaker":null,"startTime":634.223,"endTime":638.653,"body":"Aus diesen ganzen Daten berechnet die Software jetzt einen individuellen Wert"},{"speaker":null,"startTime":638.653,"endTime":640.251,"body":"f\u00fcr die betreffende Person."},{"speaker":null,"startTime":640.628,"endTime":644.613,"body":"Und dieser Wert, das ist eine gewichtete Summe. Das bedeutet,"},{"speaker":null,"startTime":644.613,"endTime":649.853,"body":"es werden einzelne Werte zusammengez\u00e4hlt und manche davon, die z\u00e4hlen jetzt mehr als andere."},{"speaker":null,"startTime":650.153,"endTime":654.123,"body":"Also beispielsweise k\u00f6nnte das so aussehen, dass man jetzt das Alter nimmt der"},{"speaker":null,"startTime":654.123,"endTime":659.847,"body":"ersten Festnahme und sagt, okay, das ist ziemlich wichtig, das multiplizieren wir jetzt mit 5."},{"speaker":null,"startTime":660.248,"endTime":663.803,"body":"Und die Information, ob jemand einen Job hat, die ist auch wichtig,"},{"speaker":null,"startTime":663.803,"endTime":666.802,"body":"das multiplizieren wir jetzt mit 3 und so weiter und so fort."},{"speaker":null,"startTime":667.191,"endTime":672.096,"body":"Das bedeutet, manche Informationen, die da jetzt reinflie\u00dfen in diesen Wert,"},{"speaker":null,"startTime":672.421,"endTime":674.313,"body":"die sind eben wichtiger als andere."},{"speaker":null,"startTime":674.47,"endTime":678.173,"body":"Ich habe fr\u00fcher im Bereich Suchtechnologie gearbeitet und da haben wir auch"},{"speaker":null,"startTime":678.173,"endTime":679.66,"body":"dieses Prinzip angewendet."},{"speaker":null,"startTime":680.054,"endTime":683.733,"body":"Da konnte man bei Dokumenten beispielsweise sagen, die Worte,"},{"speaker":null,"startTime":683.733,"endTime":687.203,"body":"die in der \u00dcberschrift stehen, die sind doppelt so wichtig wie die Worte,"},{"speaker":null,"startTime":687.203,"endTime":688.472,"body":"die jetzt im Text stehen."},{"speaker":null,"startTime":688.843,"endTime":693.293,"body":"Und im Text konnte man sagen, okay, alle \u00dcberschriften, die sind 1,5 mal so"},{"speaker":null,"startTime":693.293,"endTime":694.846,"body":"wichtig wie die Abs\u00e4tze."},{"speaker":null,"startTime":695.264,"endTime":699.653,"body":"Und dadurch konnte man dann eben auch so eine gewichtete Summe erstellen und"},{"speaker":null,"startTime":699.653,"endTime":704.313,"body":"am Ende berechnen, was f\u00fcr eine Aussagekraft hat jetzt irgendwie ein Dokument."},{"speaker":null,"startTime":704.633,"endTime":707.493,"body":"Ja, und so \u00e4hnlich ist es hier jetzt eben auch. Die ganzen Werte,"},{"speaker":null,"startTime":707.493,"endTime":711.365,"body":"die werden zusammengez\u00e4hlt und manche sind eben wichtiger als andere."},{"speaker":null,"startTime":711.905,"endTime":717.67,"body":"Wie stark welche Angabe jetzt gewichtet wird, das ist \u00fcbrigens das Gesch\u00e4ftsgeheimnis."},{"speaker":null,"startTime":718.215,"endTime":722.811,"body":"Und wenn das Ganze berechnet wurde, dann hat man jetzt eine Zahl und diese Zahl"},{"speaker":null,"startTime":722.811,"endTime":725.03,"body":"sagt erst mal noch nicht so viel aus."},{"speaker":null,"startTime":725.442,"endTime":730.493,"body":"Aber aus diesem Wert wird jetzt ein Score von 1 bis 10 berechnet."},{"speaker":null,"startTime":730.934,"endTime":736.141,"body":"Und hier wird es spannend, denn diese Scores von 1 bis 10, das sind sogenannte Dezile."},{"speaker":null,"startTime":736.443,"endTime":739.531,"body":"Gut, was ist ein Dezil? Ich erkl\u00e4re es euch gleich."},{"speaker":null,"startTime":740.077,"endTime":745.931,"body":"KOMPASS hat sich die Daten von \u00fcber 7.000 straff\u00e4lligen Personen angeschaut"},{"speaker":null,"startTime":745.931,"endTime":750.729,"body":"und daraus gelernt, wie hoch die Wahrscheinlichkeit ist, r\u00fcckf\u00e4llig zu werden."},{"speaker":null,"startTime":751.234,"endTime":756.661,"body":"Diese ganzen Daten, die wurden in den Jahren 2004 und 2005 in sechs amerikanischen"},{"speaker":null,"startTime":756.661,"endTime":758.2,"body":"Bundesstaaten erhoben."},{"speaker":null,"startTime":758.363,"endTime":762.191,"body":"Und bei diesen 7.000 Personen hat man dann halt geschaut, von einem Stichtag"},{"speaker":null,"startTime":762.191,"endTime":765.581,"body":"ausgehend, was ist in den zwei, drei Jahren danach passiert,"},{"speaker":null,"startTime":765.581,"endTime":769.037,"body":"sind die nochmal straff\u00e4llig geworden. Also man hatte diese Information."},{"speaker":null,"startTime":769.263,"endTime":773.121,"body":"Und mit diesen ganzen Daten hat man jetzt ein mathematisches Modell entwickelt,"},{"speaker":null,"startTime":773.121,"endTime":778.371,"body":"das f\u00fcr die ganzen Merkmale festlegt, wie hoch diese angesprochenen Gewichtungen sein m\u00fcssen."},{"speaker":null,"startTime":778.371,"endTime":782.4,"body":"Und zwar so, dass jemand, der dann tats\u00e4chlich r\u00fcckf\u00e4llig wurde,"},{"speaker":null,"startTime":782.696,"endTime":785.071,"body":"auch einen m\u00f6glichst hohen Wert bekommt."},{"speaker":null,"startTime":785.071,"endTime":789.971,"body":"Und dann hat man diese ganzen Werte von diesen 7000 Personen genommen und hat"},{"speaker":null,"startTime":789.971,"endTime":793.421,"body":"die einfach aufsteigend sortiert. Und man konnte jetzt sagen,"},{"speaker":null,"startTime":793.421,"endTime":797.461,"body":"wer einen niedrigen Wert hat, der hatte eine eher geringe Wahrscheinlichkeit,"},{"speaker":null,"startTime":797.461,"endTime":799.228,"body":"erneut straff\u00e4llig zu werden."},{"speaker":null,"startTime":799.675,"endTime":802.701,"body":"Und bei einem hohen Wert war die Wahrscheinlichkeit entsprechend gro\u00df."},{"speaker":null,"startTime":803.64,"endTime":807.721,"body":"Laut Hersteller wurden die Personen dann auf verschiedene Listen aufgeteilt."},{"speaker":null,"startTime":807.721,"endTime":811.211,"body":"Getrennt nach Geschlecht und getrennt nach Art vom Gef\u00e4ngnis,"},{"speaker":null,"startTime":811.211,"endTime":813.387,"body":"also Bundesgef\u00e4ngnis oder Staatsgef\u00e4ngnis."},{"speaker":null,"startTime":813.52,"endTime":817.301,"body":"Und diese Abschnitte, das sind jetzt diese angesprochenen 10 Dezile."},{"speaker":null,"startTime":817.601,"endTime":823.514,"body":"Das erste Dezil beinhaltet jetzt die 10% des Scores mit den geringsten R\u00fcckfallwahrscheinlichkeiten."},{"speaker":null,"startTime":824.154,"endTime":829.036,"body":"Und wenn jetzt der eigene Score beispielsweise in Dezil 8 landet,"},{"speaker":null,"startTime":829.384,"endTime":835.073,"body":"dann hei\u00dft das, dass 70 bis 80 Prozent der anderen Personen in dieser Vergleichsgruppe"},{"speaker":null,"startTime":835.381,"endTime":838.748,"body":"eine geringere R\u00fcckfallwahrscheinlichkeit hatten als man selbst."},{"speaker":null,"startTime":839.044,"endTime":843.339,"body":"Das hei\u00dft aber nicht unbedingt, dass die eigene R\u00fcckfallwahrscheinlichkeit bei 80 Prozent liegt."},{"speaker":null,"startTime":843.618,"endTime":847.22,"body":"Und da muss man ein bisschen aufpassen, weil da kommt man meiner Meinung nach"},{"speaker":null,"startTime":847.22,"endTime":848.384,"body":"echt schnell durcheinander."},{"speaker":null,"startTime":848.744,"endTime":853.051,"body":"Der Hersteller von Kompass, der warnt \u00fcbrigens im eigenen Handbuch davor,"},{"speaker":null,"startTime":853.533,"endTime":857.82,"body":"dass wenn diese Vergleichsgruppe nicht wirklich gut passt, dann bedeutet eine"},{"speaker":null,"startTime":857.82,"endTime":861.213,"body":"hohe Zahl nicht unbedingt auch ein hohes R\u00fcckfallrisiko."},{"speaker":null,"startTime":861.764,"endTime":866.658,"body":"Gut, das ist jetzt die Theorie, aber funktioniert das jetzt in der Praxis?"},{"speaker":null,"startTime":867.012,"endTime":873.351,"body":"Und diese Frage hat sich 2016 die Redaktion von ProPublica genau angeschaut"},{"speaker":null,"startTime":873.647,"endTime":875.795,"body":"und die haben da mal ein bisschen nachgerechnet."},{"speaker":null,"startTime":876.55,"endTime":881.913,"body":"Im Mai 2016 ver\u00f6ffentlichte ProPublica einen Artikel mit dem Titel Machine Bias."},{"speaker":null,"startTime":882.293,"endTime":887.485,"body":"Und die Journalistinnen und Journalisten, die hatten sich die Daten aus Brewert-County besorgt."},{"speaker":null,"startTime":887.711,"endTime":893.403,"body":"Und das waren damals Daten von \u00fcber 7000 Leuten, die in den Jahren 2013 und"},{"speaker":null,"startTime":893.403,"endTime":897.673,"body":"2014 festgenommen wurden und mit Kompass bewertet wurden."},{"speaker":null,"startTime":898.172,"endTime":901.213,"body":"Und dann haben sie sich das mal genau angeschaut und sich gefragt,"},{"speaker":null,"startTime":901.513,"endTime":905.579,"body":"wer wurde denn in den n\u00e4chsten zwei Jahren tats\u00e4chlich wieder festgenommen?"},{"speaker":null,"startTime":905.945,"endTime":908.801,"body":"Und gibt es da Zusammenh\u00e4nge mit diesen Kompass-Cores."},{"speaker":null,"startTime":909.399,"endTime":913.023,"body":"Und den Artikel, den verlinke ich euch, den finde ich auch sehr lesenswert."},{"speaker":null,"startTime":913.023,"endTime":917.63,"body":"Und gleich am Anfang vom Artikel, da gibt es ein interessantes Beispiel."},{"speaker":null,"startTime":917.892,"endTime":921.873,"body":"Und zwar geht es da um eine 18 Jahre junge schwarze Frau, die ist mit ihrer"},{"speaker":null,"startTime":921.873,"endTime":926.053,"body":"Freundin unterwegs und die sehen irgendwo ein Kinderfahrrad und einen Roller"},{"speaker":null,"startTime":926.053,"endTime":928.329,"body":"rumstehen. Und dann klauen sie die Dinger."},{"speaker":null,"startTime":928.741,"endTime":933.553,"body":"Die werden dabei erwischt, die Polizei wird gerufen und der Wert von den beiden"},{"speaker":null,"startTime":933.973,"endTime":937.925,"body":"Dingern, von dem Fahrrad und diesem Roller, ist ungef\u00e4hr 80 Dollar."},{"speaker":null,"startTime":938.441,"endTime":942.423,"body":"Und jetzt geht es vor Gericht. Und diese Frau, die hatte als Jugendliche schon"},{"speaker":null,"startTime":942.423,"endTime":946.074,"body":"Vorstrafen wegen so ein paar Bagatelldelikten."},{"speaker":null,"startTime":946.19,"endTime":951.437,"body":"Parallel dazu wird der Fall von einem 41 Jahre alten wei\u00dfen Mann erz\u00e4hlt."},{"speaker":null,"startTime":951.791,"endTime":956.226,"body":"Der stiehlt Werkzeuge, die ebenfalls so ungef\u00e4hr 80 Dollar wert haben."},{"speaker":null,"startTime":956.731,"endTime":960.714,"body":"Dieser Mann war allerdings schon wegen bewaffnetem Raub im Gef\u00e4ngnis."},{"speaker":null,"startTime":961.166,"endTime":965.933,"body":"Kompass bewertet die beiden Leute und die junge Frau bekommt von Kompass eine"},{"speaker":null,"startTime":965.933,"endTime":969.235,"body":"Bewertung von 8 und der Mann eine Bewertung von 3."},{"speaker":null,"startTime":969.867,"endTime":974.685,"body":"Zwei Jahre sp\u00e4ter ist es dann so, dass die Frau nicht wieder angeklagt wurde"},{"speaker":null,"startTime":974.97,"endTime":979.718,"body":"und der Mann, der sitzt dann f\u00fcr einen Einbruch acht Jahre im Gef\u00e4ngnis."},{"speaker":null,"startTime":979.892,"endTime":983.63,"body":"Und das ist nat\u00fcrlich nur ein Einzelfall und Einzelf\u00e4lle, die beweisen nichts."},{"speaker":null,"startTime":984.03,"endTime":988.252,"body":"Aber in der Recherche von ProPublica, da sind jetzt nicht nur Einzelf\u00e4lle drin,"},{"speaker":null,"startTime":988.571,"endTime":993.046,"body":"sondern da ist auch viel Statistik drin und die ist ganz sch\u00f6n interessant."},{"speaker":null,"startTime":993.412,"endTime":997.97,"body":"Die Statistik sagt n\u00e4mlich, wenn Kompass sich irrt, dann irrt es sich bei schwarzen"},{"speaker":null,"startTime":997.97,"endTime":1003.75,"body":"und wei\u00dfen Menschen ungef\u00e4hr gleich oft, aber in entgegengesetzten Richtungen."},{"speaker":null,"startTime":1004.278,"endTime":1008.82,"body":"Schwarze Angeklagte, die nicht wieder straff\u00e4llig wurden, die werden ungef\u00e4hr"},{"speaker":null,"startTime":1008.82,"endTime":1012.771,"body":"doppelt so oft als riskant eingestuft wie wei\u00dfe Menschen."},{"speaker":null,"startTime":1013.27,"endTime":1017.09,"body":"Und bei Wei\u00dfen ist es genau umgekehrt. Wer doch wieder straff\u00e4llig wurde,"},{"speaker":null,"startTime":1017.397,"endTime":1021.217,"body":"der war davor \u00f6fter als harmlos eingestuft worden."},{"speaker":null,"startTime":1021.938,"endTime":1027.23,"body":"Und das Ganze, obwohl die Hautfarbe gar nicht abgefragt wird und gar nicht direkt"},{"speaker":null,"startTime":1027.23,"endTime":1030.517,"body":"in diese Bewertung einflie\u00dft. Wie kann das sein?"},{"speaker":null,"startTime":1031.04,"endTime":1037.333,"body":"Nun, in den USA ist es so, dass manche Angaben sehr stark mit der Hautfarbe zusammenh\u00e4ngen."},{"speaker":null,"startTime":1037.53,"endTime":1042.098,"body":"Beispielsweise sowas wie fr\u00fchere Festnahmen oder auch der Job."},{"speaker":null,"startTime":1042.493,"endTime":1047.4,"body":"Sowas nennt man Proxivariablen, also Merkmale, die eine Information mittragen,"},{"speaker":null,"startTime":1047.4,"endTime":1049.697,"body":"die offiziell gar nicht drinsteckt."},{"speaker":null,"startTime":1049.854,"endTime":1053.227,"body":"Je nachdem, was man sich jetzt anschaut, schwanken die Zahlen so ein bisschen,"},{"speaker":null,"startTime":1053.569,"endTime":1055.228,"body":"aber das Verh\u00e4ltnis bleibt gleich."},{"speaker":null,"startTime":1055.42,"endTime":1060.45,"body":"Es gibt rund doppelt so viele Fehlalarme bei schwarzen Angeklagten und der Schluss,"},{"speaker":null,"startTime":1060.45,"endTime":1065.514,"body":"den ProPublica da zieht, ist, KOMPASS benachteiligt schwarze Personen."},{"speaker":null,"startTime":1066.153,"endTime":1071,"body":"Der Untertitel von diesem ProPublica-Artikel, der ist da auch ziemlich deutlich, denn der lautet."},{"speaker":null,"startTime":1077.942,"endTime":1080,"body":"Und danach war in vielen Medien von"},{"speaker":null,"startTime":1080,"endTime":1084.577,"body":"dieser rassistischen Software und von rassistischen Algorithmen die Rede."},{"speaker":null,"startTime":1084.973,"endTime":1088.786,"body":"Und jetzt sind wir an der Stelle, an der wir uns mal \u00fcber Fairness unterhalten m\u00fcssen."},{"speaker":null,"startTime":1089.192,"endTime":1093.04,"body":"Ich w\u00fcrde sagen, dass wahrscheinlich die meisten Leute der Aussage zustimmen"},{"speaker":null,"startTime":1093.04,"endTime":1096.948,"body":"d\u00fcrften, dass dieser Score von Kompass fair sein muss."},{"speaker":null,"startTime":1097.436,"endTime":1099.868,"body":"Aber was hei\u00dft das an der Stelle \u00fcberhaupt?"},{"speaker":null,"startTime":1100.435,"endTime":1104.749,"body":"Nun, das hat ziemlich viel mit dem Schwellwert zu tun, ab dem ein Mensch ein"},{"speaker":null,"startTime":1104.749,"endTime":1106.543,"body":"hohes Risiko haben soll."},{"speaker":null,"startTime":1106.769,"endTime":1110.925,"body":"Anders gesagt, die Schwelle, ab der so ein Kompasschor daf\u00fcr sorgt,"},{"speaker":null,"startTime":1111.279,"endTime":1115.879,"body":"dass man entweder eine l\u00e4ngere Strafe bekommt oder man bereits vor dem Urteil"},{"speaker":null,"startTime":1115.879,"endTime":1117.286,"body":"in Untersuchungshaft kommt."},{"speaker":null,"startTime":1117.785,"endTime":1121.349,"body":"Und da gibt es zwei Betrachtungsweisen. Zum einen, die Schwelle,"},{"speaker":null,"startTime":1121.349,"endTime":1125.369,"body":"die soll so gelegen sein, dass m\u00f6glichst alle Menschen damit erwischt werden,"},{"speaker":null,"startTime":1125.369,"endTime":1127.369,"body":"die zuk\u00fcnftig r\u00fcckf\u00e4llig werden."},{"speaker":null,"startTime":1128.279,"endTime":1131.659,"body":"Das kann man mit dem Wetterbericht vergleichen. An allen Tagen,"},{"speaker":null,"startTime":1131.659,"endTime":1135.287,"body":"an denen trockenes Wetter angek\u00fcndigt ist, da soll es auch nicht regnen."},{"speaker":null,"startTime":1135.577,"endTime":1140.814,"body":"Aber es sollen auch m\u00f6glichst wenige Menschen, die nicht mehr straff\u00e4llig werden,"},{"speaker":null,"startTime":1141.104,"endTime":1144.726,"body":"wegen einem zu hohen Score zus\u00e4tzlich ins Gef\u00e4ngnis."},{"speaker":null,"startTime":1145.121,"endTime":1149.219,"body":"Und das sind diese False Positives. Und beim Wetterbericht w\u00e4ren es jetzt die"},{"speaker":null,"startTime":1149.219,"endTime":1154.618,"body":"Tage, f\u00fcr die trockenes Wetter angek\u00fcndigt ist, an denen es dann aber dennoch regnet."},{"speaker":null,"startTime":1155.105,"endTime":1158.789,"body":"Und das ist ein Dilemma und daf\u00fcr gibt es auch keine perfekte L\u00f6sung,"},{"speaker":null,"startTime":1158.789,"endTime":1161.874,"body":"mit der man ausschlie\u00dflich die richtigen Leute erwischt."},{"speaker":null,"startTime":1162.275,"endTime":1167.162,"body":"Denn daf\u00fcr m\u00fcsste man jetzt ja die Zukunft kennen, so \u00e4hnlich wie bei Minority Report."},{"speaker":null,"startTime":1167.615,"endTime":1171.712,"body":"Aber man kann es versuchen, eine m\u00f6glichst gute Antwort zu finden."},{"speaker":null,"startTime":1171.863,"endTime":1174.789,"body":"Und an der Stelle ist nat\u00fcrlich wichtig, ein sehr hoher Score,"},{"speaker":null,"startTime":1174.789,"endTime":1179.253,"body":"also sowas wie 9 oder 10, das bedeutet nicht, dass ich r\u00fcckf\u00e4llig werde."},{"speaker":null,"startTime":1179.462,"endTime":1183.899,"body":"Und ein sehr geringer Score von 1 oder 2 bedeutet auch nicht,"},{"speaker":null,"startTime":1183.899,"endTime":1185.299,"body":"dass ich nicht r\u00fcckf\u00e4llig werde."},{"speaker":null,"startTime":1185.619,"endTime":1190.059,"body":"Aber die Wahrscheinlichkeit ist halt laut dem Algorithmus entsprechend hoch"},{"speaker":null,"startTime":1190.059,"endTime":1191.676,"body":"oder entsprechend niedrig."},{"speaker":null,"startTime":1191.96,"endTime":1195.899,"body":"Und aus dem Grund kann man es nat\u00fcrlich nicht sagen, okay, alle Leute mit Score"},{"speaker":null,"startTime":1195.899,"endTime":1199.965,"body":"8, 9, 10, die werden zu 100% r\u00fcckf\u00e4llig, dann machen wir hier die Schwelle."},{"speaker":null,"startTime":1200.418,"endTime":1201.834,"body":"Das funktioniert leider nicht."},{"speaker":null,"startTime":1202.444,"endTime":1205.979,"body":"Aber man kann versuchen, eine m\u00f6glichst gute L\u00f6sung zu finden."},{"speaker":null,"startTime":1206.287,"endTime":1211.683,"body":"Und wie die aussehen kann, das hat in den 1760ern der englische Richter William"},{"speaker":null,"startTime":1211.683,"endTime":1214.164,"body":"Blackstone geschrieben. Der schrieb."},{"speaker":null,"startTime":1219.933,"endTime":1226.239,"body":"Also lieber entkommen zehn schuldige Personen, als dass eine unschuldige Person leidet."},{"speaker":null,"startTime":1226.651,"endTime":1232.143,"body":"Und laut einem Artikel beim MIT Technology Review hat diese Auffassung auch"},{"speaker":null,"startTime":1232.143,"endTime":1235.99,"body":"heute noch eine gro\u00dfe Bedeutung in der amerikanischen Rechtsprechung."},{"speaker":null,"startTime":1236.199,"endTime":1239.413,"body":"Und wenn man sich jetzt die Ranglisten von COMPASS anschaut,"},{"speaker":null,"startTime":1239.413,"endTime":1244.733,"body":"also diese ganzen Dezile, dann kann man ja einfach schauen, wo ist der Punkt,"},{"speaker":null,"startTime":1244.733,"endTime":1250.328,"body":"an dem man das beste Verh\u00e4ltnis hat, also die h\u00f6chste Anzahl von korrekten Prognosen."},{"speaker":null,"startTime":1250.839,"endTime":1255.743,"body":"Und nur zur Erinnerung, diese Prognosen basieren auf den Daten der rund 7000"},{"speaker":null,"startTime":1255.743,"endTime":1260.342,"body":"Personen, bei denen man ja jeweils wusste, was ihre Zukunft bringt."},{"speaker":null,"startTime":1260.823,"endTime":1266.633,"body":"Und KOMPA setzt diese Schwelle zwischen Dezil 7 und 8, und zwar auf Basis aller"},{"speaker":null,"startTime":1266.633,"endTime":1271.153,"body":"Menschen in der Vergleichsgruppe und hier wurde ja lediglich nach Geschlecht"},{"speaker":null,"startTime":1271.153,"endTime":1273.345,"body":"und dem jeweiligen Gef\u00e4ngnistyp unterschieden."},{"speaker":null,"startTime":1273.589,"endTime":1277.053,"body":"Und tats\u00e4chlich, wer oberhalb der Schwelle liegt, der hat unabh\u00e4ngig von der"},{"speaker":null,"startTime":1277.053,"endTime":1281.605,"body":"Hautfarbe in etwa die gleiche Wahrscheinlichkeit nochmal verhaftet zu werden."},{"speaker":null,"startTime":1282.255,"endTime":1286.718,"body":"Aber wie sieht es jetzt mit der anderen Perspektive aus? Und genau das hat sich,"},{"speaker":null,"startTime":1286.718,"endTime":1288.872,"body":"wie gesagt, ProPublica angeschaut."},{"speaker":null,"startTime":1289.232,"endTime":1295.716,"body":"Wie oft wurden hochriskante Menschen jenseits der Schwelle kein weiteres Mal festgenommen?"},{"speaker":null,"startTime":1296.192,"endTime":1299.968,"body":"Und wie oft wurden Menschen, die nicht als riskant eingestuft wurden,"},{"speaker":null,"startTime":1299.968,"endTime":1301.515,"body":"dann doch nochmal festgenommen?"},{"speaker":null,"startTime":1301.956,"endTime":1306.528,"body":"Und da stellt es sich halt raus, schwarze Menschen werden fast doppelt so oft"},{"speaker":null,"startTime":1306.528,"endTime":1311.517,"body":"als Hochrisiko eingestuft, ohne danach erneut straff\u00e4llig zu werden."},{"speaker":null,"startTime":1311.889,"endTime":1316.288,"body":"Und auf der anderen Seite der Skala werden halt wei\u00dfe Menschen mit einem niedrigen"},{"speaker":null,"startTime":1316.288,"endTime":1319.853,"body":"Score deutlich h\u00e4ufiger doch nochmal straff\u00e4llig."},{"speaker":null,"startTime":1320.294,"endTime":1325.598,"body":"Und ja, wie kann das sein? Nun, beide Perspektiven, die sind korrekt und man"},{"speaker":null,"startTime":1325.598,"endTime":1326.838,"body":"kann das auch nachrechnen."},{"speaker":null,"startTime":1327.178,"endTime":1331.463,"body":"Und ich empfehle an der Stelle den Artikel beim MIT Technology Review,"},{"speaker":null,"startTime":1331.579,"endTime":1336.048,"body":"den fand ich echt gut und auf der Website gibt es so ein paar interaktive Elemente,"},{"speaker":null,"startTime":1336.048,"endTime":1339.998,"body":"wo man mit einem Schieberegler mal ausprobieren kann, was passiert,"},{"speaker":null,"startTime":1339.998,"endTime":1341.688,"body":"wenn man diese Schwelle ver\u00e4ndert."},{"speaker":null,"startTime":1341.688,"endTime":1346.478,"body":"Und da stellt sich nat\u00fcrlich jetzt die Frage, wie rassistisch kann Kompass eigentlich"},{"speaker":null,"startTime":1346.478,"endTime":1350.832,"body":"sein und werden da jetzt tats\u00e4chlich Menschen anhand ihrer Hautfarbe benachteiligt?"},{"speaker":null,"startTime":1351.053,"endTime":1356.138,"body":"Nun, KOMPASS ist nicht bewusst rassistisch, also da wurde keine Regel einprogrammiert,"},{"speaker":null,"startTime":1356.138,"endTime":1360.027,"body":"die bestimmte Menschen benachteiligt auf Basis von ihrer Hautfarbe."},{"speaker":null,"startTime":1360.666,"endTime":1365.118,"body":"Aber die Software, die reproduziert nat\u00fcrlich die systematische Benachteiligung"},{"speaker":null,"startTime":1365.118,"endTime":1369.809,"body":"und den Rassismus, der in den Daten steckt. Schauen wir uns das mal ganz kurz an."},{"speaker":null,"startTime":1370.261,"endTime":1375.556,"body":"Die Daten sagen nicht aus, wer eine Tat begangen hat, sondern wer festgenommen wurde."},{"speaker":null,"startTime":1375.794,"endTime":1379.864,"body":"Das klingt logisch, aber es lohnt sich einen Augenblick dr\u00fcber nachzudenken."},{"speaker":null,"startTime":1380.182,"endTime":1384.257,"body":"In manchen Gegenden, da wird deutlich mehr kontrolliert als in anderen."},{"speaker":null,"startTime":1384.606,"endTime":1389.65,"body":"Und wenn mehr kontrolliert wird, dann werden auch potenziell mehr Leute festgenommen."},{"speaker":null,"startTime":1390.027,"endTime":1394.438,"body":"Gerade in sogenannten in Anf\u00fchrungszeichen Problemvierteln trifft man dann aber"},{"speaker":null,"startTime":1394.438,"endTime":1397.237,"body":"keinen repr\u00e4sentativen Querschnitt der Bev\u00f6lkerung."},{"speaker":null,"startTime":1397.916,"endTime":1402.569,"body":"Wenn jetzt schwarze Menschen h\u00e4ufiger kontrolliert werden, dann wird in dieser"},{"speaker":null,"startTime":1402.569,"endTime":1404.219,"body":"Bev\u00f6lkerungsgruppe auch h\u00e4ufiger"},{"speaker":null,"startTime":1404.219,"endTime":1408.779,"body":"eine Straftat entdeckt und es werden auch h\u00e4ufiger Leute festgenommen."},{"speaker":null,"startTime":1408.779,"endTime":1414.123,"body":"Und wer fr\u00fcher und h\u00e4ufiger festgenommen wird, der sammelt halt auch mehr Eintr\u00e4ge in der Akte an."},{"speaker":null,"startTime":1414.57,"endTime":1420.16,"body":"Und genau diese Informationen z\u00e4hlt jetzt Kompass, die Anzahl fr\u00fcherer Festnahmen"},{"speaker":null,"startTime":1420.514,"endTime":1422.993,"body":"und das Alter bei der ersten Festnahme."},{"speaker":null,"startTime":1423.293,"endTime":1427.223,"body":"Das ist wie bei einem Blitzer. Wenn in einer Stadt in einem Viertel besonders"},{"speaker":null,"startTime":1427.223,"endTime":1431.093,"body":"viele Blitzer stehen, dann wird da vermutlich auch viel geblitzt."},{"speaker":null,"startTime":1431.453,"endTime":1437.083,"body":"Aber es ist dann halt schwer, \u00fcber diese Information eine Aussage \u00fcber die ganze"},{"speaker":null,"startTime":1437.083,"endTime":1439.703,"body":"Stadt zu treffen oder \u00fcber die Nachbarstadt."},{"speaker":null,"startTime":1439.703,"endTime":1443.013,"body":"Und dazu kommen jetzt noch weitere Nachteile bei der Bildung,"},{"speaker":null,"startTime":1443.013,"endTime":1448.213,"body":"bei der Arbeit und bei der Wohnsituation, die mit Straftaten zusammenh\u00e4ngen k\u00f6nnen."},{"speaker":null,"startTime":1448.213,"endTime":1451.083,"body":"Und nat\u00fcrlich flie\u00dft hier auch der Alltagsrassismus mit rein,"},{"speaker":null,"startTime":1451.391,"endTime":1455.843,"body":"wenn beispielsweise schwarze Menschen aufgrund ihrer Hautfarbe \u00f6fter kontrolliert"},{"speaker":null,"startTime":1455.843,"endTime":1461.083,"body":"werden oder angezeigt werden oder wenn man im Gegenteil bei wei\u00dfen Menschen"},{"speaker":null,"startTime":1461.083,"endTime":1462.93,"body":"jetzt eher mal ein Auge zudr\u00fcckt."},{"speaker":null,"startTime":1463.127,"endTime":1466.575,"body":"In den Kompass-Daten steckt die Hautfarbe nicht explizit drin,"},{"speaker":null,"startTime":1466.935,"endTime":1471.403,"body":"aber dann halt implizit doch durch die angesprochenen Proxivariablen wie fr\u00fchere"},{"speaker":null,"startTime":1471.403,"endTime":1473.518,"body":"Festnahmen, Beruf, Bildung und so weiter."},{"speaker":null,"startTime":1473.75,"endTime":1477.833,"body":"ProPublica hat mit seiner Recherche gezeigt, dass es halt leider immer noch"},{"speaker":null,"startTime":1477.833,"endTime":1481.721,"body":"einen Unterschied zwischen schwarzen und wei\u00dfen Menschen in den USA gibt,"},{"speaker":null,"startTime":1482.075,"endTime":1486.661,"body":"und zwar, weil es in der Gesellschaft Rassismus und Benachteiligung gibt."},{"speaker":null,"startTime":1486.98,"endTime":1492.129,"body":"Und aus diesem Grund ist aus der Perspektive von ProPublica Kompass nicht fair."},{"speaker":null,"startTime":1492.286,"endTime":1495.263,"body":"Denn wenn man sich die beiden Gruppen, also schwarze und wei\u00dfe Menschen,"},{"speaker":null,"startTime":1495.263,"endTime":1497.266,"body":"jetzt mal getrennt voneinander anschaut."},{"speaker":null,"startTime":1497.661,"endTime":1502.703,"body":"Dann f\u00e4llt eben auf, dass die jeweiligen Schwellen nicht an der optimalen Position"},{"speaker":null,"startTime":1502.703,"endTime":1507.693,"body":"sind, um jeweils die h\u00f6chste Anzahl von korrekten Prognosen zu erreichen."},{"speaker":null,"startTime":1507.693,"endTime":1511.338,"body":"Diese Schwelle unterscheidet sich n\u00e4mlich schlicht und ergreifend in den beiden Gruppen."},{"speaker":null,"startTime":1511.564,"endTime":1515.223,"body":"Und wenn man jetzt aus diesem Grund durch einen Kompasschor zu Unrecht eine"},{"speaker":null,"startTime":1515.223,"endTime":1519.033,"body":"h\u00f6here Strafe bekommt, dann ist das nat\u00fcrlich eine Benachteiligung."},{"speaker":null,"startTime":1519.033,"endTime":1522.842,"body":"Und man darf an der Stelle nat\u00fcrlich auch nicht vergessen, dass jeder Fehlalarm"},{"speaker":null,"startTime":1523.179,"endTime":1526.778,"body":"halt am Ende eine Person ist, die dadurch Nachteile erh\u00e4lt."},{"speaker":null,"startTime":1527.103,"endTime":1530.793,"body":"Und das kann bedeuten, dass man l\u00e4nger ins Gef\u00e4ngnis muss oder dass man vielleicht"},{"speaker":null,"startTime":1530.793,"endTime":1532.885,"body":"irgendwelche Nachteile im Job oder so hat."},{"speaker":null,"startTime":1533.749,"endTime":1539.357,"body":"Und wie sieht es bei uns in Europa aus? Nun, wir haben seit 2024 den EU-AI-Act"},{"speaker":null,"startTime":1539.74,"endTime":1545.348,"body":"und seit Februar 2025 sind laut diesem Gesetz KI-Systeme verboten,"},{"speaker":null,"startTime":1545.644,"endTime":1550.174,"body":"die vorhersagen sollen, ob ein Mensch eine Straftat begeht und zwar allein auf"},{"speaker":null,"startTime":1550.174,"endTime":1551.948,"body":"Grundlage von einem Profil."},{"speaker":null,"startTime":1552.442,"endTime":1556.724,"body":"Also im Prinzip kein Pre-Crime f\u00fcr Europa. Erlaubt bleibt es,"},{"speaker":null,"startTime":1556.724,"endTime":1560.294,"body":"dass so ein System eine menschliche Einsch\u00e4tzung unterst\u00fctzt,"},{"speaker":null,"startTime":1560.294,"endTime":1562.943,"body":"die auf schon \u00fcberpr\u00fcfbaren Fakten beruht."},{"speaker":null,"startTime":1563.413,"endTime":1569.084,"body":"Solche Systeme gelten dann als Hochrisiko-KI und da gibt es dann besondere Pflichten"},{"speaker":null,"startTime":1569.084,"endTime":1572.834,"body":"zur Dokumentation, zur Transparenz und zur menschlichen Aufsicht."},{"speaker":null,"startTime":1573.258,"endTime":1577.989,"body":"Precrime in Reinform gibt es also nicht bei uns, aber vielleicht so eine abgeschw\u00e4chte Variante."},{"speaker":null,"startTime":1578.577,"endTime":1583.186,"body":"Ein Werkzeug wie Kompass, das jetzt Richtern zuarbeitet, w\u00e4re wahrscheinlich"},{"speaker":null,"startTime":1583.186,"endTime":1585.721,"body":"erlaubt in Europa, aber streng reguliert."},{"speaker":null,"startTime":1586.238,"endTime":1590.166,"body":"Und was ist das Fazit von der Geschichte? Ich schulde euch ja noch den Rest"},{"speaker":null,"startTime":1590.166,"endTime":1592.384,"body":"von der Geschichte von Eric Loomis."},{"speaker":null,"startTime":1592.634,"endTime":1597.012,"body":"Im Juli 2016 entschied der oberste Gerichtshof von Wisconsin,"},{"speaker":null,"startTime":1597.465,"endTime":1601.83,"body":"Kompass darf ber\u00fccksichtigt werden, genau wie andere Beweise im Verfahren."},{"speaker":null,"startTime":1602.218,"endTime":1606.805,"body":"Aber der Kompass-Korps darf nicht den Ausschlag f\u00fcr ein Urteil geben."},{"speaker":null,"startTime":1607.258,"endTime":1611.803,"body":"Und jeder Kompassbericht, der braucht f\u00fcnf Warnhinweise, darunter so Dinge wie"},{"speaker":null,"startTime":1612.145,"endTime":1615.936,"body":"den Hinweis, dass die Software und der Algorithmus geheim sind,"},{"speaker":null,"startTime":1616.296,"endTime":1621.406,"body":"den Hinweis, dass es Studien gibt, die die Frage aufwerfen, ob Kompass Minderheiten"},{"speaker":null,"startTime":1621.406,"endTime":1624.869,"body":"eventuell \u00fcberproportional als riskant einstuft,"},{"speaker":null,"startTime":1625.311,"endTime":1630.391,"body":"und den Hinweis, dass Kompass f\u00fcr Entscheidungen nach dem Urteil entwickelt wurde."},{"speaker":null,"startTime":1630.664,"endTime":1634.726,"body":"Ich fand bei der Geschichte die Frage spannend, was ist eigentlich Fairness"},{"speaker":null,"startTime":1635.026,"endTime":1638.446,"body":"und ich fand es interessant, dass es hier ein regelrechtes Fairness-Dilemma"},{"speaker":null,"startTime":1638.446,"endTime":1640.53,"body":"gibt, das man nicht aufl\u00f6sen kann."},{"speaker":null,"startTime":1640.919,"endTime":1644.426,"body":"Und genau deswegen ist es halt sehr, sehr wichtig, dass die Menschen,"},{"speaker":null,"startTime":1644.426,"endTime":1647.937,"body":"die mit so einem System arbeiten, auch ganz genau verstehen,"},{"speaker":null,"startTime":1648.245,"endTime":1651.675,"body":"woher kommen die Daten und was bedeuten diese Daten."},{"speaker":null,"startTime":1651.855,"endTime":1657.016,"body":"Klar, es gibt nat\u00fcrlich dann immer noch das Restrisiko, dass man irgendwie unbewusst beeinflusst wird."},{"speaker":null,"startTime":1657.469,"endTime":1661.456,"body":"Aber ich glaube einfach, dass die Transparenz \u00fcber die zugrunde liegenden Daten"},{"speaker":null,"startTime":1661.456,"endTime":1665.916,"body":"und die verwendeten Algorithmen einfach elementar ist. Denn ansonsten hat man"},{"speaker":null,"startTime":1665.916,"endTime":1670.733,"body":"halt eine Blackbox vor sich und der muss man vertrauen oder halt auch nicht."},{"speaker":null,"startTime":1671.232,"endTime":1675.076,"body":"Und diese Transparenz, die finde ich \u00fcbrigens f\u00fcr alle Beteiligten wichtig,"},{"speaker":null,"startTime":1675.076,"endTime":1678.239,"body":"also auch f\u00fcr die Staatsanwaltschaft und f\u00fcr die Verteidigung."},{"speaker":null,"startTime":1678.39,"endTime":1681.416,"body":"Algorithmen, die \u00fcber die Freiheit mitentscheiden, die d\u00fcrfen meiner Meinung"},{"speaker":null,"startTime":1681.416,"endTime":1684.079,"body":"nach kein propriet\u00e4res Gesch\u00e4ftsgeheimnis sein."},{"speaker":null,"startTime":1684.526,"endTime":1688.63,"body":"Und darauf aufbauen f\u00e4nde ich es auch super hilfreich, wenn man an solchen Stellen"},{"speaker":null,"startTime":1689.042,"endTime":1693.349,"body":"direkt und nachvollziehbar offenlegt, wie solche Scores zustande kommen."},{"speaker":null,"startTime":1693.744,"endTime":1697.386,"body":"Denn Hand aufs Herz, wer schnappt sich das dicke Handbuch vom Hersteller und"},{"speaker":null,"startTime":1697.386,"endTime":1701.469,"body":"beginnt dann irgendwelche Kennzahlen selbst durchzurechnen, um die zu verstehen?"},{"speaker":null,"startTime":1702.421,"endTime":1705.85,"body":"Diese ganze Offenheit, die l\u00f6st nat\u00fcrlich das Fairness-Dilemma nicht auf,"},{"speaker":null,"startTime":1706.17,"endTime":1710.56,"body":"aber sie macht sichtbar, welche Entscheidungen irgendwo getroffen wurden und"},{"speaker":null,"startTime":1710.56,"endTime":1714.63,"body":"nur wenn irgendwas sichtbar ist, kann man auch dar\u00fcber nachdenken und das vor"},{"speaker":null,"startTime":1714.63,"endTime":1715.854,"body":"allem auch kritisieren."},{"speaker":null,"startTime":1716.075,"endTime":1720.75,"body":"Ich glaube, dass solche Prognosemodelle in jedem Kontext eine hilfreiche Unterst\u00fctzung"},{"speaker":null,"startTime":1720.75,"endTime":1725.04,"body":"sein k\u00f6nnen, aber halt nur, wenn man die Funktionsweise und vor allem auch die"},{"speaker":null,"startTime":1725.04,"endTime":1728.706,"body":"Grenzen kennt. Und damit vielleicht nochmal zur\u00fcck zum Minority Report."},{"speaker":null,"startTime":1729.031,"endTime":1733.461,"body":"Im Film werden ja diese Minderheitsberichte gel\u00f6scht, damit das System unfehlbar wirkt."},{"speaker":null,"startTime":1733.832,"endTime":1737.71,"body":"Wir leben heute zum Gl\u00fcck in einer Welt, in der man vor Gericht solche Scores"},{"speaker":null,"startTime":1737.71,"endTime":1739.678,"body":"und Prognosen anzweifeln darf."},{"speaker":null,"startTime":1740.131,"endTime":1744.15,"body":"Und vielleicht ist die Frage am Ende dann also gar nicht, ob Maschinen urteilen"},{"speaker":null,"startTime":1744.15,"endTime":1748.09,"body":"d\u00fcrfen oder nicht, sondern ob wir noch wissen, was wir diese Maschinen eigentlich"},{"speaker":null,"startTime":1748.09,"endTime":1749.93,"body":"gefragt haben, woher die Antwort"},{"speaker":null,"startTime":1749.93,"endTime":1754.508,"body":"kommt und welche Art von Fairness wir \u00fcberhaupt von ihnen erwarten."},{"speaker":null,"startTime":1755.187,"endTime":1758.25,"body":"Das war die Folge Nummer 137. Danke f\u00fcrs Zuh\u00f6ren."},{"speaker":null,"startTime":1758.57,"endTime":1762.85,"body":"Noch mehr Geschichten gibt es im Premium-Feed auf Steady und ab 5 Euro im Monat"},{"speaker":null,"startTime":1762.85,"endTime":1767.099,"body":"bist du dabei und du hilfst damit, auch das Projekt hier weiter wachsen zu lassen."},{"speaker":null,"startTime":1767.639,"endTime":1773.25,"body":"Alle Infos dazu gibt es in der Folgenbeschreibung und auf support.digitalenanomalien.de"},{"speaker":null,"startTime":1773.67,"endTime":1776.66,"body":"und wenn du von Technikthemen nicht genug bekommst, dann abonniere doch mein"},{"speaker":null,"startTime":1776.66,"endTime":1779.435,"body":"kostenloses E-Mail-Magazin Die Anomalie,"},{"speaker":null,"startTime":1779.859,"endTime":1784.253,"body":"da gibt es einmal im Monat interessante Artikel und Updates direkt in dein Postfach."},{"speaker":null,"startTime":1784.404,"endTime":1789,"body":"F\u00fcr Feedback und Diskussionen sehen wir uns im Discord, auf Twitch oder du schreibst"},{"speaker":null,"startTime":1789,"endTime":1794.38,"body":"mir eine E-Mail an feedback-at-digitale-anomalien.de Und wenn es dir gefallen"},{"speaker":null,"startTime":1794.38,"endTime":1797.78,"body":"hat, dann lass mir doch gerne 5 Sterne bei Spotify oder Apple da."},{"speaker":null,"startTime":1797.81,"endTime":1801.25,"body":"Wir sehen uns beim n\u00e4chsten Mal wieder und bis dahin sage ich Tsch\u00fcss!"}]}