Beating Crime with AI

Loading…

<<inittasks>>''Kann man mit künstlicher Intelligenz Verbrechen vorhersagen?'' Was im Film “Minority Report” noch Fiktion war, ist mittlerweile tatsächlich im Alltag angekommen. Wer profitiert von diesen Technologien? Wo liegen die Probleme, Herausforderungen und Hürden? Gehen Sie mit mir auf Entdeckungsreise und lassen Sie uns gemeinsam Entscheidungen treffen. [[So geht’s]]

''Klicken Sie sich durch die virtuelle Geschichte.'' An bestimmten Momenten ist Ihre Meinung gefragt. Je nachdem, wie Sie sich entscheiden, nimmt die Geschichte einen anderen Verlauf. Dabei gibt es keine richtigen und falschen Antworten… und doch warten am Ende unterschiedliche Ergebnisse auf Sie. Violett umrahmte Worte bieten auf Klick vertiefende Informationen, die Sie mit “Zurück” wieder schließen können. Wahlmöglichkeiten werden unten angezeigt. Sie treffen Entscheidungen, indem Sie auf eines der gelb hinterlegten Worte klicken. [[Weiter]] <<set $mayor to 0>> <<set $police to 0>> <<set $civil_rights to 0>>

<div class="icon mayor"></div>''Bürgermeisterin:'' “Herzlich Willkommen! Schön, dass Sie gleich mit vollem Einsatz starten. Ich habe meinen Wählerinnen und Wählern versprochen, die Kriminalitätsrate in unserer schönen Stadt deutlich zu senken. Für mich hat dieses Projekt auf jeden Fall Priorität. Kommen wir gleich zur Sache. Wie Sie vielleicht schon wissen, kämpfen wir vor allem gegen häusliche Gewalt, Einbrüche und Diebstahl. Wäre es möglich gemeinsam ein KI-System zu entwickeln, um unsere Städte in <span class="info_link">[[Deutschland]]</span> sicherer zu machen! Kommen Sie, ich stelle Ihnen jetzt gleich den Polizeichef vor." [[Weiter zum Polizeichef]] <<taskbar meet_stakeholders>>

<div class="icon police"></div>''Polizeichef:'' “Sehr erfreut! Als oberster Chef der Polizei hier, versichere ich Ihnen meine vollste Aufmerksamkeit. Unter uns: Ich kenne meine Mitarbeiterinnen und Mitarbeiter und muss Ihnen sagen, dass nicht alle gegenüber neuen Technologien so aufgeschlossen sind wie ich... wenn Sie verstehen. Ich erwarte mir von Ihnen daher ein gut funktionierendes und durchdachtes Produkt, das jede und jeder fehlerfrei bedienen kann. Es soll für uns eine Unterstützung sein, keine zusätzliche Last. Wir haben ja ohnehin schon zu wenig Personal.” [[Zurück ins Büro]] <<taskbar meet_stakeholders>>

<div class="icon civil_rights"></div>''Kaum zurück im Büro'' treffen Sie auf den Leiter der wichtigsten Bürgerrechtsbewegung. Auch er freut sich Sie kennenzulernen: “Als Vertreter mehrer Bürgerrechtsbewegungen unserer Stadt muss ich Ihnen meine äußersten Sorgen bezüglich dieses Vorhabens ausdrücken. Bei uns werden schon jetzt zu viele Fälle von Diskriminierung angezeigt. Wenn eine künstliche Intelligenz mit diesen fehlerhaften und sensiblen Daten trainiert wird, fürchten wir eine rapide Verschlechterung der Situation und vermehrte rassistische Übergriffe. Wir stimmen da in hohem Maße den <span class="info_link">[[Bedenken unserer amerikanischen Kolleginnen und Kollegen]]</span> zu. Ich hoffe Sie verstehen, dass wir 'Predictive Policing' prinzipell in Frage stellen und die geplanten Vorgänge so transparent wie möglich gestalten müssen. Daran führt kein Weg vorbei.” [[Zeit für die Gestaltung des Systems]] <<completetask meet_stakeholders>>

''Nach diesen intensiven Terminen sind Sie noch motiviert.'' Sie tun Ihr Bestes, ein gutes System zu entwickeln, mit dem Sie alle drei zufrieden stellen können. Sie sind sich aber auch im Klaren, dass das eventuell nicht so einfach werden wird. Sie wollen sich als erstes über die beste Vorhersagemethode für Ihre Stadt informieren. Ihre Mitarbeiter haben dazu ein Dossier vorbereitet. Sie haben gelesen, dass personenbezogene Methoden bislang vor allem in Städten getestet wurden, in denen hohe Mordraten aufzuklären sind. Sie wissen auch, dass in den meisten Projekten bisher ortsbezogene Verfahren verwendet werden. Wählen Sie aus, in welche Methoden Sie sich zuerst einarbeiten möchten. [[Personenbezogene Verfahren]] [[Ortsbezogene Verfahren]] <<taskbar choose_method>>

''Die so genannte “Heat List Methode” wird in Chicago bereits seit mehreren Jahren eingesetzt.'' Dabei wird jede inhaftierte Person automatisch bewertet. Je höher die <span class="info_link">[[Wertung]]</span>, desto höher wird das Risiko eingeschätzt, dass die Person erneut straffällig wird. Bitte entscheiden Sie: [[Sie wollen Ihr System - mit allen verbundenen Risiken - ohne weitere Recherche auf personenbezogene Verfahren ausrichten.]] [[Sie wollen sich vor einer Entscheidung umfassend informieren und daher jetzt die Information über ortsbezogene Verfahren lesen.]] <<taskbar choose_method>>

''Sie haben sich entschieden, ein personenbezogenes Verfahren zu wählen.'' Sie haben Kriterien festgelegt und alle Genehmigungen eingeholt. Ab sofort werden straffällige Personen in Ihrer Stadt systematisch bewertet. Gehen Sie zur Evaluierung und lesen Sie, was die Bürgermeisterin, die Polizei und die Bürgerrechtsbewegungen zu Ihrer Wahl sagen. [[Zur Evaluierung]] <<taskbar choose_method>>

''Ortsbezogene Vorhersagemethoden können üblicherweise schnell und unkompliziert von Polizeibeamten eingesetzt werden, weil sie den traditionellen Polizeitechniken ähnlich sind.'' Städte werden zuerst in Zonen aufgeteilt. Dann werden vorhandene Daten genutzt, um die Wahrscheinlichkeit für Verbrechen in jeder Zone zu berechnen. Die Polizei behält dann gefährdete Zonen besonders im Auge. Üblicherweise wird einer von drei Algorithmen verwendet: Dabei wird u.a. abgefragt, ob es in einer Zone besonders viele Bars oder Nachtclubs gibt oder ob in der Nähe kürzlich ein Verbrechen stattgefunden hat. Jetzt müssen Sie eine Entscheidung treffen. Welche Methode wollen Sie für Ihre Stadt einsetzen? Wollen sie ein personenbezogenes Verfahren einsetzen oder ein ortsbezogenes Verfahren? [[Sie wählen personenbezogene Verfahren aus.]] [[Sie wählen ortsbezogene Verfahren aus.]] <<set $_civil_rights +=1>> <<taskbar choose_method>>

''Die Bürgermeisterin ist mit Ihrer Entscheidung nicht einverstanden.'' Sie erwartet für Raub, Einbruch und häusliche Gewalt keine Verbesserung in der Verbrechensvorhersage. Sie fürchtet, dass sie damit ihr Wahlversprechen nicht einlösen können wird. Der Polizeipräsident ist mit Ihrer Wahl für den Einsatz von personenbezogenen Verfahren teilweise einverstanden. Von anderen Städten weiß er, dass die Aufklärungsraten für Bandenkriminalität und Drogendelikte deutlich steigen werden. Er teilt aber die Meinung der Bürgermeisterin, dass für Raub, Einbruch und häusliche Gewalt keine Verbesserung erwartbar ist. Die Bürgerrechtsbewegungen kündigen Proteste an. Sie sind mit den Kriterien der Bewertung nicht einverstanden. Außerdem fürchten Sie, auf Grund der Erfahrung in anderen Städten, dass rassistische Tendenzen in Polizei- und Justizarbeit ansteigen werden. Tja, personenbezogene Verfahren bringen Sie hier wohl nicht weiter. Was möchten Sie tun? [[Sie werfen das Handtuch und brechen die Mission ab.]] [[Sie bauen ortsbezogene Verfahren in Ihre Vorhersagetools ein und entdecken, welche Herausforderungen weiter auf Sie zukommen.]] <<set $civil_rights -= 1>> <<set $mayor -= 1>> <<taskbar choose_method>>

[img[img/defeat700.jpg]] [[Danke für's Mitspielen.]]

''Sie haben sich für ortsbezogene Verfahren entschieden.'' Sie haben Kriterien festgelegt und alle Genehmigungen eingeholt. Ab sofort werden die Zonen Ihrer Stadt systematisch bewertet und Risikofaktoren für Verbrechen erhoben. Sie erwarten damit, zahlreiche Einbrüche und Diebstähle frühzeitig zu verhindern. [[Die nächste Herausforderung wartet bereits.]] <<set $_police +=1>> <<taskbar choose_method>>

''2018 wurden in Deutschland mehr als 114.000 Frauen Opfer von häuslicher Gewalt'', Bedrohungen oder Nötigungen durch ihre Ehemänner, Partner oder Ex-Partner. Weiterhin wird von einer hohen Dunkelziffer ausgegangen. Nur etwa 1 von 5 Opfern holt sich Hilfe. <<return Zurück>> <<taskbar databank>>

''Jetzt ist Ihr Ehrgeiz geweckt.'' Wenigstens für die anderen Vergehen möchten Sie mehr zuverlässige Daten gewinnen und die Vorhersagen dadurch genauer werden lassen. Daten sind allerdings ein kostbares Gut. Sie zu beschaffen, schränkt in manchen Fällen die Privatsphäre der Allgemeinheit ein. Bitte entscheiden Sie: [[Sie lassen die historischen Daten der Polizei digitalisieren und in Ihr System einspeisen.]] [[Sie schicken zusätzliche Polizist*innen auf Streife in Gebiete mit besonders hoher Kriminalität.]] [[Sie lassen Videoanlagen zur Überwachung installieren.]] [[Sie nutzen alle genannten Optionen.]] <<taskbar databank>>

''Sie haben sich für die Nutzung von historischen Polizeidaten entschieden.'' Sie haben erst mal nicht viel zu tun, bis die Digitalisierung der Daten abgeschlossen ist. Sie treffen Bürgermeisterin, Polizeipräsident und den Direktor der Bürgerrechtsbewegung und informieren sie über den Zwischenstand. Die Bürgermeisterin freut sich, weil durch Ihre Entscheidung wenig Kosten entstehen. Der Polizeipräsident ist zufrieden, weil Sie seinen Daten komplett vertrauen. Die Bürgerrechtler sind alarmiert, weil sie befürchten, dass die historischen Daten mit Vorurteilen und Fehlentscheidungen durchsetzt sind. [[Für Transparenz sorgen]] <<set $mayor += 1>> <<set $police += 1>> <<set $civil_rights -= 1>> <<taskbar databank>>

''Sie schicken zusätzliche Polizist*innen auf Streife in Gebiete mit besonders hoher Kriminalität.'' Durch die Anwesenheit der Polizisten können in den ausgewählten Zonen mehr Straftaten zur Anzeige gebracht werden. Diese Informationen nutzen Sie für Ihr Tool. Der Polizeipräsident ist nicht zufrieden. Sie blockieren seine Mitarbeiter*innen und halsen ihnen mit zusätzlichen Streifen mehr Arbeit auf. Die Bürgermeisterin lobt Sie für Ihren Einsatz. Mehr Polizeipräsenz erhöht das subjektive Sicherheitsgefühl bei der Bevölkerung. Der Präsident der Bürgerrechtsbewegung kritisiert den Aufwand, wenn dadurch die künstliche Intelligenz in Ihrem Vorhersage-Tool nicht mehr Wissen hat, als ein erfahrener Streifenpolizist. [[Für Transparenz sorgen]] <<set $mayor += 1>> <<set $police -= 1>> <<set $civil_rights -= 1>>

''Sie entscheiden sich dafür, Überwachungskameras in der gesamten Stadt zu installieren.'' Die gewonnenen Daten nutzen Sie zur Verbesserung Ihrer Vorhersagen. Die Bürgermeisterin ist nicht überzeugt. Sie hat der Bevölkerung mehr Aufklärung, nicht mehr Überwachung versprochen. Außerdem fürchtet sie explodierende Kosten. Der Präsident der Bürgerrechtsbewegung kritisiert die permanente Überwachung der Bürger*innen. Er sieht eine Verletzung von Persönlichkeitsrechte. Der Polizeipräsident ist zufrieden, seine Teams haben jetzt mehr Zeit für andere Aufgaben. [[Für Transparenz sorgen]] <<set $mayor -= 1>> <<set $police += 1>> <<set $civil_rights -= 1>> <<taskbar databank>>

''Sie wählen die sichere Option und gehen auf volle Datenmenge.'' Aber Achtung: Zu viele Daten sind schwierig zu verwalten und mehr Daten bedeutet nicht unbedingt mehr Genauigkeit. [[Für Transparenz sorgen]] <<set $mayor -= 1>> <<set $police -= 1>> <<set $civil_rights -= 1>> <<taskbar databank>>

''Am nächsten Tag starten Sie zufrieden mit einer gemütlichen Tasse Kaffee in den Tag.'' Auf Ihrem Schreibtisch finden Sie neu eingetroffene Berichte. Darunter ist auch eine Nachricht des Direktors der Bürgerrechtsbewegungen. Er ist alarmiert und kritisiert mangelnde Transparenz bei der Implementierung Ihres Systems. Er will in einer Pressekonferenz vorschlagen, qualifizierte Personen in einen Kontrollausschuss zu berufen. Dieser Ausschuss soll Ihre Arbeit begleiten. Er verweist auf ein Modell aus <span class="info_link">[[New York]]</span>. “Schon wieder eine Entscheidung”, denken Sie. Was tun? [[Sie geben eine Pressemeldung heraus und sprechen sich dabei für einen Kontrollausschuss aus.]] [[Sie ignorieren den Gegenwind durch die Bürgerrechtsbewegung und holen sich eine zweite Tasse Kaffee.]] <<taskbar databank>>

“''Sehr geehrte Damen und Herren der Presse,'' Ich freue mich sehr über die hervorragende Zusammenarbeit mit allen Funktionieren und Behörden in unserer Stadt. Wir konnten bereits außergewöhnlich erfreuliche Erfolge verzeichnen und sehr große Teile der Stadt um ein Vielfaches sicherer machen. Um die Transparenz unseres Systems zu gewährleisten, haben wir uns von Anfang an für eine freie Software entschieden. Damit haben wir selbst alle Rechte, die Algorithmen und Berechnungen unserer künstlichen Intelligenz jederzeit offen zu legen. Darüber hinaus freut es mich besonders, dass wir jetzt gemeinsam mit den Bürgerrechtsbewegungen unserer Stadt eine Expertenrunde einberufen werden, die als Kontrollgremium unsere Arbeit weiter begleiten. Für weiter Fragen kontaktieren Sie uns bitte unter bekannter Telefonnummer zu den bekannten Sprechzeiten.” [[Zurück an den Schreibtisch.]] <<set $mayor += 1>> <<set $police -= 1>> <<set $civil_rights += 1>> <<completetask databank>>

''Die zweite Tasse Kaffee'' schmeckt gar nicht mehr wirklich. Sie fragen sich, ob die Entscheidung klug war. Jetzt haben Sie nicht nur den Direktor der Bürgerrechtsbewegung verärgert, sondern auch die Bürgermeisterin. Dieser will natürlich zufriedene Bürger*innen in ihrer Stadt und findet die Idee mit dem Kontrollausschuss gut. Nur der Polizeipräsident teilt Ihre Skepsis. Er lasse sich prinzipiell nicht gern über die Schulter blicken, sagt er. Ohne Kontrollausschuss müssen Sie die Evaluierung Ihres Projekts nun selbst in Angriff nehmen. [[Zurück an den Schreibtisch.]] <<set $mayor -= 1>> <<set $police += 1>> <<set $civil_rights -= 1>> <<completetask databank>>

''Ihr Projektende rückt näher.'' Doch bevor Sie sich die finalen Bewertungen durch Ihre Kooperationspartner und Auftraggeber abholen, steht die Evaluierung Ihrer Maßnahmen an. Sie haben dafür mehrere Möglichkeiten. Sie haben nur Budget, um eine Forschungsfrage zu analysieren. Was interessiert Sie gerade mehr? [[Wie genau treffen meine Vorhersagen zu?]] [[Welche Wirkung meiner Vorhersagen sind meßbar?]] <<taskbar evaluate>>

''In den folgenden Wochen protokollieren Sie alle Vorhersagen.'' Sobald Verbrechen gemeldet werden, kontrollieren Sie, wie genau Ihre Vorhersagen waren: Haben Sie den richtigen Zeitpunkt vorhergesagt? Den genauen Ort? Zu Forschungszwecken achten Sie besonders darauf, dass die Polizei Ihre Arbeit nicht an die Vorhersagen anpasst (z. B. Konzentration der Polizeipatrouillen auf prognostizierte Hot-Spot-Standorte), da Interventionen zu Verzerrungen in den Daten führen würden. [[Zum Ergebnis]] <<set $mayor += 1>> <<set $police -= 0>> <<set $civil_rights += 1>> <<taskbar evaluate>>

''Um die Wirkung Ihres Vorhersagetools zu testen, teilen Sie die Stadt in mehrere gleichwertige Bereiche.'' Für eine ausgewählte Stichprobe setzen Sie in den folgenden Wochen Ihr Tool ein und geben die Daten an die Polizei zur Verbrechensbekämpfung weiter. Für andere Stadtteile geht die Polizei im gleichen Zeitraum ihrer Arbeit mit traditionellen Methoden nach. Nach einer Weile vergleichen Sie die Ergebnisse: Wo konnte die Kriminalitätsrate in welchem Ausmaß reduziert werden? Welche Kosten wurden eingespart? Welche unbeabsichtigten Auswirkungen waren sichtbar (z.B. Diskriminierung bestimmter Gruppen)? Für jede Frage vergleichen Sie das Ergebnis der beiden Stichproben. [[Zum Ergebnis]] <<set $mayor += 1>> <<set $police -= 0>> <<set $civil_rights += 1>> <<taskbar evaluate>>

''Der letzte Arbeitstag ist angebrochen.'' Wie am ersten Tag holen Sie sich auch heute das Feedback der Bürgermeisterin, des Polizeipräsidenten und des Direktors der Bürgerrechtsbewegungen ab. Sie sind neugierig, ob Sie alle drei zufrieden stellen konnten. [[Als erstes Treffen Sie den Direktor der Bürgerrechtsbewegung.]] <<taskbar evaluate>>

<div class="icon civil_rights"></div><<nobr>> <<if $civil_rights > 0>> ''Direktor:'' "Auch wenn wir Anfangs skeptisch waren, müssen wir zugeben, dass die Vorteile Ihres Systems zu überwiegen scheinen. Die Kriminalitätsraten scheinen zu sinken. Dank Ihrer Offenheit gegenüber einer Zusammenarbeit mit uns, können auch wir uns vorstellen, Ihre Arbeit weiterhin zu unterstützen." Sie freuen sich über das Feedback und guten Mutes machen Sie sich zum Polizeipräsidenten auf. <<endif>><<if $civil_rights is 0>> ''Direktor:'' "Sie haben es geschafft, dass die Kriminalitätsraten in unserer Stadt zumindest teilweise sinken. Trotzdem müssen wir anmerken, dass wir uns mehr Transparenz erhofft haben. Vor allem sollten wir besprechen, wie Sie Datensicherheit langfristig gewährleisten wollen." Sie sind wenig überrascht über das differenzierte Feedback und neugierig machen Sie sich zum Polizeipräsidenten auf. <<endif>> <<if $civil_rights < 0>> ''Direktor:'' "Auch nach der Testphase müssen wir leider sagen, dass uns die Kriminaltitätsvorhersage mittels künstliche Intelligenz nicht überzeugt. Die Arbeit der Polizei ist undurchsichtiger und weniger nachvollziehbar als jemals zuvor. Rassistisch motivierte Vorverurteilungen sind entgegen Ihrer Vorhersagen sogar noch mehr geworden. Wir müssen dringend handeln und das System abschalten." Sie sind etwas enttäuscht wegen dieser Einschätzung, können aber die meisten Argumente nachvollziehen. Geknickt machen Sie sich zum Polizeipräsidenten auf. <<endif>><<endnobr>> [[Zum Polizeipräsidenten]] <<taskbar evaluate>>

<div class="icon police"></div><<nobr>> <<if $police > 0>> ''Polizeipräsident:'' "Herzlichen Glückwunsch im Namen der Polizei, sie haben gute Arbeit geleistet. Ihre Vorhersagen sind genau genug, um in Zukunft einige Verbrechen vielleicht frühzeitig zu verhindern. Unsere Arbeit ist durch Ihre Vorhersagen effizienter geworden. Wir können frei gewordenes Personal für andere Aufgaben einsetzen und starten beispielsweise nächsten Monat ein Programm zur Verkehrserziehung unserer Kinder." Sie freuen sich, dass die Vorteile Ihres Vorhersage-Tools schon in dieser frühen Phase so klar sichtbar sind. Guten Mutes machen Sie sich auf den Weg ins Rathaus, wo Sie schon erwartet werden. <<endif>> <<if $police is 0>> ''Polizeipräsident:'' "Zugegeben, teilweise funktionieren die Vorhersagen schon ganz gut. In anderen Bereichen allerdings gar nicht. Wir müssen uns zum Beispiel darum kümmern, Fehlalarme zu reduzieren und die Genauigkeit der Vorhersagen noch zu erhöhen. Wir werden die weiteren Testphasen aufmerksam beobachten." Sie geben ja zu, alles funktioniert noch nicht so, wie Sie sich das erwartet haben. Das hat schließlich auch Ihre Evaluierung ergeben. Trotzdem machen Sie sich neugierig auf den Weg ins Rathaus, wo Sie schon erwartet werden. <<endif>> <<if $police < 0>> ''Polizeipräsident:'' "Im Namen der Polizei muss ich Ihnen leider sagen, dass unsere Erwartungen nicht erfüllt wurden. Wir werden ständig zu Fehlalarmen gerufen, Bürgerinnen und Bürger überhäufen uns mit Beschwerden. Wir kommen kaum noch zu unserer eigentlichen Arbeit. Außerdem sind noch zu viele meiner Kolleginnen und Kollegen mit der technischen Abwicklung überfordert. Wenn das nicht schleunigst besser wird, drehen wir das System ab." So heftige Kritik haben Sie nicht erwartet. Aber natürlich war Ihnen nach der internen Evaluierung schon klar, dass noch nicht alles ideal läuft. In den kommenden Wochen wird sich entscheiden, wie es für Ihr Tool weitergeht. Sie machen sich nun auf ins Rathaus, wo Sie schon erwartet werden. <<endif>><<endnobr>> [[Ins Rathaus.]] <<taskbar evaluate>>

<<nobr>> <<set $score to $police + $civil_rights + $mayor>> <<if $score > 3 >> [img[img/celebration700.jpg]] <<elseif $score >= 0 >> [img[img/statusquo700.jpg]] <<else>> [img[img/protest-en700.jpg]] <</if>> <</nobr>> [[Danke für's Mitspielen.]]

''Die Stadtverwaltung von New York City'' hat 2017 entschieden, dass sie eine spezielle Arbeitsgruppe benötigt, um den Einsatz von KI und automatisierten Entscheidungssystemen zu prüfen. Eine solche Arbeitsgruppe ist die erste ihrer Art. Bislang kämpft die Gruppe jedoch immer noch mit der fehlenden Zusammenarbeit der unterschiedlichen städtischen Abteilungen, die sich weigern, klassifizierte Informationen zugänglich zu machen. Das ist durchaus üblich, wenn kommerzielle Technologien verwendet werden, verhindert allerdings die Arbeit der Arbeitsgruppe. <blockquote class="speech-bubble"> "Einige Mitglieder haben die Stadt offen kritisiert. Sie beschuldigten die Beamten, wichtige Informationen nicht zugänglich zu machen. Damit verwandelten Sie die Arbeitsgruppe effektiv in eine Werbemaßnahme - anstatt Rechenschaftspflicht in der Nutzung von KI zu instaurieren." </blockquote> - Colin Lechner, Journalistin <<return Zurück>>

''Ortsbezogene Vorhersagemethoden können üblicherweise schnell und unkompliziert von Polizeibeamt*innen eingesetzt werden, weil sie den traditionellen Polizeitechniken ähnlich sind.'' Städte werden zuerst in Zonen aufgeteilt. Dann werden vorhandene Daten genutzt, um die Wahrscheinlichkeit für Verbrechen in jeder Zone zu berechnen. Die Polizei behält dann gefährdete Zonen besonders im Auge. Üblicherweise wird einer von <span class="info_link">[[drei Algorithmen]]</span> verwendet: Dabei wird u.a. abgefragt, ob es in einer Zone besonders viele Bars oder Nachtclubs gibt oder ob in der Nähe kürzlich ein Verbrechen stattgefunden hat. Bitte entscheiden Sie: [[Sie wollen sich vor einer Entscheidung umfassend informieren und daher jetzt die Information über personenbezogene Verfahren lesen.]] [[Sie wählen ortsbezogene Verfahren aus.]] <<set $civil_rights +=1>> <<taskbar choose_method>>

''Die so genannte “Heat List Methode” wird in Chicago bereits seit mehreren Jahren eingesetzt.'' Dabei wird jede inhaftierte Person automatisch bewertet. Je höher die <span class="info_link">[[Wertung]]</span>, desto höher wird das Risiko eingeschätzt, dass die Person erneut straffällig wird. Bitte entscheiden Sie: [[Sie wollen Ihr System - mit allen verbundenen Risiken - ohne weitere Recherche auf personenbezogene Verfahren ausrichten.]] [[Sie wollen sich vor einer Entscheidung umfassend informieren und daher jetzt die Information über ortsbezogene Verfahren lesen.]] <<taskbar choose_method>>

''Sie haben sich für ortsbezogene Verfahren entschieden.'' Sie haben Kriterien festgelegt und alle Genehmigungen eingeholt. Ab sofort werden die Zonen Ihrer Stadt systematisch bewertet und Risikofaktoren für Verbrechen erhoben. Sie erwarten damit, zahlreiche Einbrüche und Diebstähle frühzeitig zu verhindern. [[Die nächste Herausforderung wartet bereits.]] <<set $_police +=1>> <<taskbar choose_method>>

''Risikogebiets-Analyse'' Die Berechnung von Risikogebieten berücksichtigt die geografischen Merkmale, die das Risiko für Straftaten erhöhen. Diebstahl passiert beispielsweise häufiger an solchen Orten, wo U-Bahn-Stationen in der Nähe sind und Menschen zu Fuß gehen. Für jede Zone können so - ausgehend von örtlichen Merkmalen - Wahrscheinlichkeiten von Verbrechen berechnet werden. ''Nachbeben-Berechnung'' Die bislang am häufigsten verwendete Software zur Vorhersage von Verbrechen heißt “PredPool”. Sie vergleicht Verbrechen mit Erdbeben und berechnet die Wahrscheinlichkeit für “Nachbeben”, also Verbrechen, die in örtlicher Nähe zur ersten Tat stattfinden. Kartiert man die gesamten Verbrechen einer Stadt, weiß die Polizei, welche Zonen es sich im Rahmen von “Predictive Policing” lohnt, zu patrouillieren. ''Entscheidungsbäume'' Das System “HunchLab” verwendet so genannte Entscheidungsbäume für seine Vorhersagen. Durch eine Reihe von Ja-/Nein-Fragen wird ein Raster erstellt, auf dessen Basis Wahrscheinlichkeiten berechnet werden: Wurde in dieser Zone vorige Woche eine Straftat gemeldet? Gibt es Nachtclubs in dieser Zone? Gibt es eine Bushaltestelle? Auf diese Weise werden ganze Wälder von Entscheidungsbäumen für spezifische Arten von Verbrechen erstellt. <<return Zurück>> <<taskbar choose_method>>

''Es ist Ihr erster Tag im neuen Job.'' Als erfahrene*r Datenwissenschaftler*in werden Sie ab sofort der Stadtverwaltung helfen und versuchen, ein <span class="info_link">[[Tool zur Vorhersage von Verbrechen]]</span> zu entwickeln. Sie haben den Job angenommen, weil Sie hoffen, Ihren Mitbürger*innen ein sichereres Leben zu ermöglichen. Als erste Aufgabe in Ihrer neuen Arbeitswoche finden Sie Meetings mit drei verschiedenen Interessensgruppen im Kalender. Sie wollen sich mit ihnen treffen, um ihre jeweiligen Ideen und Bedenken zu besprechen. [[Als erstes treffen Sie die Bürgermeisterin.]] <<taskbar meet_stakeholders>>

''Bereits sechs Bundesländer in Deutschland'' experimentieren mit "Predictive Policing": Baden-Württemberg, Bayern, Berlin, Niedersachsen, Nord-Rhein-Westfalen, Hessen. <<return Zurück>> <<taskbar meet_stakeholders>>

''Strafverfolgungsbehörden wie Polizei und Staatsanwaltschaft'' befassen sich weltweit mit Software-Programmen, die Wahrscheinlichkeiten für Verbrechen berechnen. Das Ziel von “Predictive Policing” ist die Vorhersage, wo und wann Verbrechen stattfinden könnten. Damit sollen Verbrechen verhindert werden, noch bevor sie passieren. Es wird nun versucht, künstliche Intelligenzen einzusetzen, die ihre Algorithmen an hohen Datenmengen trainieren. <<return Zurück>> <<taskbar meet_stakeholders>>

''Bewertet wird z.B. wie alt eine Person bei der ersten Verhaftung war.'' Oder wie oft die Person bereits wegen illegalen Waffenbesitzes, Drogenkonsum oder Gewaltverbrechen inhaftiert war. Außerdem wird beobachtet, ob ein negativer oder positiver Trend messbar ist - also ob in letzter Zeit mehr oder weniger Straftaten begangen wurden. Auch spielt die Nähe zu anderen - hoch bewerteten - Personen eine Rolle. Ist eine Person länger mit einer hoch bewerteten Person in einer Zelle inhaftiert, kann das auch Auswirkungen auf die eigene Bewertung haben. <<return Zurück>> <<taskbar choose_method>>

''Sie haben sich entschieden, ein personenbezogenes Verfahren zu wählen.'' Sie haben Kriterien festgelegt und alle Genehmigungen eingeholt. Ab sofort werden straffällige Personen in Ihrer Stadt systematisch bewertet. Gehen Sie zur Evaluierung und lesen Sie, was die Bürgermeisterin, die Polizei und die Bürgerrechtsbewegungen zu Ihrer Wahl sagen. [[Zur Evaluierung]] <<set $civil_rights -=1>>

''Mehrere US-amerikanische Bürgerrechtsbewegungen'' haben große Bedenken gegenüber dem Gebrauch von KI in Polizei- und Justizsystemen ausgedrückt. Bereits 2019 veröffentlichte ein Konsortium von 17 Organisationen ein gemeinsames Statement. <blockquote class="speech-bubble"> "Die amerikanischen Polizeiinstitutionen, die diese Systeme einführen, weisen grundlegende Makel auf: Sie diskriminieren systematisch People of Color und ermöglichen skrupellosen Missbrauch polizeilicher Macht. Predictive Policing-Tools drohen ungerechtfertigte Widersprüche im Justizsystem weiter zu verschärfen. Und sie verleihen einer Institution, die dringend grundlegende Veränderungen benötigt, eine irreführenden und unverdienten Status der Unparteilichkeit. Systeme, die den Status Quo unterstützen, haben in der amerikanischen Polizei keinen Platz. Die Daten, die Vorhersagen ermöglichen, sind in ihrer Aussagekraft zutiefst limitiert und voreingenommen. Das betrifft also Daten über den Ort und den Zeitpunkt zuvor gemeldeter Verbrechen oder die Muster der - von der Gemeinde und von Beamten initiierten - Notrufen." </blockquote> <<return Zurück>> <<completetask meet_stakeholders>>

''Die Bürgermeisterin hat Ihnen gesagt, dass es in Ihrer Stadt sehr viele Fälle von häuslicher Gewalt gibt.'' Sie wollen - wenn möglich - Ihr Vorhersageinstrument auch für diese Delikte vorbereiten. Sie wissen allerdings, dass Ihr System nur dann gut arbeitet, wenn es mit zuverlässigen Daten gefüttert wird. Wie schätzen Sie die Situation ein? [[Sie glauben, dass Sie ausreichend zuverlässige Daten bekommen können und wollen diese ins Vorhersageinstrument integrieren.]] [[Sie glauben nicht, dass Sie ausreichend zuverlässige Daten bekommen können und wollen daher Delikte von häuslicher Gewalt nicht vorhersagen.]] <<completetask choose_method>>

''Sie sehen sich die polizeilichen Daten'' rund um häusliche Gewalt an. Dabei fällt Ihnen die hohe <span class="info_link">[[Dunkelziffer]]</span> auf. Das heißt, die meisten Fälle häuslicher Gewalt werden nicht angezeigt und tauchen daher in Ihren Daten nicht auf. In Rücksprache mit dem Polizeipräsidenten müssen Sie einsehen, dass Ihre zur Verfügung stehenden Methoden derzeit noch nicht dabei helfen, häusliche Gewalttaten vorherzusagen. [[Weitere Daten sammeln]] <<set $mayor += 1>> <<set $police -= 1>> <<set $civil_rights -= 1>> <<taskbar databank>>

''Sie haben sich die Daten, die Sie von der Polizei rund um häusliche Gewalt erhalten haben, angesehen.'' Dabei ist Ihnen sofort aufgefallen, wie wenig aussagekräftig die Daten sind. Schon allein die Tatsache, dass sich in Deutschland nur etwa 1 von 5 Betroffenen Hilfe holt, lässt Sie an der Vorhersagbarkeit der Taten zweifeln. Sie vereinbaren ein Treffen mit der Bürgermeisterin und erklären ihr, warum Sie in diesem Bereich mit den zur Verfügung stehenden Methoden derzeit noch nicht helfen können. [[Weitere Daten sammeln]] <<set $mayor += 1>> <<set $police -= 1>> <<set $civil_rights -= 1>> <<taskbar databank>>

<div class="icon mayor"></div><<nobr>> <<if $mayor > 0>> ''Bürgermeisterin:'' "Vielen Dank für Ihre gute Arbeit. Sie haben dazu beigetragen, dass unsere schöne Stadt noch lebenswerter geworden ist. In zwei von drei unserer größten Problemthemen können wir bereits Erfolge erzielen. Wir haben ein sicheres System entwickelt und sparen dabei auch noch Geld. Das beweist einmal mehr: Mutige Politik muss Entscheidungen treffen und Neues wagen." Sie sind zufrieden und positiv überrascht von dem umfangreichen Lob der Bürgermeisterin. <<endif>> <<if $mayor is 0>> ''Bürgermeisterin:'' "Vielen Dank für Ihren Einsatz. Wir konnten gemeinsam ein paar schöne Erfolge erzielen, auch wenn es noch einige Probleme zu lösen gilt. Wir sollten uns in den nächsten Wochen sowohl der Wirkung, als auch der Genauigkeit der Vorhersagen widmen. Wenn Sie dazu noch bessere Trainingsdaten benötigen, lassen Sie es mich wissen. Ich verhandle mit dem Stadtrat, ob wir noch weitere Gelder auftreiben können." Sie sehen die Situation ähnlich. Es gab Erfolge zu verzeichnen, aber das Ziel ist noch nicht erreicht. Die neue Technologie muss noch weiter verfeinert werden. <<endif>> <<if $mayor < 0>> ''Bürgermeisterin:'' "Vielen Dank für Ihre Arbeit! Durch den Testlauf haben wir gesehen, dass die Methoden der künstlichen Intelligenz in der Verbrechensprognose noch große Schwächen zeigen. Das mag in der Theorie schon alles gut funktionieren, für unsere Stadt scheint ein Einsatz noch zu früh. Gar nicht zu reden von den Kosten! Und wie Sie wissen, ist es sehr enttäuschend für mich, dass wir im Bereich der häuslichen Gewalt keine größeren Erfolge erzielen konnten. Ich werde mich beraten. Es scheint mir aber sinnvoll, dass das Projekt bis auf weiteres abgebrochen wird." Ihnen war bereits nach der internen Evaluierung klar, dass noch nicht alles ideal läuft. Von den hohen Kosten hören Sie heute aber zum ersten Mal. <<endif>><<endnobr>> [[Zum Ende]] <<completetask evaluate>>

''Sie haben sich für ortsbezogene Verfahren entschieden.'' Sie haben Kriterien festgelegt und alle Genehmigungen eingeholt. Ab sofort werden die Zonen Ihrer Stadt systematisch bewertet und Risikofaktoren für Verbrechen erhoben. Sie erwarten damit, zahlreiche Einbrüche und Diebstähle frühzeitig zu verhindern. [[Die nächste Herausforderung wartet bereits.]] <<set $_police +=1>> <<taskbar choose_method>>

Online-Artikel: https://www.spiegel.de/netzwelt/netzpolitik/predictive-policing-in-los-angeles-die-verbrecherjagd-der-zukunft-ist-schon-gescheitert-a-1281943.html https://southsideweekly.com/predictive-policing-long-road-transparency/ https://www.aclu.org/other/statement-concern-about-predictive-policing-aclu-and-16-civil-rights-privacy-racial-justice https://www.theverge.com/2019/4/15/18309437/new-york-city-accountability-task-force-law-algorithm-transparency-automation https://www.zeit.de/gesellschaft/2019-11/beziehung-gewalt-gegen-frauen-partner Wissenschaftliche Artikel: Bennett Moses, L., & Chan, J. (2016): Algorithmic prediction in policing: Assumptions, evaluation, and accountability. Policing and Society. Meijer, A.& Wessels, M. (2019) Predictive Policing: Review of Benefits and Drawbacks, International Journal of Public Administration, 42:12, 1031-1039. Knoblauch, Tobias (2018): Vor die Lage kommen: Predictive Policing in Deutschland. Chancen und Gefahren datenanalytischer Prognosetechnik und Empfehlungen für den Einsatz in der Polizeiarbeit. Hrsg. von Bertelsmann-Stiftung & Stiftung neue Verantwortung. https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/predictive.policing.pdf. <<return Zurück>>

''Danke fürs Mitspielen und Mitentscheiden.'' Sie sehen, rund um das Thema "Predictive Policing" warten zahlreiche Probleme und Risiken auf uns. Als Gesellschaft müssen wir entscheiden, wie wir damit umgehen wollen. Haben Sie sich schon einmal gefragt: - Was passiert, wenn sensible Daten in die falschen Hände geraten? - Welchen Preis Sie bereit sind, für vermeintlich höhere Sicherheit zu bezahlen? - Unter welchen Bedingungen Sie diskriminierende Tendenzen in der Polizeiarbeit in Kauf nehmen würden? - Ob Polizeiarbeit durch "Predictive Policing" überhaupt gerechter für Minderheiten werden kann? Das Spiel “Predictive Policing?” wurde von IMAGINARY in Kooperation mit Prof. Janet Chan (UNSW Sydney) entwickelt. Die Grafiken stammen von der Illustratorin Ariel Cotton. <<if !new URLSearchParams(window.location.search).has("hideReferences")>> [[Klicken Sie hier für Quellen der zitierten Inhalte und zum Weiterlesen.]] <</if>>

Kann man mit künstlicher Intelligenz Verbrechen vorhersagen?

Was im Film “Minority Report” noch Fiktion war, ist mittlerweile tatsächlich im Alltag angekommen. Wer profitiert von diesen Technologien? Wo liegen die Probleme, Herausforderungen und Hürden?

Gehen Sie mit mir auf Entdeckungsreise und lassen Sie uns gemeinsam Entscheidungen treffen.

So geht’s