Navigation auf uzh.ch
Navigation auf uzh.ch
In den zweiten DSI Insights des Jahres erklärt Sarah Summers, Direktorin der Digital Society Initiative (DSI), warum vorausschauende Polizeiarbeit mit künstlicher Intelligenz (KI) eine Herausforderung für das Justizsystem darstellt.
Die KI-basierte vorausschauende Polizeiarbeit verspricht mehr Sicherheit. Die die Grundlage ihrer Vorhersagen sind aber nicht erklärbar. Damit wird eine rechtliche Regelung umso wichtiger.
Was wäre, wenn man ein Verbrechen verhindern könnte, bevor es geschieht? Das ist sowohl Versprechen als auch Gefahr der KI-basierten sogenannten vorausschauenden Polizeiarbeit. Sie verspricht eine effizientere, proaktive statt nur reaktive Polizeiarbeit und infolgedessen eine niedrigere Kriminalitätsrate und mehr Sicherheit für die Gesellschaft. Gleichzeitig ist sie aber auch mit einer Reihe von ernsthaften Bedenken verbunden. Im schlimmsten Fall kann sie stellvertretend für eine diskriminierende oder voreingenommene Polizeiarbeit in bereits übermässig überwachten Gegenden sorgen und zu verstärkten Spannungen zwischen Polizei und Bürger:innen führen.
Was ist (KI-basierte) vorausschauende Polizeiarbeit?
Unter vorausschauender Polizeiarbeit versteht man die Verwendung statistischer Vorhersagen, um wahrscheinliche Ziele für polizeiliche Massnahmen zu ermitteln und so Straftaten zu verhindern. Der Versuch, vorherzusagen, wo und wann Straftaten begangen werden, ist nicht neu. Konventionelle Strategien zur Verbrechensverhütung beinhalten routinemässig die Analyse von Mustern, Trends und Wiederholungstätern. Bei der KI-basierten vorausschauenden Polizeiarbeit im Speziellen werden grosse, mit herkömmlichen Mitteln kaum auswertbare Datenmengen algorithmisch analysiert, um Muster zu erkennen und Risikoprofile zu erstellen, auf deren Grundlage gezielte Präventionsmassnahmen erfolgen.
Personen und Orte im Fokus
Im Allgemeinen wird zwischen personen- und ortsbezogener vorausschauender Polizeiarbeit unterschieden. Personenbezogene, algorithmische, vorausschauende Polizeiarbeit ist der Versuch, Personen zu identifizieren, die wahrscheinlich Verbrechen begehen oder deren Opfer werden. Dabei werden Faktoren wie frühere Verhaftungen, Viktimisierungsmuster, soziale Netzwerke usw. analysiert. Beispiele hierfür sind die Chicago Strategic Subject List; automatisierte Echtzeit-Gesichtserkennungstechnologie, die zu präventiven Zwecken eingesetzt wird – zum Beispiel zur Überwachung von «Personen von Interesse» im öffentlichen Raum; «DyRiAS-Intimpartner», ein computergestütztes Instrument, welches das Gewaltrisiko durch (Ex-)Intimpartner einschätzt; sowie der weitverbreitete Einsatz von ortsbezogener vorausschauender Polizeiarbeit, bei der Daten analysiert werden, um vorherzusagen, wann und wo Straftaten zu erwarten sind, so dass die Polizei gezielte Patrouillen entsenden kann (z.B. Precobs, PredPol oder Hunchlab).
Die Besonderheit von KI-basierten Vorhersagemassnahmen
Frühe Methoden der analytischen statistischen Modellierung, wie das auf Einbruchsdiebstähle und ähnliche Delikte spezialisierte Prognosetool «Precobs», sind aus kriminologischer Sicht «theoriegesteuert». Die Ergebnisse dieser Modelle sind kriminologisch erklärbar und zeichnen sich durch Nachvollziehbarkeit sowie eine gewisse Rechenschaftsfähigkeit aus. Dies unterscheidet sie von anderen komplexen algorithmischen Prognosemodellen. PredPol war Precobs zwar insofern ähnlich, als es darauf abzielte, der Polizei mitzuteilen, dass sie an bestimmten Orten auf bestimmte Verbrechen (z. B. Einbrüche oder Autodiebstähle) achten sollte. PredPol basiert jedoch nicht auf einer kriminologischen Theorie, sondern auf einem von der Seismologie inspirierten Algorithmus, der auf der Annahme beruht, dass bestimmte Verbrechensmuster vorhersehbar sind. Ähnlich wie bei Erdbeben und deren erwartbaren Nachbeben. Das Verständnis dafür, wie die Ergebnisse des Algorithmus zustande kommen, ist begrenzt. Neuere Algorithmen beruhen auf maschinellem Lernen (ML), das den Algorithmen ermöglicht, aus Daten zu lernen und ihre Leistung kontinuierlich zu verbessern. Die ML-Algorithmen sind nicht nach einer bestimmten Theorie aufgebaut, sondern dienen der Analyse von Daten im Hinblick auf Korrelationen. Diese Verbrechensmuster lassen sich nicht mit Hilfe vorhandener theoretischer Kenntnisse erklären. Die beträchtliche Anzahl von Variablen macht es unmöglich, die Grundlage zu kennen, auf der die Vorhersage getroffen wurde.
Herausforderungen für die kriminologische Theorie und die Strafjustiz
Es wird behauptet, dass komplexe und ML-Algorithmen «genaue Vorhersagen» erzeugen, aber es wird nicht versucht zu erklären, warum bestimmte Variablen oder Prädikatoren die Genauigkeit verbessern. Sie können sinnvoll sein oder auch nicht. Dies wird durch die Aussage des Kriminologen Richard Berk gut veranschaulicht: «Wenn die Schuhgrösse bei ansonsten gleichen Bedingungen ein nützlicher Prädiktor für Rückfälligkeit ist, kann sie als Prädiktor einbezogen werden. Warum die Schuhgrösse eine Rolle spielt, ist unerheblich». Dies ist jedoch in einem juristischen Kontext problematisch. Verallgemeinerungen (oder Stereotypen) ohne jegliche empirische Grundlage sind unzutreffend. Die in Berks Verallgemeinerung implizit enthaltene Behauptung ist mit ziemlich grosser Sicherheit unwahr. In der juristischen Beweisführung würden wir Behauptungen, die offensichtlich einer empirischen Grundlage entbehren, einfach als irrelevant betrachten. Die Frage ist jedoch von tieferer moralischer und politischer Relevanz, da sich die Verallgemeinerungen hier nicht einfach auf die Schuhgrösse beziehen, sondern auf die Erstellung von Profilen auf der Grundlage von Ethnie, Geschlecht, Gender und so weiter. Sie werfen somit wichtige Fragen der Gleichheit, der Nichtdiskriminierung und des Bekenntnisses zur Rechtsstaatlichkeit auf. Selbst wenn das System eine «richtige Entscheidung» trifft, bleibt die Frage, ob diese erklärt oder gerechtfertigt werden kann.
Diese Herausforderungen machen deutlich, wie wichtig eine rechtliche Regelung ist. Die EU ist in dieser Hinsicht führend und hat ein KI-Gesetz verabschiedet, das die Polizeiarbeit stark einschränkt. In liberalen Demokratien ist das Bekenntnis zur Rechtsstaatlichkeit und zu der Vorstellung, dass der Staat bei der Verhütung, Untersuchung und Bestrafung von Straftaten bestimmte Verfahren einhalten muss, von zentraler Bedeutung. Es kommt nicht nur auf die Richtigkeit der getroffenen Entscheidungen an, sondern auch darauf, wie sie getroffen werden. Wenn wir über eine wirksame Verbrechensverhütung nachdenken, müssen wir Werten wie Würde, Sicherheit der Gesellschaft und der Förderung eines demokratischen Polizeisystems, das rechenschaftspflichtig, zugänglich und bürgernah ist, genügend Gewicht beimessen.
Die Autorin:
Prof. Dr. Sarah Summers ist Co-Direktorin der Digital Society Initiative (DSI) und Professorin für Strafrecht, Strafprozessrecht und Kriminologie an der Rechtswissenschaftlichen Fakultät der Universität Zürich. Ihre Forschungsinteressen liegen im Bereich des Strafrechts und der Menschenrechte.
DSI Insights:
In der Kolumnen-Serie «DSI Insights» stellt die DSI ihr Fachwissen und ihre Interdisziplinarität zu Themen der digitalen Transformation unter Beweis. Die Kolumnen von Autor:innen aus dem DSI Netzwerk erscheinen im Branchenmagazin «Inside IT» und auf den Kommunikationskanälen der Universität Zürich. Hier finden Sie alle DSI Insights seit 2016.
