Zwischen Effizienz und Recht auf Fairness: Wie algorithmische Polizeiarbeit Diskriminierung verstärken kann

Stefanie Kemme ()
Additional contact information
Stefanie Kemme: Universität Münster, Institut für Kriminalwissenschaften

A chapter in Auswirkungen von Künstlicher Intelligenz auf die zukünftige Polizeiarbeit, 2025, pp 281-299 from Springer

Abstract: Zusammenfassung Der Einsatz Künstlicher Intelligenz (KI) in der Polizeiarbeit verspricht Effizienzsteigerung und vermeintlich präzisere Kriminalitätsvorhersagen, birgt jedoch erhebliche Risiken für Diskriminierung und soziale Ungerechtigkeit. Ein zentrales Problem ist, dass KI-Modelle auf historischen Daten basieren, die bereits durch strukturelle Vorurteile geprägt sind. Dies führt zu selbstverstärkenden Rückkopplungsschleifen. Am Beispiel von Predictive Policing, das zur Vorhersage von Straftaten und potenziellen Straftätern eingesetzt wird, kann gezeigt werden, dass es zu diskriminierenden Klassifizierungen kommt. Auch Gesichtserkennungstechnologien weisen hohe Fehlerquoten, u. a. bei nicht-weißen Bevölkerungsgruppen, auf. Eine fehlende Transparenz der algorithmischen Entscheidungen und mangelnde Kontrollmechanismen verschärfen das Problem weiter. Die rechtlichen und ethischen Implikationen dieser Entwicklungen werfen Fragen zur Verhältnismäßigkeit sowie zu Grundrechten auf. Der Beitrag untersucht, wie algorithmische Verzerrungen (Biases) bestehende gesellschaftliche Ungleichheiten verstärken und diskutiert verschiedene Lösungsansätze zur Minimierung von Diskriminierung durch KI in der Polizeiarbeit. Betont wird die Notwendigkeit einer evidenzbasierten Gestaltung von KI-gestützter Polizeiarbeit, um einer Legitimierung diskriminierender Praktiken entgegenzuwirken und die Balance zwischen Sicherheit und Fairness zu wahren.

Date: 2025
References: Add references at CitEc
Citations:

There are no downloads for this item, see the EconPapers FAQ for hints about obtaining it.

Related works:
This item may be available elsewhere in EconPapers: Search for items with the same title.

Export reference: BibTeX RIS (EndNote, ProCite, RefMan) HTML/Text

Persistent link: https://EconPapers.repec.org/RePEc:spr:sprchp:978-3-658-48425-5_16

Ordering information: This item can be ordered from
http://www.springer.com/9783658484255

DOI: 10.1007/978-3-658-48425-5_16

Access Statistics for this chapter

More chapters in Springer Books from Springer
Bibliographic data for series maintained by Sonal Shukla () and Springer Nature Abstracting and Indexing ().