Algorytm AI ma na celu identyfikację osób, które z największym prawdopodobieństwem staną się zabójcami.

Brytyjski rząd, jak donosi „The Guardian” powołując się na dokumenty ujawnione przez Statewatch, rozwija kontrowersyjny algorytm predykcyjny. Jego celem ma być identyfikacja osób najbardziej narażonych na popełnienie morderstwa, zanim dojdzie do zbrodni. Projekt, pierwotnie nazwany „Projektem Przewidywania Zabójstw” (później przemianowany na mniej alarmujące „Udostępnianie Danych w Celu Poprawy Oceny Ryzyka”), budzi poważne obawy.

Analiza danych od 100 tys. do nawet 500 tys. osób, pochodzących m.in. z Ministerstwa Sprawiedliwości, Spraw Wewnętrznych oraz policji z Manchesteru i Londynu, ma wskazać czynniki ryzyka. Według „The Guardian”, pierwotnie brano pod uwagę dane nie tylko skazanych, ale także podejrzanych bez wyroków, ofiar, świadków oraz wrażliwe informacje o zdrowiu psychicznym, uzależnieniach czy niepełnosprawności. Urzędnicy rządowi zaprzeczają jednak wykorzystaniu danych ofiar i grup wrażliwych, twierdząc, że opierają się wyłącznie na danych osób z przeszłością kryminalną.

Krytycy wskazują na ogromne ryzyko nadużyć i potencjalne „co może pójść nie tak?”. Główną obawą jest nieproporcjonalne obciążenie osób o niskich dochodach i zmarginalizowanych. Wskazują na wcześniejsze doświadczenia z podobnymi narzędziami, jak rządowy Offender Assessment System. System ten, mający przewidywać recydywę, okazał się niedokładny (zwłaszcza w przypadku przestępstw bez użycia przemocy) i mniej trafny w ocenie osób czarnoskórych w porównaniu do białych. Eksperci podkreślają, że algorytmy te często powielają historyczne uprzedzenia rasowe zawarte w danych (wynikające np. z nadmiernej kontroli policyjnej pewnych społeczności), co prowadzi do utrwalania nierówności. Inicjatywa nieuchronnie przywodzi na myśl dystopijną wizję z „Raportu Mniejszości”, przed którą film raczej ostrzegał, niż ją promował.