Het politiekorps van de Engelse stad Durham wil voortaan op artificiële intelligentie beroep doen om te bepalen of verdachten van een misdrijf best aangehouden blijven of daarentegen op borgtocht opnieuw in vrijheid kunnen worden gesteld. Daarbij zal het korps gebruik maken van de Harm Assessment Risk Tool (Hart), een programma dat door wetenschappers aan de Cambridge University werd ontwikkeld.

Hart berekent aan de hand van het geslacht, de postcode en het strafregister van de verdachte of er sprake is van een laag, middelmatig of hoog risico op recidivisme. De app werd vier jaar geleden door computer-wetenschappers in Cambridge voor de eerste keer gebruikt. Aan de conclusies van het algoritme werden toen echter geen beleidsbeslissingen gekoppeld. Verdachten werden aan de hand van de parameters in verschillende risico-categorieën ondergebracht, waarna gedurende twee jaar eventuele gevallen van recidivisme werden geregistreerd. Bij een hoog risico op een herval kon een accuraatheid van 88 procent procent worden gemeld, maar bij een laag risico liep dat zelfs op tot 98 procent.

Critici zien diverse gevaren. In eerste plaats wordt opgemerkt dat in werkelijkheid de keuze aan het algoritme zal worden overgelaten, aangezien weinig officieren zin zullen hebben om een alternatieve beslissing tegenover de hogere hiërarchie te verdedigen. Bovendien wordt aangegeven dat nog nauwelijks naar de argumenten van de raadsmannen van verdachten zal worden geluisterd. Tenslotte wordt gewaarschuwd voor schadeclaims van personen die door het algoritme onterecht in de cel worden gehouden.

Alles bij de bron; Express [Thnx-2-Luc]