Birleşik Krallık hükümeti, şiddet suçlarını öngörmek için yapay zeka kullanan bir tahmin aracına milyonlarca dolar aktarıyordu. Ancak yetkililer, aracın büyük bir kusuru olduğunu sonunda itiraf etti: Araç tamamen faydasız, ayrıca etik açıdan çok fazla sorun içeriyor.
Polis, Birleşik Krallık Ulusal Veri Analizi Çözümleri (NDAS) projesinin parçası olan “En Ciddi Şiddet” (MSV) isimli sistemin geliştirilmesini durdurdu. Neyse ki hiç kullanılmamıştı, yine de sistemle ilgili akıllarda bir sürü soru işareti kaldı.
Araç, gelecek iki yıl içinde silah ya da bıçakla suç işleme olasılıklarına göre insanlara puanlar atayarak çalışıyordu. Sistemi çalıştırmak için gözaltı ve suç kayıtları dahil olmak üzere iki ayrı polis departmanından alınan iki veritabanı kullanılıyordu. Neyse ki sistem gerçekte asla kullanılmadı. Wired tarafından elde edilen belgelere göre sistem hatalarla doluydu: “Eğitim veri setinin tanımında, MSV’nin mevcut problem komutunu yaşayamaz hale getiren bir kodlama hatası bulundu.”
70 civarlarındaki yüksek öngörülebilirlik puanlarının aksine, ilk testlerde de görüldüğü gibi sistem, silah ya da bıçak şiddetini ancak %20’den daha az bir oranda tahmin edebiliyordu. “Bir kişi silahla veya bıçakla ilk ‘MSV’ suçunu işlemeden önce, aracın mevcut verilerle bir müdahale noktası belirlemesinin mümkün olmadığı kanıtlanmıştır.”
