Sistem pangenal raray Amazon ngaran puluhan paréntah hukum California salaku penjahat - BGR

Téknologi pangenalan wajah parantos jauh di taun-taun ayeuna sareng ayeuna seueur pangguna smartphone anu ngandelkeun fitur muka konci pikeun ngalindungan alatna. Perangkat lunak scanning Amazon, disebut Rekognition, henteu muka konci telepon anjeun, tapi ayeuna dianggo ku penegak hukum pikeun ngaidentipikasi penjahat nganggo poto ID na.

Taun ka tukang, ACLU nganggo software Rekognition [ dina gambar anggota Kongrés sareng mendakan yén parangkat lunak parantos ngaidentifikasi 28 di antawisna salaku penjahat anu dikenal. Positip palsu ieu nunjukkeun cacad serius dina software Amazon sareng nyorot bias ras dina program, nyirian jalma warna-warni. Ayeuna, sataun ti harita, ACLU ngulang ujian na ... sareng sigana ampir euweuh anu robah.

Dina mangsa tés anu terakhir, perangkat lunak Rekognition parantos dianggo dina poto ahli hukum undang-undang 120 California. anjeunna parantos sakali deui ngahasilkeun puluhan pertandingan palsu sareng penjahat anu disebat. Dina hiji pangkalan data kriminal, jalma 26 diidentifikasi salaku poto identitas, anu pakait sareng salah sahiji ti lima karyawan anu tunduk kana sistem ieu.

Tés anu tujuanana pikeun nyorot kalemahan ngagunakeun téknologi anu teu leres pikeun ngaidentipikasi poténsial. penjahat. Pasukan pulisi anu tiasa nganggo parangkat lunak pikeun gancang ngaidentipikasi jalma sareng rékaman kriminal tiasa nyalahkeun atanapi salah kaprah yakin yén aranjeunna ditéang ku nami sanés.

"Parangkat lunak écés henteu siap dianggo ku pulisi. Phil Ting, salah sahiji anggota Majelis California anu mangrupikeun salah saurang anggota parlemen anu dituduh palsu anu kriminal LA Times . "Kasalahan ieu, urang tiasa seuri sakedik, tapi upami anjeun ditéwak sareng éta dina loker anjeun, tiasa sesah milari perumahan, damel. Éta gaduh dampak anu nyata. "

Amazon, bagianna, nyatakeun yén ACLU "nyiksa" parangkat lunak, anu tiasa disaluyukeun pikeun ngan ukur hasil nalika aman dina 99% tina pertandingan. Perusahaan ngajukeun pernyataan di handap ieu pikeun Gizmodo :

ACLU deui kalayan teu terang sareng sacara abusif nganggo Amazon Rekognition pikeun ngadamel headline. Sakumaha kami parantos nyarios sababaraha waktos anu kapungkur, nalika dianggo nganggo 99% ambahan kapercayaan anu disarankeun sareng salaku bagian tina kaputusan manusa, téknologi pangakuan wajah tiasa dianggo lami. daptar tujuan anu mangpaat, sapertos idéntifikasi. penjahat ngabantosan milari barudak leungit pikeun perang trafik di manusa. Kami teraskeun ngajukeun panerapan féderal ngeunaan téknologi pangakuan raray pikeun mastikeun panganggona anu tanggung jawab, sareng kami parantos ngabagi bongbolongan khusus urang dina hal ieu, sacara pribadi sareng produsén kawijakan sareng blog urang.

Éta hébat sareng sadayana, tapi upami parangkat lunak dirancang pikeun ngagunakeun éta konfigurasi khusus dina tempat, naha éta ogé mungkin pikeun ngarobihna sareng naon kamungkinan yén sadaya agénsi penegak hukum bakal paké ogé tuturkeun rekomendasi ieu?

sumber gambar: Markus Redmann / Imagebroker / Rex / Shutterstock

Artikel ieu mimiti mucunghul (dina Basa Inggris) dina BGR