Bill i Californien stopper ansigtsgenkendelse på kropskameraer


Sidste måned blev medlemmer af Californiens lovgiver underlagt et overvågningseksperiment med tilladelse fra den amerikanske civile frihedsunion. Deres portrætter blev fodret ind i Amazons Rekognition ansigtsgenkendelsessoftware og sammenlignet med en database med 25.000 arresterede krusskud. Seks lovgivere blev forkert identificeret som kampe. De mistænkte, der skulle være, inkluderede forsamlingsmand Phil Ting, en demokrat fra San Francisco. Han håbede, at det ville tromme op til støtte for hans regning, AB 1215, for at forbyde ansigtsgenkendelse fra politiets organskameraer.

Onsdag vedtog statens senat en lidt anden regning – ikke et forbud, men et moratorium, der udløber om tre år. Ændringen kom lige inden fristen for at foretage ændringer inden sessionen slutter i denne uge. Nogle fortalere for privatliv er bekymrede for, at regningens udløbsdato giver virksomheder, hvoraf mange anerkender begrænsningerne i deres teknologi, tid til at forbedre deres algoritmer og vinde over skeptikere. Om tre år, hvis ACLU's test afspilles igen, vil ansigtsgenkendelsesvirksomhederne bestå den?

Lovforslaget, som skal godkendes af statsforsamlingen og guvernørens underskrift for at blive lov, er blevet fejret af ACLU som et positivt skridt. Matt Cagle, en advokat ved ACLU i Nord-Californien, siger, at kropskameraer, der er blevet prydet som redskaber til ansvarlighed efter skyderier af ubevæbnede farver, er i stand til at blive til overvågningsredskaber i stedet. ”Det er en lokkemad,” siger han. Lovforslaget forbød brugen af ​​ansigtsgenkendelsesalgoritmer i realtid, når kameraets kameraer rulles, og i efterfølgende retsmedicinsk analyse af optagelser. Det udelukker en undtagelse for algoritmer, der registrerer og redigerer ansigter fra optagelser fra kropskameraer, så reglerne ikke bremser anmodninger om offentlige poster.

Moratoriet kommer midt i stigende bekymring over ansigtsgenkendelse i offentlige rum. Byer, herunder San Francisco og Oakland, har vedtaget bredere forbud mod regeringens brug af ansigtsgenkendelse, og Massachusetts overvejer et statligt moratorium. Regningerne er drevet af bekymring over privatlivets fred og bias, som nogle hævder er iboende, men også tekniske mangler, der har ført til, at selv virksomheder, der udvikler teknologien, siger, at den ikke er klar til prime time.

Sidste forår sagde Microsoft, at det havde nægtet at sælge sin ansigtsgenkendelsessoftware til et navngivet politibureau i Californien. I juni sagde Axon, den største leverandør af body-kameraer til retshåndhævelse, at den ikke ville medtage ansigtsgenkendelse i sit produkt efter anbefaling fra dets eksterne etiske bestyrelse. Til dels var det en anerkendelse af, at teknologien simpelthen ikke fungerer godt nok – i det mindste endnu ikke. Mens ansigtsgenkendelse historisk set er blevet brugt til at matche ansigter på klare, fremadrettede billeder – f.eks. Sammenligne et krusbillede med en database med forudgående arrestationer – er det meget vanskeligere at gøre i realtid. Officerer befinder sig ofte i situationer, der involverer dårlig belysning, vanskelige vinkler eller hurtig bevægelse. Axon har åbnet muligheden for, at den kan forfølge teknologi til ansigtsgenkendelse i fremtiden.

Fortsæt med at læse



Det seneste om kunstig intelligens, fra maskinlæring til computersyn og mere

Virksomheder som Amazon har hævdet, at ansigtsgenkendelse bør reguleres og ikke forbydes. Virksomheden skubbede tilbage på ACLUs august-eksperiment og sagde, at de dårlige kampe ikke ville være sket, hvis ACLU havde krævet 99 procents sandsynlighed for en kamp. (ACLU sagde, at den havde brugt ”fabriksstandarder” til testen.) Information Technology and Innovation Foundation, en branche, der modtager støtte fra virksomheder, herunder Microsoft og Amazon, er imod AB 1215 og argumenterer for, at teknologien kunne modvirke fordomme af mennesker, der gennemgår optagelser.

Den mest stemmelige modstand har imidlertid været fra politigrupper, der siger, at de striber dem fra et nøgle stykke teknologi til offentlig sikkerhed. Lovforslaget ”fejlagtigt antager, at personer offentligt besidder eller får en rimelig forventning om privatliv,” skrev Riverside Sheriffs 'Association i en analyse af regningen.

Overgangen fra et forbud til et moratorium kom ifølge Ting ud af bekymringer fra lovgivere, der "ønskede at revidere spørgsmålet, efterhånden som teknologien forbedres." Han siger, at et moratorium får den rette balance, hvilket giver embedsmænd og teknologer mere tid og fleksibilitet. ”Hvis du skulle placere kameraer over en bestemt by, ville du have en betydelig offentlig proces. Lige nu kan retshåndhævelse gøre det uden en offentlig proces og få disse kameraer til at køre rundt. ”