Tehisintellekti näotuvastus ajas tarkvarainsener 100 miili kaugusel toimunud sissemurdmise kahtlusalusega segi

Kui algoritm läheb täiesti untsu

Kui teil on kunagi olnud vajadust tõestuse järele, et tehisintellekt ei ole päris valmis detektiivi mängima, siis tutvuge Alvi Choudhury'ga. 26-aastane tarkvarainsener töötas jaanuaris kodus oma vanemate juures Southamptonis, kui politsei ilmus tema uksele, arreteeris ta ja hoidis teda vahi all ligi 10 tundi. Tema väidetav kuritegu? Sissemurdmine Milton Keynes'i budistlikusse vihārasse, mis asub ligikaudu 100 miili kaugusel, kust varastati 2025. aasta detsembris 3000 naela ja ehted.

Probleem? Choudhury ei teinud seda. Mitte lähedalegi. Ja CCTV-le jäädvustatud isik nägi väidetavalt temast umbes 10 aastat noorem välja, heledama nahaga, suurema ninaga, ilma näokarvateta ja täiesti erinevate näojoontega. Võib öelda, et sarnasus oli parimal juhul küllaltki kaugel.

Kuidas see juhtus?

Vale arreteerimise taga oli Thames Valley politsei automaatne näotuvastustarkvara, mille on loonud Saksa firma Cognitec. Tarkvara otsib läbi ligikaudu 25 000 päringut kuus, võrreldes pilte umbes 19 miljonist politsei mugavoofotost koosneva andmebaasiga. Süsteem märgistas Choudhury sissemurdmise kahtlusaluse vaste kandidaadiks.

Siin on eriti kibedamaitseline detail: Choudhury pilt oli süsteemis ainult seetõttu, et ta oli varem politseiga ekslikku kokkupuutesse sattunud. 2021. aastal, ülikoolis Portsmouthis olles, ründati teda ja kuidagi lõpetas ta ise arreteerituna. Ta vabastati ilma edasiste meetmeteta, kuid tema foto jäi toimikusse. Seega tuvastas veael põhinevatel andmetel töötav süsteem veaga tulemuse. Sellel on teatud karge poeetika.

Thames Valley politsei väitis, et arreteerimine oli seaduslik, argumenteerides, et näotuvastustehnoloogia "andis informatsiooni, kuid ei määranud arreteerimist", ning et ametnikud tegid enne edasist tegutsemist oma visuaalse hinnangu. Choudhury leiab arusaadavalt, et see selgitus on vähem kui veenev.

Numbrid, mis peaksid kõigile muret tekitama

See ei ole lihtsalt üks kahjulik eksitus. Siseministeeriumi tellimusel tehtud uuring 2025. aasta detsembrist paljastas mõned väga ebamugavad statistilised andmed tehnoloogia täpsuse kohta erinevate demograafiliste rühmade lõikes:

• 0,04% valepositiivse tuvastuse määr valgete nägude puhul
• 4% valepositiivse tuvastuse määr Aasia päritolu isikute nägude puhul
• 5,5% valepositiivse tuvastuse määr mustanahaliste nägude puhul

Perspektiivi lisamiseks: süsteem tuvastab Aasia päritolu isiku valesti 100 korda tõenäolisemalt kui valge nahaga isiku. Mustanahalised naised tuvastatakse valesti peaaegu 250 korda tõenäolisemalt kui valge nahaga mehed. Need ei ole ümardamisvead. Need on süsteemsed puudused, mis on algoritmisse sisse küpsetatud ning mis kasutavad väidetavalt 2020. aastast pärit tehnoloogiat, mida siseministeerium on praegu asendamas.

Vastulöök

Choudhury ei ole seda vaikselt talunud. Ta astus ITV saatesse Good Morning Britain, et oma lugu avalikult jagada, kirjeldades näotuvastustarkvara väljundit kui "kohutavate vigadega" täidetut. Ta alustab nüüd kohtuasja, nõudes kahjutasu nii Thames Valley politseilt kui ka Hamshire'i politseilt, esindades teda spetsialistist advokaat Iain Gould.

Ta ei ole ka ainus, kes vastu seisab. Võrdõiguslikkuse ja inimõiguste komisjon on nõustunud toetama seotud kohtuasju ning Essexi politsei peatas eraldi oma reaalajas toimuva näotuvastuse kasutuselevõtu 2026. aasta märtsis pärast seda, kui Cambridge'i ülikooli uuring tuvastas nende süsteemis rassilise kallutatuse.

Suur pilt

See juhtum toob esile põhimõttelise pinge kaasaegses politseitöös. Näotuvastustehnoloogia lubab efektiivsust, kuid kui see eksib, eksib see viisil, mis mõjutab ebaproportsionaalselt värvilise nahaga inimesi. Süütu mees kaotas 10 tundi oma elust politsei kambris istudes, kuna algoritm otsustas, et tema nägu on piisavalt lähedane. See ei ole väike ebamugavus. See on tõsine süsteemi ebaõnnestumine, mida ühiskonnalt üha enam usaldada palutakse.

Kuni tehnoloogia ei suuda tõestada tõelist täpsust kõigi demograafiliste rühmade lõikes, juhtuvad Choudhury taolised juhtumid edasi. Ja ausalt öeldes ei peaks "arvuti nii ütles" kunagi olema piisav põhjus kellegi käeraudadesse panemiseks.

Lugege algset artiklit aadressil allikas.