En britisk politistyrke har satt bruken av sanntids ansiktsgjenkjenning på pause etter en studie som peker på skjevheter i systemet, ifølge The Register. Saken illustrerer at utrulling av biometrisk teknologi i offentlig sektor fortsatt møter betydelig regulatorisk og etisk motstand.
Når politiet stopper eller begrenser slike systemer, er det ofte et tegn på at kvalitet i modellene alene ikke er nok. Myndigheter må også dokumentere rettferdighet, etterprøvbarhet og at teknologien ikke rammer enkelte grupper uforholdsmessig hardt.
Utviklingen i Storbritannia er relevant for resten av Europa…
Utviklingen i Storbritannia er relevant for resten av Europa, der AI Act og personvernregler skjerper krav til høyrisiko-bruk av KI. Offentlige virksomheter som vurderer tilsvarende løsninger må forvente strengere tester, mer åpenhet og tydeligere klagemekanismer.
For leverandører betyr dette at konkurransekraft i økende grad avgjøres av governance-funksjoner: datadokumentasjon, bias-testing, revisjonsspor og kontinuerlig kontroll, ikke bare treffprosent i demoer.