Potrivit Meduza, polițiști din Moscova au bătut un elev de 15 ani după ce un sistem de recunoaștere facială bazat pe inteligență artificială l-a identificat eronat drept suspect într-un dosar de trafic de droguri. Cazul a fost raportat de jurnalista Ksenia Sobchak și a generat reacții publice în Rusia, unde utilizarea supravegherii biometrice de către forțele de ordine este în expansiune rapidă.
Minorul se afla pe stradă când camerele de supraveghere ale poliției moscovite l-au scanat și l-au asociat automat cu un profil de suspect din baza de date. Agenții au intervenit imediat, fără să verifice identitatea reală a tânărului, și l-au agresat fizic. Ulterior s-a stabilit că sistemul a produs o identificare eronată — adolescentul nu avea nicio legătură cu dosarul respectiv. Detaliile exacte despre starea sa de sănătate după incident și despre eventualele măsuri disciplinare împotriva polițiștilor nu au fost făcute publice la momentul raportării.
Cazul survine într-un context în care autoritățile ruse au extins masiv infrastructura de supraveghere în spațiul public, în special în Moscova. Rețeaua de camere cu recunoaștere facială a capitalei este considerată una dintre cele mai dense din lume, iar poliția o folosește în mod curent pentru identificarea persoanelor căutate, a protestatarilor și a suspecților în dosare penale.
Cum funcționează schema
Sistemele de recunoaștere facială utilizate de poliția rusă funcționează prin compararea imaginilor captate în timp real cu fotografii stocate în baze de date ale statului — dosare penale, acte de identitate, înregistrări de la frontieră. Algoritmul calculează un grad de similitudine și, dacă acesta depășește un prag prestabilit, generează o alertă automată transmisă echipajelor de patrulare.
Problema fundamentală a acestor sisteme este rata de eroare, care crește semnificativ în cazul persoanelor tinere, al celor cu trăsături faciale similare sau al imaginilor de calitate slabă. În cazul de față, algoritmul a generat o potrivire falsă, iar agenții au acționat fără să solicite documente de identitate sau să aplice vreo procedură de verificare suplimentară. Viteza de intervenție, prezentată de obicei ca avantaj al supravegherii automate, s-a transformat în factor agravant: nu a existat niciun moment de verificare umană între alerta sistemului și folosirea forței.
Autoritățile ruse nu au publicat date despre rata de eroare a sistemului lor de recunoaștere facială și nu există un mecanism independent de audit al deciziilor luate pe baza acestuia. Absența transparenței face imposibilă evaluarea amploarei reale a identificărilor eronate.
Cine plătește
Victima directă este un minor care a suferit violențe fizice din partea agenților statului fără să fi comis nicio faptă. Dincolo de acest caz individual, riscul este distribuit asupra întregii populații expuse supravegherii automate — adică practic orice persoană care circulă în spațiul public din Moscova. Persoanele care seamănă fizic cu suspecți înregistrați în baze de date sau care au fost fotografiate în contexte sensibile sunt expuse unor intervenții similare, fără cale de atac prealabilă.
Efectul de intimidare este, de asemenea, real: știind că orice deplasare poate declanșa o alertă automată, cetățenii își pot modifica comportamentul în spațiul public, evitând zone sau evenimente unde prezența lor ar putea fi înregistrată și interpretată greșit de algoritm.
De ce contează
Cazul adolescentului din Moscova ilustrează un risc sistemic documentat în mai multe țări care au adoptat recunoașterea facială în aplicarea legii: delegarea deciziei de a folosi forța către un algoritm, fără intervenție umană reală între alertă și acțiune. În Statele Unite și în mai multe state europene, studii independente au arătat că sistemele de recunoaștere facială au rate de eroare semnificativ mai mari în cazul persoanelor tinere și al anumitor grupuri demografice. Unele jurisdicții au suspendat sau interzis utilizarea lor tocmai din această cauză.
În Rusia, nu există legislație care să limiteze utilizarea recunoașterii faciale de către poliție, nu există obligativitatea publicării ratelor de eroare și nu există un organism independent care să ancheteze abuzurile generate de identificări eronate. Cazul de față nu este, prin urmare, o anomalie izolată, ci expresia unui sistem în care tehnologia de supraveghere funcționează fără mecanisme de răspundere. Întrebarea care rămâne deschisă este dacă incidentul va genera vreo consecință pentru agenții implicați sau dacă va fi tratat ca un simplu incident operațional fără urmări.
