Otključavanje telefona licem je zanimljivo, ali prepoznavanje lica s kontroverznom aplikacijom je drugačije. U “Tvoje lice pripada nama” američki tehnološki novinar Kashmir Hill opisuje povijest i moguću budućnost ove tehnologije.
Loše vijesti za sve koji su ikada postavili selfie ili grupnu fotografiju na Facebook, Instagram ili bilo koje drugo web mjesto: tvrtka je pohranila sve te slike i upotrijebila ih za izradu aplikacije za prepoznavanje lica koju koriste policajci, diktatorski režimi i privatni pojedinci diljem svijeta. Tehnologija im omogućuje rješavanje zločina, hvatanje političkih protivnika ili ‘samo’ otkrivanje na koga su naletjeli. Čak i pojedinci koji nikad ne objavljuju svoje fotografije na internetu mogu se ipak pojaviti u bazi podataka – na primjer, zato što su drugi učitali fotografije s njima na sebi.
Tvrtka o kojoj je riječ zove se Clearview AI. Osnivač Hoan Ton-That iz Australije šokirao je regulatore, novinare i zagovornike privatnosti svojom ilegalnom kolekcijom fotografija. Prvo, zato što je prikupio fotografije bez dopuštenja vlasnika, a drugo, zato što ih je koristio za stvaranje “otisaka lica” – digitalnih uzoraka jedinstvenih crta lica osobe – i kapitalizirao ih.
Ilegalno
Unatoč svoj galami, Ton-That odbija dati otkaz. U SAD-u je, pozivajući se na slobodu govora, pokušao uvjeriti suca da prikupljanje fotografija nije protuzakonito.
Clearview AI tehnologija prepoznavanja lica – i ona mnogih drugih pružatelja usluga – mogla bi zauvijek promijeniti društvo jer nijedan građanin više nije anoniman. Algoritmi također nisu besprijekorni, tvrdi Kashmir Hill, zaposlena u The New York Timesu, u svojoj knjizi “Tvoje lice pripada nama”. Stoga je slučaj Clearview aktualan za naivne korisnike interneta, savjesne građane i vlasti željne isprobavanja nove tehnologije.
I sam sam bio istražujući Clearview AI u Nizozemskoj. Procurjeli podaci sugeriraju da nizozemski policajci također isprobavaju aplikaciju, a vlada je zbunjujuće reagirala na tu vijest. Dvije godine kasnije, još uvijek nije jasno kako nizozemske vlasti upotrebljavaju prepoznavanje lica – a time i tehnologije za prepoznavanje lica koje mogu naškoditi temeljnim pravima građana.
San
Način na koji je Kashmir Hill došao na trag Clearview AI zvuči kao novinarski san. Hill je dobio dojavu o postojanju tvrtke krajem 2019. i odlučio je istražiti. Međutim, naišla je na zatvorena vrata. Pokušaji testiranja aplikacije nisu uspjeli jer je Clearview AI blokirao njezino lice u aplikaciji, a policajci koji su učitali njezinu fotografiju u aplikaciju dobili su poziv od zaposlenika Clearviewa s pitanjem što rade. Hillovi pokušaji testiranja tehnologije bili su, ukratko, pomno praćeni i interno osujećeni.
To je zahtijevalo pojašnjenje. To je konačno došlo zahvaljujući Hillovoj upornosti. Kulminiralo je člankom koji je izazvao svjetsku kontroverzu i doveo do nekoliko tužbi i istraga protiv Clearview AI.
Emitiranje
U “Tvoje lice pripada nama”, Hill stavlja zaplete oko Clearview AI u širu perspektivu. Ona opisuje kako (uglavnom američki) znanstvenici, vlasti i kompanije razvijaju tehnike za prepoznavanje ljudi po licima od 1950-ih. Ulozi su često bili bezazleni – TV kuća je, na primjer, željela pratiti gledanost brojeći koliko je ljudi gledalo prijenos – ali implikacije sigurno nisu. Algoritmi su pogrešivi; skupovi podataka koji se koriste za njihovu obuku potiču pristranost i diskriminaciju, a pogrešna primjena može dovesti do ozbiljnih neispunjenja pravde.
Ako, kao u slučaju Clearview AI, postoji i oportunistički programer koji zanemaruje građanska prava i traži probleme. Praksa je pokazala da se Clearview AI od tada morao braniti u brojnim tužbama i dobio milijunske kazne od regulatora privatnosti. Ipak, Ton-That ne dopušta da to zaustavi. Jednog dana ljudi će vidjeti dodanu vrijednost Clearview AI za praćenje kriminalaca, njegova je misao. To mu potvrđuju i testovi prepoznavanja lica u kojima aplikacija daje visoke ocjene te zločini koji bi se uz pomoć te tehnologije mogli riješiti, iako Ton-That inicijalno nije razvio aplikaciju za tu namjenu.
Lekcije
Glavne pouke “Tvoje lice pripada nama” su, dakle, da tehnološki napredak bez odgovarajuće regulative može imati ozbiljne posljedice, da regulativa često zaostaje za razvojem te da još uvijek postoji ozbiljna rasprava o kompromisu između tehnološke mogućnosti i opasnosti.
Šteta je što ponavljanje upozorenja i ponekad nesuptilnih političkih izjava u konačnici čine knjigu pomalo zamornom. Uostalom, sadržaj je izuzetno čitljiv, čak i za ljude koji su mislili da nemaju što skrivati nakon što su pročitali uvod u ovu recenziju. Sve te fotografije na društvenim mrežama mogle bi se pokazati štetnima u zlu danu – jednostavno zato što algoritam nije nepogrešiv ili bi ga zli genij mogao koristiti.
Ovaj je članak preveo i uredio CNE.news, a prethodno je objavljen u nizozemskom dnevniku Reformatorisch Dagblad 17. studenog 2023.
