NEDELJSKI NASVET: Tako lahko onemogočiš algoritmu, da te prepozna
Marjan Kodelja 9. avgusta 2020 ob 06:11

Odkar smo izvedeli, da naj bi ameriško podjetje Clearview AI na nepošten način z družbenih omrežij pridobili približno tri milijarde obrazov, smo se zavedali, kako nevarni so v resnici sistemi za samodejno prepoznavo. Še sreča, da se je pojavilo orodje umetne inteligence, ki prepoznavo prepreči.

Zadnje tedne so se nadaljevala trenja med Združenimi državami in Kitajsko in spet lahko poslušamo kolikšna nevarnost pomeni komunizem. Grožnje so, kot kaže učinkovite, pa čeprav ne gre več za tisti sistem, ki smo se ga tako zelo bali v časih hladne vojne. Tako Američani kot Kitajci bi morali najprej pomesti pred svojim pragom, predno s prerekanjem obremenjujejo cel svet. Kot vedno, tudi v tem primeru dogajanje namreč ni črno-belo. Američani ne težijo TikToku zaradi varnosti. Če bi njihove navedbe bile edino merilo za uporabo neke storitve in bi se tega držali, potem bi morali v Evropi, kjer veljajo višji standardi zasebnosti in dostopa do podatkov, pravzaprav prepovedani uporabo vsaj polovice Ameriških aplikacij in storitev. Pa tudi Kitajci niso nedolžni, daleč od tega. Ker ne dovolijo delovanja storitvam, najbolj očitne so Facebook, Twitter in Google na svojem prostoru, me pravzaprav odločitev Američanov ne moti, še manj preseneča. Moti pa me, da Evropa nima jasne in neodvisne drže. Ni se nam treba odločati med enimi in drugimi. Čas bi že bil, da se glede tehnološke odvisnosti, odločimo zase!

Sistemi samodejne prepoznave obraza, pravzaprav identifikacija ljudi na posnetkih varnostnih kamer in fotografijah, so ljubi vsem, morda so motivi in izgovori drugačni. Ni namreč oblasti, ki bi se jim zavestno odpovedala, če ne zaradi drugega, jih želijo vsaj za preprečevanje kriminala. Odličnega »izgovora«, ki ga pogoltne večina, pri tem pa se ne zaveda, da posegajo tudi v njihovo zasebnost. Politični puritanci bi dejali, da se nimaš česa bati, če ne delaš nič narobe, odvrnem pa jim, da nam ne smelo biti mar za svobodo govora, tudi če nimamo česa povedati! Zato sem bil navdušen, ko sem zasledil, da so znanstveniki univerze v Chicagu izdelali in prosto objavili preprosto orodje, ki milo rečeno zmede samodejne algoritme prepoznave obraza.

Levo so originali, desno pa spremenjene fotografije.

Fawkes prenesete na svoj računalnik in ga uporabite po želji, sem pa ga preveril, da slučajno ne bi šlo za nevarni program. Je preprost na videz, pa tudi za uporabo. Po zagonu določite fotografije, ki jih želite, da jih v nekaj minutah vgrajena umetna inteligenca prilagodi. Spremembe s prostim očesom niso vidne, vseeno pa je delovanje orodja dokaj zapleteno. Fotografije ne spremeni tako zelo, da bi bil vaš obraz neviden sistemom samodejne prepoznave, naredi pa manjše spremembe na ravni pik, da vas algoritem ne prepozna oziroma vas »vidi« kot nekoga drugega. Algoritmi ne delujejo, kot delujejo človeški možgani, namesto tega si zapomnijo unikatne biometrične lastnosti vašega obraza, in ko jih najdejo na drugi fotografije, sklepajo, da ste tudi tam vi. Fawkes naredi spremembe na tej ravni, na vaš obraz doda nevidno masko.  

Pomembno je, da imamo orodja za zaščito. O uporabi pa se bo moral odločiti vsak sam, kajpada pa vse skupaj sproža tudi pomisleke. Orodje bo skoraj zagotovo uporabljala manjšina, večini je namreč vseeno, s tem pa, ko bodo ti ščitili sebe, bodo ostali v neenakem položaju. Trend uporabe samodejnih sistemov prepoznave je zaskrbljujoč in že tako razširjen, da bi ga morali reševati na ravni skupnosti, ne na ravni posameznika. Drug pomislek pa je, da ima večina ponudnikov že oblikovano bazo obrazov, tega pa Fawkes ne more spremeniti.

Naroči se na redna vsakotedenska e-poštna obvestila o novih prispevkih na naši strani.

Znanstveniki postopek imenujejo »prikrivajo« in upajo, da bo orodje uporabili čim več ljudi, saj lahko le večletna uporaba izniči prednost, ki jo imajo imetniki gromozanskih zbirk biometričnih obraznih podatkov. Prepričani pa so tudi, da je postopek 100 odstotno uspešen pri storitvah Microsofta (Azure Face), Amazona (Rekoglition) in kitajskega podjetje Megvii (Face ++).

Avtor Marjan Kodelja
mm
Marjan se s tehnološkim novinarstvom ukvarja od leta 1997 in v tem času je videl že mnogo stvari, ki se nikoli niso uveljavile ali pa so imele kratek čas trajanja. Začel je pri računalniški reviji Moj mikro in ter 2000 postal njen urednik. Veliko kasneje je bil urednik naprej tednika Stop in nato še tednika Vklop, trenutno pa kruh služi s pisanjem tehnoloških člankov.
Marjan Kodelja - prispevki
Brez komentarjev

Dodaj odgovor

Vaš e-naslov ne bo objavljen. * označuje zahtevana polja