V nemilosti algoritmov
Marjan Kodelja 17. januarja 2017 ob 16:20

Carol Beer je izmišljen lik angleške humoristične serije Mala Britanija (Little Britain). Skozi epizode serije je vedno receptorka v različnih podjetjih, med njimi tudi v banki, odgovorna za pomoč strankam. Vsako vprašanje, tudi če zna nanj odgovoriti, vnese v računalnik. Odgovor je vedno enak: »Računalnik je rekel ne.«

Med letoma 2003 in 2006, ko je bila serija na sporedu, računalniški algoritmi še niso upravljali življenj ljudi, zato je Carol izkoriščala računalnik, da se je na grd način norčevala. Njen sarkazem in cinizem imata danes drugačen pomen. Računalnik nam dostikrat reče ne, mi pa smo nemočni, da bi odločitev spremenili. Kjer koli moramo kar koli urediti, pa naj gre za banko ali državno birokracijo, nasproti nas sedi človek, ki z rokami na tipkovnici srepo zre v računalniški zaslon.

Algoritmi so daleč od tega, da bi bili vsemogočni in nezmotljivi. Omenimo znanstvenofantastično novelo, naslova se na žalost ne spomnimo več, v kateri so lepo prikazane njihove omejitve. Nasproti si stojita floti vesoljskih ladij sovražnih bitjih. Številčno in tehnološko sta si floti enakovredni, vse odločitve pa sprejemajo računalniki. Algoritmi preračunavajo vse možne premike nasprotnika in odgovore nanje, floti pa dneve stojita pri miru. Ne algoritmi na eni ne na drugi strani ne najdejo bojnega načrta, v katerem bi ena ali druga flota dosegla prednost in zmagala. Pat položaj bi trajal v nedogled, če ena stran ne bi izključila računalnikov in dovolila poveljnikom vsake ladje posebej, da napade sovražnika brez načrta, stihijsko in kakor se mu zdi, da je najbolje. Ta flota je zmagala, ko so algoritmi nasprotne strani v nedogled iskali vzorec v napadu in najboljši odgovor nanj. Ladje so stale pri mestu, čakale na ukaze računalnikov in bile lahka tarča nasprotnikov.

Algoritmi razumejo le matematiko

Matematika je univerzalni jezik in z njo lahko opišemo kar koli. Napoved prihodnosti z njo je mogoča, če poznamo vrednosti vseh spremenljivk, ki vplivajo na prihodnji dogodek. Težava ni le v tem, da ne poznamo vrednosti spremenljivk, temveč da tudi ne vemo, katere vse moramo upoštevati. Računalniški algoritem je zbirka ukazov in podatkov, na podlagi katerih se algoritmi odločajo in so, kako drugače pa bi bilo, omejeni z našim vedenjem. Algoritme je naredil človek, zato ne morejo biti boljši od njega. Ne glede na to osnovno dilemo in omejitev vse bolj prepuščamo, da se namesto nas o za nas pomembnih zadevah odločajo algoritmi.

Pravzaprav je smešno, kako zelo smo od algoritmov odvisni, pa čeprav se tega niti ne zavedamo. Kako poteka proces pridobivanja kredita v banki? Uslužbenec nas sprašuje, mi odgovarjamo, on odgovore vnaša v računalnik, na koncu pa pove, ali nam bo banka sploh dala krediti, kolikšnega in pod kakšnimi pogoji. Enak postopek je pri urejanju zavarovanja, naročnin na storitve, urejanju razmerij z državo, pravzaprav pri vseh postopkih, v katerih za kaj prosimo. Občutek imamo, da se dogovarjamo s človekom, ki sedi nasproti nas, ta nam je podoben in bo razumel naše probleme, v resnici pa mu odločevalni algoritmi puščajo zelo malo svobode pri sprejemanju odločitev.

Odločitve na podlagi starih podatkov

Algoritmi sprejemajo odločitve na podlagi podatkov, ki so jim dostopni. Koliko denarja ima prosilec za kredit na računu, kolikšni so mesečni prilivi in kako vesten je bil prosilec pri poravnavi obveznosti. Nekomu, ki je vedno zamujal pri plačevanju obveznosti, bo računalnik skoraj gotovo prižgal rdečo luč. Če je nekdo redni zamudnik, je velika verjetnost, da bo tudi v prihodnje obdržal slabo navado. Ni pa nujno, da bo tako. Morda so razlogi za to kje drugje. Algoritma ti ne zanimajo, saj so preveč človeški, da bi jih lahko zapisal v matematično obliko in jih razumel. Tu je še problem odgovornosti. Uslužbenec, ki verjame prepričljivemu prosilcu, mu morda odobri kredit, vendar krivdo za morebitno neplačevanje prevzame nase. Enostavneje je zanj, da zaupa odločitvi algoritma in se ogradi od vsakršne morebitne odgovornosti.

Zapiranje v mehurčke

Nevarnost popolnega zaupanja v algoritme odločanja, ki niso vedno slabi, je ravno v tem, da posameznika zapirajo v mehurček, za katerega ocenijo, da mu najbolj ustreza. Storitev pretočnega videa Netflix je dober primer. Hvalijo se z algoritmom, ki uporabniku predlaga, kaj naj gleda. V osnovi gre za preprost algoritem. Na podlagi poznavanja, kaj je uporabnik že gledal, mu predlaga, kaj bi morda še moral pogledati. Če smo na primer pred časom gledali dobro ocenjen dokumentarec, nam predlaga podobno ocenjen dokumentarec, ki ga še nismo gledali. Ogledamo si še nekaj dobrih filmov in algoritem ima več možnosti, kaj nam bo predlagal. V resnici Netflix zbira veliko več podatkov o navadah uporabnika. Kaj gleda, kaj išče, katere vsebine je ocenil, kdaj gleda in koliko časa zdrži pri ogledu videa, dokler ga ne ugasne in se odloči za ogled nečesa drugega. Namesto da bi tako razvijal individualni algoritem uporabnika, tega uvrsti v skupino uporabnikov, ki imajo podobna zanimanja in navade gledanja, in mu podaja predloge na podlagi tega, kaj so že gledali njemu podobni ljudje. Uporabnik, ki popolnoma zaupa algoritmu, je omejen na tiste vsebine, ki jih ta oceni kot njemu primerne, in mu ne dopusti širjenja obzorja in raziskovanja popolnoma drugačnih vsebin. Težava je tudi, ker tovrstni algoritmi ne upoštevajo konteksta, da so gledalčeve navade lahko različne glede na dan v tednu, čas v dnevu, glede na naprave, na kateri uporablja storitev, in tudi glede na njegov trenutni zemljepisni položaj.

Človek tvega, algoritem je ziheraš

Problem algoritmov za predlaganje, ki se morajo »zavleči« v glavo uporabnika, da ga spoznajo, od njega dobijo podatke in mu na koncu lahko predlagajo, je, da so ti prej prišli iz glave nekoga drugega. Tistega, ki jih je oblikoval. Znan je Facebookov algoritem, ki nam na vrhu prikaže objave, za katere oceni, da nas bolj zanimajo od drugih. Všečkanje neke objave pove algoritmu, da si uporabnik želi več takšnih objav. Nasprotno, objava, ki jo uporabnik umakne (skrije) iz svojega prikaza, algoritmu pove, da si tovrstnih objav ne želi.« Po tem načelu Facebook ves čas cenzurira objave v uporabnikovem prikazu. Kaj nam prikaže, je zelo odvisno od stvari, za katere smo v preteklosti pokazali zanimanje.

Algoritmi so povsod

Tudi če se zavedamo problema in uporabljamo spletne storitve, ki se manj zanašajo na svoje algoritme in manj zapirajo uporabnike v mehurčke, se algoritmov nismo znebili. Nošenje kape iz aluminija, pokrivalo teoretikov zarot, ki trdijo, da nas nezemljani nadzirajo z radijskimi valovi, kar preprečuje takšna kapa, ne pomaga. Znanstveniki newyorške univerze trdijo, da so razvili algoritem, ki s 84-odstotno gotovostjo oceni, ali bo rokopis romana komercialno uspešen. Vsi novi uspešni romani bi bili podobni drug drugemu, če bi knjižni založniki sprejeli ponujeni algoritem. A ga niso. So tudi algoritmi, ki analizirajo filmski scenarij in podajo oceno, koliko bi film lahko zaslužil. To počnejo na podlagi analize scenarijev finančnih uspešnic in filmski studii jih uporabijo. Algoritmi »sedijo« v odboru, kjer se direktorji odločajo, kateri scenarij posneti in katerega ne. Nič čudnega, da so filmi, ki zadnje čase zaslužijo največ denarja, sumljivo podobni drug drugemu. Veliko akcije s plehko zgodbo.

Ko bi šlo le za kulturo. Nevarnejši so algoritmi, ki so skoraj v celoti zavzeli finančno industrijo. V kratkem času se bodo na borzah algoritmi odločali, katere posle skleniti, skoraj brez nadzora človeka. To je dejstvo. Ne bi nas smela skrbeti prihodnost, v kateri bodo morda stroji dominirali ljudem. Bolj bi nas morala skrbeti sedanjost, v kateri se algoritmi spektakularno sesuvajo in povzročajo težave.

Kaj pomeni, da se algoritmi odločajo na podlagi preteklih podatkov, si lahko predstavljamo na naslednji način. V vozilu imamo navigacijsko napravo s starimi zemljevidi. Popolnoma zaupamo njenim napotkom. Vodi nas po cesti, ki jo pozna in za katero ve, da se po njej redno vozimo. Zgradijo novo, hitrejšo cesto, ki je algoritem ne pozna. Še vedno nas vodi po stari cesti. Še huje je, če nikoli z nje ne zavijemo, ker odločitvi algoritma popolnoma zaupamo. Ne raziskujemo novih cest, ne spoznavamo novih krajev, varno smo zaprti v mehurček, v katerega nas je algoritem zaprl. Tako ne deluje le Facebookov algoritem. Tako delujejo vsi algoritmi. Tudi Googlovi, Applovi, Amazonovi in algoritmi, ki jih kot pomoč pri odločanju uporabljajo v podjetjih. Pravzaprav vsi, ki posredno oblikujejo naše življenje.

Avtor Marjan Kodelja
mm
Marjan se s tehnološkim novinarstvom ukvarja od leta 1997 in v tem času je videl že mnogo stvari, ki se nikoli niso uveljavile ali pa so imele kratek čas trajanja. Začel je pri računalniški reviji Moj mikro in ter 2000 postal njen urednik. Veliko kasneje je bil urednik naprej tednika Stop in nato še tednika Vklop, trenutno pa kruh služi s pisanjem tehnoloških člankov za edicije skupine Media24.
Marjan Kodelja - prispevki
Brez komentarjev

Dodaj odgovor

Vaš e-naslov ne bo objavljen. * označuje zahtevana polja