Podjetje OpenAI je torej predstavilo novi, težko pričakovani in že kakšna dva meseca razvpiti ChatGPT-4. Prejšnjo osnovo za klepetalnik in druge jezikovne aplikacije so v podjetju označevali kot različico 3.5. Govorice so omenjale marsikaj, vse do pretvorbe besedila v video. Vendar je realnost za zdaj nekoliko bolj »dolgočasna«. Klepetalnik oz. programski vmesniki za to umetno inteligenco (če ji tako rečemo) po novem res sprejemajo tudi fotografije kot vnos za vprašanje ali nalogo, toda rezultat je v vsakem primeru besedilo (sicer lahko tudi programska koda, kar pomeni igro ali nekaj drugega).

Razvijalci poudarjajo, da je nova različica precej bolj natančna in zanesljiva, da bolje razume kontekst,  se v mnogih primerih, tudi testih na fakultetah, odreže podobno dobro kot pravi študenti, upošteva še več predlog in je nasploh ta čas največji dosežek med tovrstnimi algoritmi.

Nova različica je za zdaj na voljo zgolj tistim, ki plačajo novo naročnino ChatGPT Plus, ta stane 20 dolarjev (oz. evrov) na mesec. V svoje storitve ga bodo lahko prek programskih vmesnikov vključili tudi drugi ponudniki, Microsoft pa ga je integriral v nadgrajeni spletni iskalnik Bing, ki odslej prav tako ponuja klepetalnik, ki naj bi odgovarjal na različna vprašanja.

Za običajne uporabnike, ki ne bi plačevali po 20 evrov na mesec, je kramljanje z »Bingčijem« tako trenutno najboljša možnost. Vendar »sogovornik« že takoj zanika, da so njegovi odgovori plod tehnologije GPT-4.

Po novem spraševanju, kaj je ChatGPT-4, in kar primerni razlagi, sledi še en oster, »Ne, nisem GPT-4, temveč povsem samostojna tehnologija.« Prav, vendar se lahko prej interno uskladite, kako boste komunicirali zadevo?

Poskusim z bolj življenjskim in aktualnim vprašanjem. Sinoči, ko je potekal »pogovor«, smo bili 14. marca, danes smo torej 15. Ali lahko že zamenjam zimske gume za letne?

Tukaj se je algoritem po moji oceni kar izkazal, dejansko se da imeti nekaj podobnega pogovoru, niso samo odgovori na posamezna vprašanja, in tudi precej smisla imajo odgovori (le tega ne vem, zakaj me je postavil v Kamno gorico). Tuji izpraševalci, ki so se ukvarjali denimo s poskusi interpretacije zgodovinskih dogodkov, so bili precej manj navdušeni, saj so bile mnoge točke ali povsem napačne in zgolj delno pravilne in relevantne, nekaterih ključnih razlogov pa algoritem sploh ni uspel izluščiti iz tega, kar je prebral med svojimi viri.

Nadalje sem poskusil z vprašanjem o kolesarskih dirkah minuli konec tedna. Ciljal sem na to, da bo postregel s podatkom o zmagah Tadeja Pogačarja in Primoža Rogliča. Vendar mu to ni uspelo. Še več, popolnoma je »zabluzil«, sem pa vendarle delno impresioniran nad tem, da je razumel moj odziv in dal smiseln odgovor, in potem še v prvem delu naslednjega, toda v drugem je zadeva znova »razpadla«, ker očitno upošteva (pre)stare podatke (iz l. 2021).

Podobno, v bistvu še huje, se je pokazalo pri vprašanju o tem, kakšen je vrstni red ekip v zahodni konferenci lige NBA. Prva tabela je bila popolnoma napačna, čeprav je klik na eno od povezav, menda uporabljenih za vir omenjene tabele, prikazal pravo stanje, in čeprav je Bing trdil, da uporablja podatke aktualnega datuma. Ko sem povedal, da so popolnoma napačni, je od nekod potegnil druge, prav tako iz ene od prejšnjih sezon, in po mojem vztrajanju, da prikazuje nepravilne tabele, je preprosto obupal in zaključil pogovor.

Nakar sem poskusil še v angleščini, a nazadnje prišel do enakega rezultata.

Medtem ko nad nepravilno, pomanjkljivo ali nenavadno interpretacijo nečesa nisem presenečen, pa me čudijo povsem zgrešeni rezultati pri nečem, kar spletni iskalniki obvladajo že leta.

Pravega iskalnika, podprtega z »umetno inteligenco«, v Sloveniji sicer še ne moremo preizkusiti. Microsoft naj bi ga kmalu integriral kar v univerzalno iskanje v operacijskem sistemu Windows. V brskalniku Edge pa je že na voljo gumb za klepet z Bingom (v desnem zgornjem kotu).

The post ChatGPT-4 je menda velika izboljšava, a daleč od revolucije, ki so jo mnogi napovedovali in pričakovali appeared first on Tehnozvezdje.

Kar imenujemo za umetno inteligenco, so statistični modeli, ki sklepaj na podlagi vzorcev dobljenih z analizo gore podatkov. Algoritmi še ne razmišljajo. Vsaj ne na način, kot razmišljamo mi. Ko otrok prvič vidi mačko in mu mati pove, da je to mačka, jo bo naslednjič prepoznal. Ne glede na pasmo, velikost ali kako dobro je zlita z okolico. Algoritem mora za podobno sposobnost analizirati na tisoče (ali več) fotografij. Pa še potem, ni sto odstotno zanesljiv. Količina podatkov, ki jih analizirajo algoritmi strojnega učenja, še nekaj časa ni več težava. Računalniške moči skokovito naraščajo in hkrati, če za hipec ostanem pri legendarni mački, na spletu smo objavili toliko javno dostopnih fotografij, da znanstvenikom ni težko oblikovati nabora primernih za analizo. Ne gre le za mačko. Verjetno je na svetu vedno manj ljudi, katerih obraz ni bil neposredno ali posredno objavljen na družbenih omrežjih. Če lahko algoritmi prepoznajo mačko, potem zlahka prepoznajo tudi mene. Povežejo obraz posnet z nadzorno kamero z mojim računom in me identificirajo. Kar je osnovno načelo delovanja osovražene ameriške storitve za identifikacijo ljudi Clearview AI. Katera ne bi bilo, če ne bi s svojimi podatki in fotografijami ravnali brezbrižno.

Daljši uvod je nujen za razumevanje algoritma Dall-E, kajti njegove sposobnosti gredo korak naprej od preproste prepoznave. A ravno tako se je moral na nečem učiti. Konkretno na naboru umetniških slik, da bi lahko razmišljal kot slikar in na osnovi ideje, ali v njenem primeru konceptualnega tekstovnega opisa želenega, ustvaril umetnino. O njegovih zmogljivostih se lahko prepričate na povezavi, kjer se skriva za uporabo preprosta demonstracijska storitev. V angleščini vpišete afirmacije in zaženete algoritem (ikona »RUN«). Ni nujno, da vas bodo rezultati že prvič navdušili. Poskušajte večkrat in razmišljajte, kakšna bi bila vaša risba- le tako je mogoče oceniti sposobnost algoritma, ki ga že nekaj časa razvija podjetje OpenAi.

Prvo generacijo algoritma so sicer predstavili že pred dobrim letom, ta, ki je del omenjene spletne storitve, pa je druge generacije. Ravno tako ni edini takšni. Pridružil se mu je Googlov algoritem Imagen. Kot večina podobnih, uporablja dvojni model. Najprej ustvari podobno v nizki razločljivosti, takšni so rezultati storitve Dall-E mini, ki jo nato raztegujejo algoritmi v podobo visoke razločljivosti. Žal slednjega ni v obliki demonstracijske spletne storitve.

Googlov algoritem ni prosto odprt, da bi ga preizkusili, toda ker ima enaki namen, verjetno tudi deluje podobno. Sposobnost algoritmov strojnega učenja je soodvisna od številčnosti in vrste podatke, na podlagi katerih se uči »umetna inteligenca«. Ni popolnoma nepomembno, kakšni in od kod so ti, saj bodo oblikovali algoritem, kot okolje oblikuje dojenčka. Kulturološko onesnaževane bo temu primerno večje in bolj pereče. Že zdaj je očitno. Na tekstovni opis »star avto na polju«, so na ustvarjenih slikah prepoznavni stari ameriški modeli. Ali veste, kaj dobite, če vpišete »football player«. Ni težko ugotoviti. Igralca ameriškega nogometa. Razlog, zakaj bi moralo biti strojno učenje mednarodno in manj usmerjeno zgolj na eno kulturno okolje. Vseeno katero – ameriško, kitajsko ali evropsko!

• 
  SOBOTNO IZBIRANJE: Takšen je naš izbor »najboljših« telefonov
• 
  Omrežni strežniki QNAP postajajo pametnejši
• 
  V Sloveniji je skoraj vsak otrok do 15. leta žrtev ene od oblik spletne zlorabe ali nasilja
• 
  PRVI VTIS Škoda Epiq: Imajo velik problem in ne vem, kako ga bodo Čehi rešili?
• 
  Če ima dva, potem oba čim bolj izkoristite!

The post Bo umetna inteligenca razmišljala po ameriško, kitajsko ali kako drugače? appeared first on Tehnozvezdje.

Uredba o regulaciji digitalnih storitev se nanaša na več področij, od vsebin na digitalnih platformah, do načina njihovega delovanja, oglaševanja, varovanja mladoletnih uporabnikov, transparentnosti in različnih manipulacij, ki si jih ponudniki zdaj lahko privoščijo, poslej pa naj bi bile otežene.

Napoved komisarke se v prvi vrsti nanaša na odstranjevanje vsebin ali izdelkov, ki jih različnih zakoni prepovedujejo. Uredba določa bolj jasno proceduro za prijavljanje, da nekdo gosti vsebine ali prodaja izdelke, ki jih ne bi smel, in odstranjevanje teh prepovedanih zadev. Tu gre lahko za sovražni govor, različne oblike maščevanja, reči, povezane z nacizmom, ponaredke ali kaj drugega, česar na spletu sploh ne bi smelo biti. Upravljavci platform, družabnih omrežij, forumov, spletnih trgovin in ostali bodo po prijavah morali tovrstno nesnago promptno odstranjevati.

Še večji cilj uredbe je regulacija velikih platform. Mejo naj bi postavili na 45 milijonov uporabnikov v Evropski uniji. Ponudniki s toliko ali več uporabniki bodo morali svoje algoritme – na osnovi česa posameznikom prikazujejo te ali one vsebine in o čemer se še odločajo algoritimi – razkriti tako Evropski komisiji kot posameznim državam članicam. Kaj bodo slednje lahko potem počele ali kaj bodo lahko zahtevale od ponudnikov, pa ni povsem jasno. Vprašanje je tudi, kaj se sploh da razbrati iz tega nabora pravil za serviranje vsebin, ki jim poenostavljeno rečemo algoritmi. Veliki ponudniki bodo za nespoštovanje ali izigravanje pravil tudi lahko precej bolj kaznovani kot doslej, saj bodo globe lahko znašale do šest odstotkov njihov celotnih letnih prihodkov.

Tudi uporabniki naj bi dobili več informacij o tem, po kakšnem ključu jim platforme servirajo vsebine, in bi morali imeti na voljo vsaj eno možnost, ki ne zajema profiliranja. Kot je denimo prikazovanje objav po vrsti od najnovejše proti starejšim.

Pri spletnem oglaševanju nam obljubljajo, da bomo imeli večji nadzor nad tem, kako oglaševalci uporabljajo naše osebne podatke. Kako bo zadeva delovala, je za zdaj težko napovedati, naj bi bilo pa nasploh prepovedano za ciljano oglaševanje uporabljati občutljive podatke, kot so spolna usmerjenost, versko prepričanje, etnični vidiki in podobno. Poleg tega bodo ponudniki lahko kaznovani, če bodo dajali prednost lastnim storitvam in jih denimo v iskalnih rezultatih ali kje drugje prikazovali prednostno oz. jih (na lep način) vsiljevali uporabnikom namesto konkurenčnih storitev manjših ponudnikov.

Uredba bo vsaj delno prinesla tisto, kar smo predlagali pred dnevi. »Odpoved naročnin na digitalne storitve bi morala biti enako enostavna kot sklepanje naročnin,« namreč napovedujejo v Bruslju.

Naslovna fotografija: DepositPhotos

• 
  SOBOTNO IZBIRANJE: Takšen je naš izbor »najboljših« telefonov
• 
  Omrežni strežniki QNAP postajajo pametnejši
• 
  V Sloveniji je skoraj vsak otrok do 15. leta žrtev ene od oblik spletne zlorabe ali nasilja
• 
  PRVI VTIS Škoda Epiq: Imajo velik problem in ne vem, kako ga bodo Čehi rešili?
• 
  Če ima dva, potem oba čim bolj izkoristite!

The post Evropska unija sprejema pravila, ki naj bi končno zaustavila Facebook, Google in podobne appeared first on Tehnozvezdje.

Ne da ne verjamem povedanemu. Takisto poudarjam najmanj zadnjih deset let, začenši s člankom, kako nas Googlovi algoritmi ujamejo v udobne informacijske mehurčke, v katerih so le nam podobni, da s skupnimi močmi utrjujemo že oblikovano prepričanje in ne moremo izvedeti ali se naučiti ničesar novega. Če seveda sprejmemo predloge algoritmov. Pisal sem tudi o nesnovni odvisnosti. Kako postanete odvisni od tehnologije in družbenih omrežij, saj so narejena, da se lepite nanje. Vse to in še več že leta čivkajo vrabci na sosedovi strehi, le da jih večina ne sliši. Ko to povedo skesanci, ki so s svojimi veščinami in znanjem prispevali k problemu, naj bi padli dol in bi nas morali zaskrbeti. Japajade! Si predstavljate, da bi vplivneži začeli govoriti o prodajanju megle, slikanju lepšega vsakdana in grenjenju življenja sledilcem, ki bi bili radi, a žal niso kot oni? Jasno, da socialna omrežja napeljujejo, da jih ure dolgo uporabljamo in postanemo od všečkanja in objavljanja odvisni. Ko je jasno, da algoritmi manipulirajo z mnenjem in da smo uporabniki »izdelek«, ki ga prodajajo oglaševalcev. Nič novega, še manj pretresljivega. Vgrajeno v “dnk” kapitalizma, le da manipuliranje, nategovanje, laganje, … , nikdar ni bilo tako preprosto, poceni in ni imelo globalnega dosega.

Družbena omrežja bi bila lahko plačljiva, orodje za tisto, čemur so bila v osnovi narejena. Druženju, spoznavanju in izmenjavi mnenj. Nato so lonček pristavili investitorji in zadeve so šle po poti vrtoglavih dobičkov. Zato smo postali blago, ki ga prodajajo oglaševalcem. Ne prodajajo naših podatkov, prodajajo naše vedenje in sposobnost, da ga spremenijo, kakor želijo. In potem se čudijo, da so družbe polarizirane, da imajo laži večjo vrednost kot resnica in se širijo hitreje ter da so teorije zarot poletele v nebo. Ker kar naenkrat ni več ene in edine resnice, tudi kompromisi niso mogoči. Večina se vas zadržuje v krogu isto mislečih, zato so odkloni nemogoči oziroma celo nezaželeni. Rusi leta 2016 niso “shekali” Facebooka, da bi vplivali na ameriške volitve. Jim ni bilo treba, saj so uporabili orodja, ki jih ta nudi. To pove veliko!

Večina tez v dokumentarcu ni slabih in so na mestu. Nekaj jih je tudi radikalnih. Kot na primer: če smo lahko za nezakonito razglasili trgovino s sužnji in organi, oboje je prinašalo dobiček, torej bi moralo biti dovoljeno, lahko podobno storimo z ekonomijo družbenih omrežij, saj dokazano škoduje uporabnikom, družbi in demokraciji.

Žal nisem v dokumentarcu izvedel ničesar, česar že ne bi vedel oziroma ve vsakdo, ki vsaj z zdravo distanco gleda na razvoj tehnologije. Ne prikaže pogleda nasprotne strani, kar bi po mojem mnenju moral, da bi si gledalec lažje ustvaril mnenje. In kar je najhuje. Ni rešitev, poleg tega, da je pogled na vse skupaj zelo ameriški. Podobno kot je bil po Snowdenovih razkritjih vohunjenja ameriške agencije NSA. Ni bila težava vohunjenje temveč dejstvo, da so to počeli Američanom. Podobno razmišljajo o družbenih omrežjih. Grdo, kako tuji samodržci družbena omrežja izkoriščajo za manipulacijo svojih državljanov, a to je njihova težava. Razsvetlila jih je šele ugotovitev, da takisto počnejo njim. Zna se zgoditi, da ga boste pogledali, se z večino strinjali in nato ure dolgo o dokumentarcu na socialnih omrežjih debatirali z enakomislečimi. 

• Kaj: The Social Dilemma
• Kje: Netflix
• Ocena: 3 (ker dokumentarec ne pove nič novega, ne ponudi rešitev in celo prikrito poveličuje ameriške tehnološke velikane)
• Priporočilo: Dokumentarec si oglejte pod pogojem, da ste pripravljeni spremeniti vedenje glede uporabe sodobnih tehnologij. Dolge ure branja literature na zaslonu pametnega telefona je nekaj drugega, kot toliko časa preživeti na družbenih omrežjih.

The post The Social Dilemma: Strah vas je lahko, če ste zadnjih deset let tiščali glavo v pesek! (#videonapovednik) appeared first on Tehnozvezdje.

Zadnje tedne so se nadaljevala trenja med Združenimi državami in Kitajsko in spet lahko poslušamo kolikšna nevarnost pomeni komunizem. Grožnje so, kot kaže učinkovite, pa čeprav ne gre več za tisti sistem, ki smo se ga tako zelo bali v časih hladne vojne. Tako Američani kot Kitajci bi morali najprej pomesti pred svojim pragom, predno s prerekanjem obremenjujejo cel svet. Kot vedno, tudi v tem primeru dogajanje namreč ni črno-belo. Američani ne težijo TikToku zaradi varnosti. Če bi njihove navedbe bile edino merilo za uporabo neke storitve in bi se tega držali, potem bi morali v Evropi, kjer veljajo višji standardi zasebnosti in dostopa do podatkov, pravzaprav prepovedani uporabo vsaj polovice Ameriških aplikacij in storitev. Pa tudi Kitajci niso nedolžni, daleč od tega. Ker ne dovolijo delovanja storitvam, najbolj očitne so Facebook, Twitter in Google na svojem prostoru, me pravzaprav odločitev Američanov ne moti, še manj preseneča. Moti pa me, da Evropa nima jasne in neodvisne drže. Ni se nam treba odločati med enimi in drugimi. Čas bi že bil, da se glede tehnološke odvisnosti, odločimo zase!

Sistemi samodejne prepoznave obraza, pravzaprav identifikacija ljudi na posnetkih varnostnih kamer in fotografijah, so ljubi vsem, morda so motivi in izgovori drugačni. Ni namreč oblasti, ki bi se jim zavestno odpovedala, če ne zaradi drugega, jih želijo vsaj za preprečevanje kriminala. Odličnega »izgovora«, ki ga pogoltne večina, pri tem pa se ne zaveda, da posegajo tudi v njihovo zasebnost. Politični puritanci bi dejali, da se nimaš česa bati, če ne delaš nič narobe, odvrnem pa jim, da nam ne smelo biti mar za svobodo govora, tudi če nimamo česa povedati! Zato sem bil navdušen, ko sem zasledil, da so znanstveniki univerze v Chicagu izdelali in prosto objavili preprosto orodje, ki milo rečeno zmede samodejne algoritme prepoznave obraza.

Fawkes prenesete na svoj računalnik in ga uporabite po želji, sem pa ga preveril, da slučajno ne bi šlo za nevarni program. Je preprost na videz, pa tudi za uporabo. Po zagonu določite fotografije, ki jih želite, da jih v nekaj minutah vgrajena umetna inteligenca prilagodi. Spremembe s prostim očesom niso vidne, vseeno pa je delovanje orodja dokaj zapleteno. Fotografije ne spremeni tako zelo, da bi bil vaš obraz neviden sistemom samodejne prepoznave, naredi pa manjše spremembe na ravni pik, da vas algoritem ne prepozna oziroma vas »vidi« kot nekoga drugega. Algoritmi ne delujejo, kot delujejo človeški možgani, namesto tega si zapomnijo unikatne biometrične lastnosti vašega obraza, in ko jih najdejo na drugi fotografije, sklepajo, da ste tudi tam vi. Fawkes naredi spremembe na tej ravni, na vaš obraz doda nevidno masko.  

Pomembno je, da imamo orodja za zaščito. O uporabi pa se bo moral odločiti vsak sam, kajpada pa vse skupaj sproža tudi pomisleke. Orodje bo skoraj zagotovo uporabljala manjšina, večini je namreč vseeno, s tem pa, ko bodo ti ščitili sebe, bodo ostali v neenakem položaju. Trend uporabe samodejnih sistemov prepoznave je zaskrbljujoč in že tako razširjen, da bi ga morali reševati na ravni skupnosti, ne na ravni posameznika. Drug pomislek pa je, da ima večina ponudnikov že oblikovano bazo obrazov, tega pa Fawkes ne more spremeniti.

Znanstveniki postopek imenujejo »prikrivajo« in upajo, da bo orodje uporabili čim več ljudi, saj lahko le večletna uporaba izniči prednost, ki jo imajo imetniki gromozanskih zbirk biometričnih obraznih podatkov. Prepričani pa so tudi, da je postopek 100 odstotno uspešen pri storitvah Microsofta (Azure Face), Amazona (Rekoglition) in kitajskega podjetje Megvii (Face ++).

The post NEDELJSKI NASVET: Tako lahko onemogočiš algoritmu, da te prepozna appeared first on Tehnozvezdje.

Ne nameravam moralizirati ali soliti pameti, vsak naj počne, kar hoče. Če hočem snemati vloge ali vsaj kdaj še kaj povedati v kamero, ne zmeraj samo pisati, je skoraj nujno, da za kakšno sekundo ali še raje minuto pokažem tudi svojo faco. In če se komu zdi fino, da pozira v kopalkah in da na fejsu, instagramu in drugod razkazuje svoje otroke, mu ne nameravam oporekati. Živimo v svobodni in demokratični državi. Trdim pa, da se je treba zavedati, kaj tako razgaljanje svoje zasebnosti in predvsem deljenje osebnih podatkov s tujimi (pa tudi domačimi) podjetji pomeni, kakšne posledice lahko ima. Ko enkrat to vemo, bomo mogoče naslednjič malo bolj premislili, ne samo nagonsko stisnili na pošlji, objavi, naloži.

Kakšna je sploh štorija s temi facami? Na kratko povedano se je še enkrat več pokazalo, da nas zasebnost skrbi samo takrat, ko beremo »strašljive« zgodbe o kršitvah in zlorabah, če pride naokrog nekaj hudo zabavnega, pa z veseljem delimo s svetom in organizatorji igre vse, kar od nas hočejo in zahtevajo. Pri tem pa se niti ne vprašamo, kaj vse dajemo na pladnju in potem težko vzamemo nazaj ali pa sploh ne moremo.

Ruska aplikacija, ki sploh ni tako nova, samo zdaj so jo nadgradili z možnostjo, da nas navidezno postara, je nov vir pridobivanja ogromnih količin obraznih fotografij. Selfijev, če hočete. Spomnimo se Facebookovega desetletnega izziva (10 year challenge). Tudi tam je bilo kristalno jasno, da nekdo poskuša kar najbolj množično hraniti algoritme za prepoznavanje obrazov in podobno digitalne čarovnije. Kaj je lepšega, kot če ti milijoni ljudi sami  postrežejo z ogromno različnimi facami, pa še v dveh starostnih obdobjih, da lahko delaš primerjave. Še posebej, če ti za to ni treba plačati niti centa in če so fotografije za vekomaj tvoje za kakršno koli uporabo.

Zanesljivo je nekaj podobnega v ozadju pri Rusih s Face Appom. Pojavili so se sicer celo strahovi, da si aplikacija prilasti dostop do celotnega galerije na telefonu, vendar do zdaj nikomur ni uspelo dokazati, da na strežnike (menda primarno Amazonove v ZDA) prenaša še kaj drugega, kot tiste selfije, ki jih uporabnik dejansko izbere za postaranje. A tudi ti morajo nujno na strežnike, šele tam jih storitev obdela, čeznje spusti filtre. Bolj zaskrbljujoče naj bi bile določbe v pogojih uporabe storitve, ki ponudniku dajejo pravico do trajne, neomejene in neodplačne uporabe naloženih fotografij za kakršne koli namene. Močno dvomim, da je kvaliteta teh fotografij pri več kot enem odstotku dovolj dobra (v vseh vidikih, ne samo glede ločljivosti), da bi se ti obrazi lahko pojavili na kakšnih oglasih kdo ve kje, kot so namigovali nekateri na spletu. Povsem pa verjamem, da je v ozadju že izdelan načrt, kako vso to na lahko pridobljeno množico fotografij uporabiti za podatkovno rudarjenje ali prodati nekomu, ki se bo šel nekaj takega. Menda se nekje v aplikaciji tudi da zahtevati izbris fotografij s strežnikov, a kdo lahko preveri, če je to ponudnik res storil? Omenjeni pogoji uporabe tudi niso ravno skladni s Splošno uredbo o varstvu osebnih podatkov (GDPR), saj uporabnikom ne dajejo prav veliko možnosti in upravljavcem omogočajo, da podatke shranjujejo kjerkoli na planetu (ali zunaj njega).

Kot pravim, zaradi mene lahko po mili volji objavljate selfije, kako boste izgledali čez žnj let ali kakšni ste bili  pred desetletjem. Ni pa nato na mestu zgražanje, da so vas nat*, ko se izkaže, da je bila zabavna igra samo pretkana kulisa za zbiranje velikih količin osebnih podatkov. Včasih je vseeno dobro vnaprej premisliti, kakšen bi lahko bil namen aplikacije, ki nujno zahteva nalaganje (zelo osebnih) fotografij v oblak, ne daje nobenega varstva za osebne podatke in jo razvijajo nekje daleč stran.

The post Pa kaj, če imajo na strežnikih mojo faco in z njo počnejo, karkoli hočejo!? appeared first on Tehnozvezdje.

Omenjena zaposlitvena agencija deluje na Finskem. O zgodnjem zaznavanju učnih težav razmišljajo v Sloveniji. V Italiji algoritmi odločajo, kateri bolniki so upravičeni do sprejema v javnem zdravstvenem sistemu. Na Poljskem razvrščajo brezposelne, na Danskem samodejno opozarjajo na domnevno zanemarjene otroke: Sistemi za avtomatizirano odločanje na Nizozemskem preganjajo nepoštene prejemnike socialne podpore, v številnih državah EU pa presojajo kreditno zmožnost državljanov in odločajo, komu bodo odobrili kredit.

Zbranih podatkov ne bodo analizirali ljudje, temveč algoritmi – oziroma sistemi za avtomatizirano odločanje, ki jih nameščamo in uporabljamo povsod po Evropi.

Avtomatizirano odločanje je vse bolj navzoče v vsakdanjem življenju Evropejcev in uporaba takšnih sistemov ima lahko številne družbene koristi: prihrani in izboljša porabo javnega denarja, rešuje življenja in poveča konkurenčnost podjetij. Vendar lahko ti sistemi brez ustreznih varovalk povzročajo tudi negativne učinke – nepravično diskriminirajo posameznike, jih nadzirajo in povečujejo družbeno neenakost.

Uporabnikov velikokrat ne seznanijo, da o njihovi usodi odločajo računalniški sistemi. Ne vedo, na kakšen način se obdelujejo njihovi podatki in nimajo možnosti pritožbe nad odločitvijo algoritma. Ne pomislijo, da so bili morda diskriminirani zaradi spola, starosti, etnične pripadnosti, kraja bivanja ali veroizpovedi. Vse manj je tudi izbire, ali se sploh hočemo vključiti v takšne sisteme in storitve, saj je udeležba za marsikoga obvezna. Sploh če ste revni ali brezposelni.

Politični odločevalci zelo površno sledijo, na katerih področjih in s kakšnim namenom se uvajajo sistemi za avtomatizirano odločanje. Zato sta nevladna organizacija AlgorithmWatch in fundacija Bertelsmann Stiftung pripravili poročilo o avtomatizaciji družbe (Automating Society – Taking Stock of Automated Decision-Making in the EU), s katerim sta hotela prvič celovito predstaviti uporabo algoritmov pri odločanju.

Avtorji poročila smo tako zbrali več kot 60 primerov avtomatiziranega odločanja v dvanajstih državah EU. Med njimi smo vključili tudi Slovenijo.

Evropa nima enotnega pristopa

Razlike med predstavljenim članicami EU so velike. Skoraj vse države so pripravile vsaj okvirne strategije za razvoj strojnega učenja in umetne inteligence. V večini držav delujejo nevladne organizacije in strokovna združenja, ki spremljajo uporabo sistemov za samodejno odločanje in opozarjajo na zlorabe – zlasti pri policiji. Toda resnost teh strategij najprej pokaže financiranje.

V Španiji je vlada namenila skromne štiri milijone evrov za program Via Industria 4.0, v katerega je vključila 400 podjetij, ki bodo »pospešile digitalno preobrazbo in izboljšale konkurenčnost z uporabo novih tehnologij«. Na Švedskem pa je že ena zasebna fundacija podelila 100 milijonov evrov dvema univerzama, ki bosta v okviru Wallenbergovega programa za razvoj avtonomnih sistemov in računalniških programov razvijali strojno učenje, umetno inteligenco in matematična orodja, ki jih potrebujejo takšni sistemi. Za Slovenijo takšne ocene nismo uspeli pridobiti.

Drugi pokazatelj so strokovne komisije in civilnodružbene pobude. V Nemčiji in Veliki Britaniji se s področjem avtonomnih sistemov ukvarjajo številne vladne in parlamentarne komisije, varuhi zasebnosti, poslovna združenja in nevladne organizacije. V državah kot so Poljska, Slovenija ali Italija, pa sicer prav tako uporabljajo sisteme za samodejno odločanje, vendar ni politične razprave o njihovi uporabi. Edina izjema je izjava proti uporabi avtonomnih orožij, ki jo je pripravila skupina   pravnikov in inženirjev (…).

Podobno velja za nadzor. V Franciji morajo biti po zakonu transparentni vsi algoritmi, ki jih uporabljajo vladne službe, a v praksi nihče ne upošteva tega pravila. Na Finskem pa je poseben ombudsman za nediskriminatorno uporabo podatkov vložil pritožbo proti podjetju, ki je uporabljalo sporen model za kreditno točkovanje. Če bodo ugotovili diskriminatorno prakso, grozi podjetju 100.000 evrov kazni.

Algoritmi? Kakšni algoritmi?

V Sloveniji najbolj izstopa pomanjkanje javne razprave, državne strategije in civilnodružbenih pobud na področju razvoja avtonomnih sistemov, uporabe umetne inteligence in nadzora nad delovanjem algoritmov.

Na prvi pogled se zdi, da Slovenija na področju avtonomnih sistemov tudi v praksi zaostaja za tujimi praksami. Na ministrstvih večinoma niso znali našteti primerov, kjer bi odločanje delno ali v celoti prepustili algoritmom. Pomoč algoritmov so potrdili na finančni upravi, kjer jih uporabljajo za zaznavanje in preprečevanje davčnih utaj. Na ministrstvu za izobraževanje pa niso hoteli predstaviti načrtov, ali (in če sploh) bo zaživel Metis – sistem za zgodnje prepoznavanje učnih težav. Nekoliko konkretnejši so bili pri policiji, kjer so nam posredovali statistiko sistema za nadzor letalskih potnikov. Zatrdili so, da o pregledih odločajo ljudje. Niso pa se opredeljevali do stališča varuha človekovih pravic in informacijskega pooblaščenca, da sistem preveč posega v zasebnost letalskih potnikov.

Dosti zgovornejši niso bili niti v gospodarstvu. Predstavniki bančnih in zavarovalniških podjetij so sicer potrdili, da preizkušajo in uporabljajo tudi orodja za pomoč pri odločanju, vendar so hkrati zatrdili, da je odločanje še vedno človeško. Kljub temu so se strinjali z ugotovitvami nekaterih raziskovalcev, da se lahko ljudje zelo hitro začnejo zanašati na elektronske svetovalce. Da se človeški uslužbenci redko odločajo drugače kot računalnik, če morajo odločati o zavarovanju ali kreditu. Kljub temu, da ne vedo, kako sploh razmišlja »črna škatla« in kako poteka algoritemsko odločanje.

To med drugim kažejo tudi zadrege nekaterih oglaševalcev, ki oglasna orodja pogosto uporabljajo kot avtopilote: vpišejo nekaj besed ter odkljukajo demografske in lokacijske kvadratke, a si niti ne predstavljajo spletnega okolja, v katerem se bodo pojavili njihovi oglasi. Kako nepremišljeno je lahko slepo zaupanje oglasnim algoritmov, je pokazala kampanja proti financiranju sovraštva na spletu, ki so ga – hote ali nehote – podpirala tudi nekatera največja slovenska podjetja. Včasih z izgovorom, da nimajo vpliva na razporejanje spletnih oglasov.

Dobre prakse

Poleg slabih smo v poročilu našteli tudi precej dobrih praks. Na Nizozemskem so se v javnosti veliko ukvarjali z vprašanjem, ali je njihov sistem za zaznavanje prevar pri prejemanju socialne podpore pravičen. Na Danskem je na podobne dileme opozoril sistem za zaznavanje zapostavljenih otrok. V obeh primerih so se kritiki spraševali, ali sistema morda diskriminirata določene skupine prebivalstva? Kaj hoče vlada sploh doseči s takšnim sistemom – izboljšati sistem socialne pomoči ali omejiti socialne pravice? Pomagati revnim ali jih prisiliti, da sprejemajo slabo plačane službe? Podobne razprave so spremljale tudi uvedbo sistemov za videonadzor ali zaznavanje kriminala v več evropskih državah, kjer so civilnodružbene organizacije opozarjale na »vgrajene« pristranskosti do določenih skupin državljanov. Zlasti revnejših in pripadnikov etničnih ali verskih manjšin.

Na Danskem pa so potrdili, da je lahko uporaba strojnega učenja zelo koristna pri izboljšanju medicinske diagnostike – pregledovanju rezultatov pri preventivnih pregledih za rak na dojki – vendar je še vedno nujen tudi človeški zdravniški nadzor, ki zmanjša verjetnost napačno pozitivnih rezultatov. Zanimiv primer smo našli tudi na Finskem, kjer so razvili brezplačen spletni izobraževalni tečaj o umetni inteligenci in strojnem učenju, v katerem so se dotaknili tudi delovanja sistemov za samodejno odločanje. Tečaj je opravilo več kot 100.000 Fincev, kar je imelo po mnenju avtorjev zelo pozitivne učinke na javno razpravo o uporabi algoritmov.

Razpravo, ki se ni v Sloveniji še niti začela.

The post Nekatere države EU se pripravljajo na prihodnost, v kateri bodo odločali stroji, druge pa … appeared first on Tehnozvezdje.

Iskanje podatka v tej gori ni enako iskanju igle v kupu sena, temveč igle v vesolju sena. Zato imajo ponudniki vsebin in storitev težavo, ki se je lotevajo tako, da želijo interese, potrebe in želje svojih uporabnikov nekako zbrati in jim prilagoditi svojo storitev. Torej jim ponuditi ravno tisto, kar si ti želijo.

Veliko ljudi je prepričanih, da je internet ena največjih človekovih iznajdb, saj omogoča, da se vsi med seboj povežemo, si izmenjamo ideje, izvemo nekaj novega, o čemer se nam niti sanjalo ni … Poosebljenje (filtrirni mehurčki) pa povezavo poveže nazaj, naredi zanko, ki se začne in končna pri nas. Imate interes, o njem se lahko veliko naučite, veliko manj možnost pa imate , da se naučite o zadevi, ki je le malo zunaj okvirja, ki ga kot vaš interes določi algoritem. Zagotovo pa so za vas nedostopna nasprotna stališča. Če imate torej določeno politično stališče, kar je eden od recimo najpreprosteje določljivih interesov, saj ga ima vsak in ga večinoma nikoli ne spremenimo, bodo informacije o nasprotni strani težje dosegljive.

Zaradi količine podatkov, ki so v internetu, drugače niti ne gre. Narobe pa je, da sortirni osebni filtri delujejo nevidno. Ne vemo, za koga nas algoritem ima, kaj misli, da je naš interes. Gre za skupek kod, ki odloča namesto nas. Zapira nas v seznam enoznačnih ugotovitev, ki naj bi opisale zanimanje in želje ter tako gradi digitalno različico posameznikove osebnosti, namesto da bi deloval po načelu človeških izkušenj, etike, morale. Pot nazaj v nefiltriran in nepoosebljen sistem pa zaradi eksplozije podatkov ni več mogoča.

Rešitev tega dejstva, kajti o problemu je težko govoriti, je osebna informacijska dieta. Stalno moramo biti na lovu po virih zanimivih in provokativnih informacij ter se izogibati narcisoidnim virom, ki nam dajejo občutek, da imamo vedno prave ideje in pravo razmišljanje. Seveda si tega občutka želimo, vendar je ta v realnem svetu prej izjema kot pravilo. Zadeva je zelo podobna verigam restavracij s hitro prehrano. Če zapademo v ta svet in sploh več ne iščemo drugih virov, potem najmanj kar je, vnesemo v telo preveč kalorij. Ni pomembno, če se zato dobro počutimo, pomembno je, da sprejemamo oziroma iščemo nove ideje, različna mišljenja, pa četudi se z njimi ne strinjamo. Za to pa je potrebna samodisciplina.

V preteklem stoletju so bili časopisi izvor več kot osemdeset odstotkov vseh novic. Med njimi so bili komercialni, za katere se ve, kaj so najraje objavljali na naslovni strani, a tudi taki, ki so si lahko privoščili na naslovnici objaviti pomemben članek, ki pa ni vedno povzročil, če se izrazimo v spletni maniri, največ klikov. Ti časopisi so oblikovali neke vrste etične filtre in take filtre bi morali razviti tudi v Googlu, Facebooku in pri drugih spletnih ponudnikih informacij. Kaj pa se dejansko dogaja? Le malo je res bistvenih informacij, večinoma gre za »kopi-pejstanje« z nekaj dodatki, ki osnovno novico zgolj napihnejo. Če bi sodili Slovenijo po novicah na nekaterih najbolj obiskanih spletnih straneh, potem se pri nas razmišlja le še aferah, seksu in črni kroniki. Morebiti ljudje to res hočejo, vprašajmo pa se, ali morda ne bi hoteli še česa več, kar bi jim razširilo obzorje?

Internet nas je osvobodil človeških vratarjev, ki so urejali pretok informacij, kaj je objavljeno v časopisih in kaj ne, vendar nam je namesto njih vsilil algoritme. Kaj je večje zlo? Človeški vratarji svojega dela niso vedno opravljali najbolje, a so bili ljudje s svojimi etičnimi in moralnimi pravili. Algoritem pa je suhoparen stroj, ki pozna le ničle ali enice. Si bel ali črn. Siv nikakor ne. Pretirano poosebljenje, ki nam vedno postreže s tistim, kar mislimo, da želimo, v tej luči nikakor ni dobro. Zaziba nas v samozadovoljstvo in mišljenje, da vse vemo in imamo vedno prav. To pa za napredek osebe ali družbe nikoli ni bilo dobro. Ali pač. S takimi osebami je veliko lažje manipulirati.

The post Zapiranje v osebnostne mehurčke appeared first on Tehnozvezdje.

Dogodki se bodo dotaknili štirih glavnih tem. Govorce se bodo spraševali o pomenu etičnega razvoja informacijske tehnologije, o morebitni nevarnosti pametnih mest, pojasnjevali, zakaj se moramo pogovarjati o velikih podatkovnih zbirkah in dali nasvete, kako se zaščititi pred agresivno umetno inteligenco in pametnimi algoritmi. Po besedah organizatorjev pa je namen prenesti pogovore o informacijski družbi iz domene industrijskega okolja v splošno debato, saj da je to družbeni fenomen, ne zgolj ena od panog.

Dogodki se bodo zvrstili takole:

• Zagreb – 20. 9. @Hub 386

• Ljubljana – 27. 9. @Poligon

• Sarajevo – 4. 10. @Hub 387

• Beograd – 11. 10  @StartIT coworking space

Povsod se bodo predavanja začela ob 18h, vse skupaj pa naj bi (vsaj formalni del) trajalo približno dve uri.

Na vsaki od lokacij bodo štiri predavanja na zgoraj omenjene teme. Predavatelji se bodo nekoliko izmenjevali, le o pametnih mestih bo povsod govoril direktor zavoda Državljan D. To je celoten nabor:

Vse informacije seveda najdeš tudi na spletišču projekta https://www.eticen.it.

The post Turneja dogodkov o etičnem razvoju informacijske tehnologije appeared first on Tehnozvezdje.

Že kakšni dve leti velja, da je pri Googlu na voljo več možnosti nadzora nad zasebnostjo kot pri večini drugih ameriških ponudnikov (Facebook, Twitter, …). V nastavitvah računa je namreč več razdelkov, kjer uporabnik lahko spreminja parametre, kaj od njegove dejavnosti na spletu se prenaša v strežnike ameriškega podjetja in kaj ne. Kje je prednost takega zbiranja in obdelovanja podatkov, zakaj bi bilo dobro, da Google ve, katere spletne strani sem obiskal, kje se bil s telefonom, katere naprave uporabljam ali kakšne glasovne ukaze sem dajal telefonu? Predvsem zato, da so priporočila iskalnika in odgovori glasovnega pomočnika (pa tudi pomočnika na telefonu) boljša, »bolj prilagojena« posamezniku. Nekaterim je to všeč, saj imajo občutek, da s tem dobijo večjo vrednost, da jim gugl dejansko bolj pomaga, da je bolj »oseben«. Drugim, tudi meni, pa ne, ker taka »priporočila na osnovi zanimanja« uporabnika zapirajo v mehurček njegovih interesov in mu ne kažejo širine informacij, zraven pa je še občutek, da nekdo, četudi samo računalniški algoritmi, ve preveč o meni.

Omenjeni opomnik daje različne možnosti, glede na to, ali je uporabnik takrat, ko se prikaže, prijavljen v svoj račun pri Googlu (če ima odprt Gmail ali kakšno drugo od storitev spletnega velikana) ali če ni. Tudi takrat, ko nisem prijavljen, namreč Google privzeto zbira podatke o mojem brskanju. Ne poveže jih sicer z računom, jih pa z mojim računalnikom oz. številko IP, saj v brskalnik namešča piškotke. V nastavitvah, ki jih ponudi ta opomnik, je mogoče izključiti prikazovanje oglasov na podlagi zanimanja (znotraj domene google.com in zunaj nje) in shranjevanje zgodovine v Youtubu. Oglasi na osnovi zanimanja pomenijo, da se mi takoj, ko nekje preverim ceno mikrovalovke, povsod začnejo prikazovati oglasi za te pečice, čeprav je morda sploh ne kupujem. Zato mogoče ni napačno izključiti tovrstnega oglaševanja in bodo vsaj oglasi, ki jih servira Googlov sistem Ad Sense, malo manj nadležni.

Še bolj zanimivo je seveda tisto, kar je mogoče nastavljati (izključiti), ko je uporabnik prijavljen v svoj račun. To je mogoče vedno najti v meniju Moj račun (klik desno zgoraj na ikono z imenom in potem na opcijo Moj račun). Tam so trije glavni razdelki. Prvi je namenjen prijavi v račun in varnosti (sign-in & security). Tu je mogoče kot način za prijavo določiti telefon, kar pomeni, da ni treba vedno vpisovati gesla, ampak samo odkleniti telefon in na njem potrditi prijavo. Ta možnost se mi zdi elegantnejša od klasičnega dvostopenjskega preverjanja (2-step verification), kjer uporabnik dobiva kratka sporočila na svoj mobilnik.   Poleg tega se tu spreminja geslo in vpisuje telefonska številka in drugi e-poštni naslov za morebitno obnovitev računa oz. pošiljanja obrazca ob pozabljenem geslu. V tem razdelku so sicer vidne še moje naprave, shranjena gesla in podobne zadeve. Kar koristno je vsake toliko časa malo poškiliti v podatke, kje vse se prijavljamo v Googlove storitve.

Glavno, kar nas zanima tokrat, je v drugem razdelku – osebni podatki in zasebnost (personal info & privacy). Tu se vidi, koliko Google ve o posamezniku, in da izključiti večino sledenja, ki ga algoritmi opravljajo, da lahko dajejo prilagojene, »personalizirane« predloge. Najprej so tu nekatere splošne nastavitve – izključiti je denimo mogoče deljenje lokacije z drugimi uporabniki in pogledati, kaj oni prek Googla lahko izvejo o meni – predvsem pa štirje pomembni sklopi nastavitev. V prvem (kontrolniki za dejavnost) uporabnik določa, kaj vse gre na Googlove strežnike. Izključiti (v bistvu prekiniti, dati na pavzo) je mogoče shranjevanje podatkov o brskanju po spletu in iskanju na googlu, o lokacijah, kjer se uporabnik nahaja, o napravah, ki jih uporablja, o glasovnem iskanju na teh napravah, o iskanju in ogledanih videih na portalu Youtubu. Še posebej za prvo postavko se splača vsake toliko časa preveriti, ali je vključena. Sam sem bil prepričan, da je na pavzi, a se je očitno nekoč samodejno vključila nazaj. Drugi sklop omogoča pregled vsega, kar je na osnovi teh nastavitev shranjeno. In tudi izbris, ali vsega ali posameznih informacij. V tretjem sklopu se vključi ali izključi oglase na podlagi zanimanja. Seveda vklopljena opcija ne bi imela pravega smisla, če bi v zgornjih nastavitvah prekinil zbiranje moje spletne aktivnosti. In prav lahko se zgodi, da bodo »nepersonalizirani« oglasi dokaj nenavadni. V naslednjem sklopu je mogoče izvoziti svoje podatke (po e-pošti ali neposredno v oblačno shrambo). Čisto spodaj pa še dodati skrbnika računa.

Tretji razdelek so še same nastavitve računa (jezik, črkovanje, itd) in med drugim upravljanje shrambe Google Drive. Tam se vidi, koliko je prostora v shrambi (tudi, kdaj poteče kakšna promocija, ki je s telefonom ali računalnikom za leto ali dve povečala število gigabajtov v oblaku) in naroča na dodatno količino. Trenutno 100 GB stane 20 evrov na leto, 1 TB pa sto evrov na leto.

Odločitev, kaj Googlu dovoliš vedeti in shranjevati o tvojem spletnem obnašanju, je seveda tvoja. Sam imam večino možnosti izključenih, ker pač nočem, da je preveč mojih informacij na strežnikih, tudi če jih »berejo« samo boti. Se pa zavedam, da so zato določene storitve, recimo predlogi v Youtubu, pa tudi iskanja in še posebej kartice Pomočnika Google (Google Now) zato zame pretežno neuporabne, ker pač temeljijo na tem, da algoritmi uporabnika čim bolje spoznajo. In če jim ta tega ne dovoli, mu lahko dajejo samo splošne predloge. Kar pa včasih sploh ni slabo.

The post Nastavi, kaj vse Google lahko izve o tebi appeared first on Tehnozvezdje.