Nategnjena inteligenca
Marjan Kodelja 25. marca 2016 ob 11:42

V sredo in včeraj se je splet muzal Microsoftu, katerega program z lastnostmi umetne inteligence, je v enem samem dnevu, iz prijaznega dekleta postal rasistična in sovražno nastrojena »prasica«.

Zelo na kratko, če morda ne veste, o čemer pa močno dvomim. Microsoft je v sredo začel preizkušati bot Tay.ai in to tako, da se je ta pogovarjal z mladimi tviteraši. Najprej je bila tay prijazna, v zelo kratkem pa se je nalezla sovraštva spletnih trolov in sledile so sovražne izjave, v katerih niti Hitler ni izostal. Morda Microsoft ni dobro premislil, v kaj se spušča in je naletel na mino. Ali pa so dobili, natanko kar so želeli. Živ preizkus strojnega učenja z opozorilom na kaj morajo v prihodnje paziti oziroma potrditev, da umetne inteligence ne more učiti kdorkoli.

Otrok se rodi z naravnim nagonom za preživetje in prazno glavo. Enako je tudi z umetno inteligenco. Programerji ji v njen dnk zapiše nagone, lastnosti in sposobnost učenja, nato pa potrebuje učitelje. Na pamet nam ne pade, da bi otroka postavili pred zaslon in od njega pričakovali, da se bo vsega o svetu naučil s prebiranjem tvitov, spletnih komentarjev in postov na družbenih omrežjih. Učitelji v šolah imajo pričakovan pogled na svet, no s tem se nekateri ne boste strinjali, a načeloma naj bi tako bilo, od učitelja vožnje pa tudi ne pričakujemo, da je cestni divjak, ki ne spoštuje predpisov. Nekaj zdrave pameti in osnov mora otrok pridobili, da je sposoben samostojne eksistence v digitalnem in realnem okolju. Tay teh osnov ni imela in to je lahko očitek Microsoftu. Vprašanje pa, če je na mestu, ker ne vem, kakšen je bil pravi cilj preizkusa.

In tudi ni pomemben, ker smo dobili zelo dobro sporočilo. Učenje umetne inteligence mora temeljiti na kvaliteti in ne na količini. Roboti bodo kmalu del stvarnosti, predno nam bodo pomagali ali kradli delovna mesta, se bodo morali učiti. Zato je pomembno, kakšni bodo njihovi učitelji.

Sorodno

Avtor Marjan Kodelja
mm
Marjan se s tehnološkim novinarstvom ukvarja od leta 1997 in v tem času je videl že mnogo stvari, ki se nikoli niso uveljavile ali pa so imele kratek čas trajanja. Začel je pri računalniški reviji Moj mikro in ter 2000 postal njen urednik. Veliko kasneje je bil urednik naprej tednika Stop in nato še tednika Vklop, trenutno pa kruh služi s pisanjem tehnoloških člankov za edicije skupine Media24.
Marjan Kodelja - prispevki
Brez komentarjev

Dodaj odgovor

Vaš e-naslov ne bo objavljen. * označuje zahtevana polja