So roboti bolj pravični kot ljudje?

Besedilo kratke predstavitve, ki sem jo imel včeraj na 7. tradicionalnem posvetu ob mednarodnem dnevu žensk z naslovom “Mehanizmi diskriminacije in izkoriščanja v znanosti”:

Pred nekaj tedni sem na spletni strani Sicris po naključju odprl rubriko, ki izpiše najuspešnejše raziskovalce v posamezni vedi. Ob pregledovanju točkovanj me je presenetil seznam najboljših filozofov in filozofinj. Prav na vrhu je bil res Slavoj Žižek, za njim pa je bilo nekaj imen, ki jih nikakor nisem pričakoval na taki razpredelnici. Za mnenje o seznamu sem povprašal še nekaj kolegov in kolegic, ki imajo dober pregled nad dogajanjem v slovenski filozofiji, in skupaj smo prišli do zaključka, da seznam ne odraža dejanskega stanja v panogi. Na spisku so namreč imena, za katera velja konsenz, da nikakor ne spadajo med najuspešnejše raziskovalce s področja filozofije.

Zadnje čase smo pogosto priča anomalijam in nesmislom, ko se povsem pri vrhu lestvic hierarhije strokovnjakov, ki jih za razne potrebe avtomatsko sestavljajo algoritmi in roboti, znajdejo ljudje, ki v stroki nimajo nikakršnega ugleda.

Ob tovrstnih zapletih je na mestu vprašanje, kaj želimo s takimi seznami izmeriti? Kakšno vrsto hierarhije želimo z njimi vzpostavljati? Ali posamezna stroka sploh potrebuje hierarhijo, da lahko opravlja svojo družbeno funkcijo?

Odgovor na ta vprašanja ni tako preprost, kot se morda zdi!

Znanost sama po sebi namreč ne potrebuje hierarhije. Bistvo delovanja znanstvene skupnosti zadnjih nekaj stoletij je prav v radikalni egalitarnosti vseh, ki želijo sodelovati pri nastajanju novega znanja. Bistvo znanosti je, da vrednoti zgolj ideje, pri čemer je povsem nepomembno, kdo jih izreka. Nobelov nagrajenec in študent začetnik sta vsaj formalno znotraj sistema znanosti povsem enakovredna. Pomembno so le ideje in ne, kdo je njihov avtor.

Za vztrajanje na popolni enakosti in enakopravnosti vseh raziskovalcev se je treba neprestano truditi. Ljudje smo namreč socialna bitja, ki v kakršni koli skupini takoj vzpostavimo medsebojna hierarhična razmerja. Znanost se vzpostavljanju hierarhije ves čas aktivno izogiba, kar ji skozi stoletja razmeroma dobro uspeva. Tudi če pride do pomembnega novega odkritja popoln neznanec, je pomembno le, ali ima za svoje ideje prepričljive dokaze oziroma argumente. Če napak v njegovem sklepanju ni mogoče najti, bodo nove ideje v znanstveni skupnosti hitro sprejete.

Vztrajanje na popolni enakosti vseh, ki sodelujejo v znanosti, je pomembno predvsem v procesu nastajanja in vrednotenja novega znanja. Ko znanje enkrat že imamo in ga želimo predvsem uporabljati, potrebujemo učinkovit sistem, ki nam pove, kdo je dejansko strokovnjak za posamezno področje vednosti.

Jasna hierarhija strokovnega ugleda je pomembna tako za urejanje medsebojnih odnosov med strokovnjaki znotraj stroke, kot tudi navzven. Urejena hierarhična razmerja so znak, da lahko širša javnost stroki zaupa. Če javnost začuti, da stroka nima urejene notranje hierarhije, se bo hitro porušilo tudi zaupanje vanjo, kar je lahko nevarno. Ljudje lahko začnejo zaupati lažnim strokovnjakom, ki so retorično bolj spretni, zagovarjajo pa povsem nestrokovna stališča.

Nepremišljeno objavljanje avtomatsko ustvarjenih seznamov najboljših in najuspešnejših v posamezni stroki, za katere je povsem jasno, da ne ustrezajo dejanski hierarhiji strokovnega ugleda, ni škodljivo samo za medsebojne odnose strokovnjakov v posamezni vedi, ampak je nevarno tudi zato, ker spodkopava avtoriteto stroke v družbi.

Kaj lahko glede tega storimo?

Tradicionalno so strokovnjaki nekega področja poznali delo drug drugega, zato se je hierarhija lahko spontano vzpostavila kar skozi medsebojne odnose. Danes je ljudi, ki so dejavni v posamezni vedi, preprosto preveč, da bi bilo mogoče vsebinsko slediti vsem. Zato je pomoč strojev in algoritmov nujna in potrebna.

Težava je, da so algoritmi vrednotenja, ki so trenutno v uporabi, še vedno na razmeroma nizki stopnji razvoja. Primerjamo jih lahko denimo z iskalniki po internetu v času pred pojavom Googla. Če se spomnite, denimo Mat’Kurje, je bilo takrat potrebno vsako novo spletno stran posebej ročno vpisati v formular, navesti povzetek, ključne besede in druge metapodatke. Ob iskanju po takem seznamu spletnih strani si dobil zadetke zgolj za tisto, kar je bilo vpisano, glede na ključne besede, ki jih je administrator izbral, ko je vpisoval posamezno stran.

Poleg tega, da gre večinoma za zelo preproste algoritme, je problem tudi, da velikokrat nepremišljeno prenašamo sisteme avtomatskega vrednotenja iz ene panoge v drugo. Sistem, ki se je morda dobro izkazal v neki specifični vedi, hitro posplošimo na vsa področja znanosti in slepo zaupamo rezultatom. Zdi se nam, da bo zato, ker zna robot dobro razporediti fizike, znal ustrezno vrednotiti tudi filozofe. Ker takemu vrednotenju zaupajo fiziki, mu morajo tudi vsi drugi raziskovalci in raziskovalke, tudi če vodi do povsem absurdnih zaključkov. Ker menda boljšega sistema, kot je ta, nimamo, se pretvarjamo, da je tako strojno vrednotenje objektivno in pravično.

Vendar tehnologija hitro napreduje. Kmalu lahko pričakujemo, da bo sistem za vrednotenje strokovnjakov oziroma vzpostavljanje hierarhije ugleda znotraj stroke, doživel podobno transformacijo, kot jo je iskanje po spletu s pojavom Googla ali enciklopedija s pojavom Wikipedije.

Google nasprotno neprestano analizira celoten splet in podatke z raznimi metodami razvršča glede na to, kako verjetno je, da bomo s posameznim zadetkom dobili odgovor na zastavljeno vprašanje. Pri tem uporablja tehnologijo velikega podatkovja (big data), ki temelji na treh bistvenih značilnostih: analizira res veliko količino raznolikih podatkov, ki se neprestano hitro povečujejo in izhajajo iz množice različnih virov.

Bistvo metod velikega podatkovja je, da učinkovito združujejo tako človeško kot strojno inteligenco. Ljudje s svojo dejavnostjo puščamo za seboj veliko digitalnih sledi, iz katerih je mogoče razbrati tudi naša stališča, počutje, znanje in podobne zelo intimne podatke, ki se jih morda niti sami ne zavedamo. Tehnologija velikega podatkovja zna iz podatkov o našem gibanju oceniti, če se se nas loteva bolezen, postajamo depresivni in podobno. Iz nakupovalnih navad lahko zazna, če je ženska noseča in celo v katerem mesecu nosečnosti je.

Vse te zmožnosti so po eni strani zastrašujoče, a če se jih zavedamo in če poskrbimo, da niso dostopne le omejenemu krogu korporacij in državnih organov, lahko bistveno pomagajo tudi pri izboljšanju kvalitete življenja.

Še nedavno se nam je zdelo povsem nemogoče, da bi enciklopedijo lahko pisali in posodabljali popolni neznanci, ki niso priznani strokovnjaki. Vendar danes nihče več ne odpre klasične enciklopedije, vsi se najprej obrnejo na Wikipedijo, ki jo ustvarjajo anonimni zanesenjaki, ki so povezani v razmeroma zapleten sistem sodelovanja in medsebojnega nadzora.

Prepričan sem, da bomo kmalu priča vzpostavitvi učinkovitega in zaupanja vrednega sistema, ki bo tudi hierarhijo strokovnega ugleda določal s pomočjo tehnologije velikega podatkovja. To pomeni, da bo s pomočjo množice najrazličnejših podatkov, ki jih za seboj pri svojem delu puščajo strokovnjaki, znal za posamezne vede dobro oceniti, kakšen ugled in spoštovanje ima nekdo na svojem področju.

-