Elon Musk, Yuval Noah Harari in več drugih sopodpisnikov je predlagalo šestmesečni moratorij na nadaljnji razvoj jezikovnih sistemov umetne inteligence, ki so zmogljivejši od GPT-4. Avtorji javnega pisma Pause Giant AI Experiments: An Open Letter trdijo, da so laboratoriji za umetno inteligenco vključeni v “nenadzorovano tekmo”, ki je nepredvidljiva in neobvladljiva. Ker menijo, da so tveganja za družbo in človeštvo prevelika, predlagajo šestmesečni moratorij, da bi se skupaj dogovorili o varnostnih protokolih.

Etični premisleki o uvajanju novih tehnologij so vedno dobrodošli, vendar morajo izhajati iz dejanskega razumevanja novih tehnologij in skrbne analize bolj ali manj verjetnih možnih učinkov na posameznike in družbo.

Tehnologija velikih nevronskih mrež za procesiranje jezika se uporablja že več let, a se tega velika večina ljudi sploh ne zaveda. Do preboja v zadnjih mesecih je prišlo, ker so sisteme jezikovne umetne inteligence nekatera podjetja nadgradila na način, ki sedaj skoraj vsakomur omogoča, da jih preprosto uporablja v zelo raznolike namene. Množično zanimanje za novo jezikovno tehnologijo je mnoge presenetilo, hkrati pa zamajalo ustaljene odnose med internetnimi velikani.

Google je s svojimi znanstveniki pomembno prispeval k razvoju tega področja in novo znanje delil z vsemi, vendar se mu ni posrečilo iznajti načina, kako bi lahko to tehnologijo ponudil širšemu krogu ljudi. Velika internetna podjetja, kot sta Google in Facebook, so nove tehnološke pristope jezikovne umetne inteligence uporabljala za številne pomembne naloge, kot so prevajanje in moderiranje vsebin, ne pa tudi za pomoč ljudem pri urejanju in ustvarjanju besedil ter lažjem dostopu do informacij. To je uspelo šele podjetju OpenAI v sodelovanju z Microsoftom.

V zadnjih letih je bilo veliko razprav o različnih etičnih in družbenih vidikih razvoja jezikovne umetne inteligence, vendar se dejanske težave pogosto pojavijo šele, ko se tehnologija začne množično uporabljati.

Nekatera področja, na katerih poteka razprava o etičnih tveganjih glede umetne inteligence, so:

  • avtomatizirane odločitve in pristranskost: sistemi umetne inteligence lahko zaradi pristranskosti algoritmov sprejemajo nepravične, diskriminatorne ali škodljive odločitve za določene skupine ali posameznike; podatki, na podlagi katerih se algoritmi učijo, so lahko vir stereotipov in predsodkov, ki jih algoritmi povzamejo;
  • zlorabe umetne inteligence: sistemi umetne inteligence se lahko uporabljajo za širjenje lažnih novic in dezinformacij, vplivanje na volitve, propagando, deepfakes in podobno; prizadevati si je treba, da se prepreči njihova neželena uporaba;
  • odgovornost za dejanja umetne inteligence: kdo je odgovoren za ravnanja in samodejne odločitve umetne inteligence; kako je mogoče zagotoviti pravično in učinkovito pravno varstvo;
  • brezposelnost in dohodkovna neenakost zaradi avtomatizacije: potreba po prestrukturiranju poklicev, ki jih bo nadomestila umetna inteligenca;
  • dostopnost nove tehnologije: kdo bo imel dostop do orodij umetne inteligence; kakšen poslovni model bo vzpostavljen za njihovo uporabo;
  • nejasnosti glede avtorskih pravic: kako ravnati s slikami in besedili, ki jih umetna inteligenca ustvari v slogu določenega umetnika; kdo je avtor kompilacij; potrebujemo ponoven razmislek o avtorstvu…
  • etika robotov: problemi interakcije med ljudmi in roboti; kako ravnamo z roboti, ki imajo človeku podobne lastnosti ali čustva; kako naj zagotovimo, da bodo roboti spoštovali človekovo dostojanstvo in avtonomijo; kako naj določimo odgovornost za dejanja robotov …

Javna razprava o vseh teh in podobnih vprašanjih je seveda pomembna. Ključno pri tem pa je, da poteka na različnih ravneh in je na nivoju argumentirane izmenjave mnenj.

Predlagani šestmesečni moratorij, ki bi najverjetneje veljal le za evropska in ameriška podjetja, najbrž ne bi bil koristen, saj bi razvoj le skril pred očmi javnosti. Veliko bolj smiselno je imeti dober javni pregled nad zmogljivostmi nove tehnologije in se po potrebi ustrezno odzivati.

-
Podpri Kvarkadabro!
Naroči se
Obveščaj me
guest

1 komentar
z največ glasovi
novejši najprej starejši najprej
Inline Feedbacks
View all comments
Conti Culture
6 - št. mesecev nazaj

Conti International Culture Limited epitomizes cinematic elegance and brilliance.