Vzgoja umetne inteligence

Vse bolj pomembno postaja novo interdisciplinarno raziskovalno področje, ki se ukvarja z usklajevanjem sistemov umetne inteligence z vrednotami in pričakovanji ljudi. Gre za neke vrste vzgojo umetne inteligence, da se ta lahko varno vključi v človeški svet.

Uravnavanje umetne inteligence (AI alignment) se med drugim nanaša na skrb za oblikovanje sistemov UI, ki zasledujejo cilje in interese, kot so jih načrtovali njihovi snovalci, ter se izogibajo škodljivemu ali nezaželenemu vedenju. Področje je pomembno za zagotavljanje varnosti, pravičnosti, odgovornosti in transparentnosti sistemov umetne inteligence.

Razvijalci platform, kot so ChatGPT, Bing Chat, Midjourney, DALL-E, se dobro zavedajo pomembnosti uravnavanja UI, zato so trudijo, da bi izvedli čim bolj učinkovito uskladitev svojih sistemov z vrednotami in pričakovanji ljudi, preden jih dajo na voljo uporabnikom.

Trenutno se vzpostavljajo globalni standardi za uravnavo sistemov umetne inteligence, ki naj bi upoštevali univerzalne človekove pravice, splošno sprejeta etična načela in univerzalne družbene vrednote. Ti temeljni globalni standardi naj bi veljali za vse, nato pa bi se lahko sistemi dodatno prilagajali še lokalnim potrebam in navadam uporabnikov.

Novi sistemi jezikovne in slikovne umetne inteligence, ki temeljijo na strojnem učenju velikih nevronskih mrež, v svojem bistvu sicer niso nič drugega kot nov nabor koristnih orodij, ki so nam na voljo za uporabo. Zato si tako kot pri običajnih orodjih, ki jih že dobro poznamo in smo nanje navajeni, tudi pri novih orodjih umetne inteligence odgovornost za delovanje in uporabo delijo proizvajalci, uporabniki in regulatorji:

• Proizvajalci orodij so odgovorni, da so orodja varna, zanesljiva, učinkovita in transparentna. Pri umetni inteligenci, ki ustvarja vsebine, to pomeni tudi, da so generirane vsebine v skladu z temeljnimi družbenimi vrednotami.
• Uporabniki smo odgovorni za konkretne izdelke, ki jih izdelamo s pomočjo orodij umetne inteligence. Orodja seveda ne nosijo odgovornosti za izdelke, ki jih ustvarimo z njegovo pomočjo, tudi če se zdi, da se generirajo samostojno. Vedno smo uporabniki tisti, ki sprožimo proces ustvarjanja s pozivom (promt).
• Kot družba moramo vzpostaviti mehanizme, ki bodo skrbeli za kakovost in varnost novih orodij. Določiti moramo standarde kakovosti za sisteme umetne inteligence za različnih ravni njihove uporabe. Na evropski ravni se predvideva sistem certifikacije za sisteme umetne inteligence z visokim tveganjem. Dogovoriti se moramo tudi, kateri načini uporabe orodij so sprejemljivi v katerih okoliščinah.

-