Razprava o umetni inteligenci je v zadnjih dveh letih dobila nov ton. Če smo še nedavno poslušali predvsem navdušence, ki so napovedovali prihod tehnološke revolucije, danes vse več uglednih ekonomistov, raziskovalcev in intelektualcev opozarja na temnejšo plat razvoja umetne inteligence. Ne gre več zgolj za vprašanje delovnih mest ali zasebnosti, temveč za nekaj bistveno bolj temeljnega: ali lahko umetna inteligenca oslabi človekovo sposobnost razmišljanja, učenja in ustvarjanja novega znanja? In še huje, ali lahko umetna inteligenca uniči človeštvo samo?

Najodmevnejši prispevek k tej razpravi je prispeval Nobelov nagrajenec Daron Acemoglu s sodelavcema. V letošnji razpravi so razvili teoretični model, po katerem lahko napredni agenti umetne inteligence postopoma zmanjšujejo človekovo motivacijo za pridobivanje znanja. Če ljudje vedno pogosteje prepuščamo razumevanje, analizo in odločanje algoritmom, se lahko začne zmanjševati skupna zaloga človeškega znanja. Avtorji celo opozarjajo na možnost »kolapsa znanja« – stanja, v katerem družba izgubi sposobnost samostojnega ustvarjanja in obnavljanja znanja.

Podobne skrbi izražajo tudi druge raziskave. Nekatere ugotavljajo povezavo med intenzivno uporabo generativne umetne inteligence in zmanjšano uporabo kritičnega mišljenja. Druge opozarjajo na nevarnost kognitivnega razbremenjevanja, ko posamezniki postopoma opustijo veščine, ki jih je nekoč zahtevalo samostojno reševanje problemov. V izobraževanju se pojavljajo vprašanja, ali bodo prihodnje generacije sploh še razvile sposobnost poglobljenega razumevanja, če bodo odgovori vedno oddaljeni le en klik.

Podobna opozorila prihajajo tudi iz Vatikana. Dokument Antiqua et Nova in še sveža enciklika Magnifica Humanitas poudarjata, da UI ne ogroža zgolj delovnih mest ali ekonomskih procesov, temveč samo bistvo človekovega dostojanstva. Po papeževem razumevanju človek ni zgolj procesor informacij. Človeška inteligenca vključuje moralno presojo, empatijo, odgovornost, izkušnjo in iskanje smisla. Če bi te funkcije začeli prepuščati strojem, bi lahko prišlo do erozije ne toliko znanja kot same človeškosti.

Toda na drugi strani obstaja povsem drugačna vizija prihodnosti. Njena najvplivnejša zagovornika sta vodilna predstavnika zloglasnega podjetja Palantir Peter Thiel in Alex Karp, ki UI razumeta kot orodje za krepitev civilizacijske moči zahodnih družb. Njuno izhodišče ni strah pred tehnologijo, ampak strah pred stagnacijo. Karp pogosto poudarja, da Zahod zadnjih desetletij trpi zaradi pomanjkanja ambicioznosti, tehnološkega pesimizma in izgube vere v napredek. Umetna inteligenca naj bi omogočila ponovno industrializacijo, hitrejši znanstveni razvoj, učinkovitejšo javno upravo in večjo obrambno sposobnost demokratičnih držav.

Palantirjeva filozofija izhaja iz prepričanja, da tehnologija sama po sebi ni grožnja. Grožnja nastane, če jo razvijajo ali uporabljajo »napačne«, nezahodne države. Medtem ko Acemoglu opozarja na možnost kognitivnega propada, Karp vidi možnost civilizacijskega preporoda. Namesto da bi UI nadomeščala človeka, naj bi povečala njegove sposobnosti in omogočila reševanje problemov, ki jih brez nje ne bi mogli obvladati – od razvoja zdravil do upravljanja energetskih omrežij in nacionalne varnosti (prek nadzornih sistemov).

Menim, da je treba zavzeti srednje stališče. UI je lahko zelo koristna. Težava številnih katastrofičnih scenarijev je, da izhajajo iz precej omejenih modelov človeškega vedenja. Acemoglujev model je eleganten, vendar predpostavlja relativno statičen svet. Znanje je v njem zaloga, ki se kopiči ali zmanjšuje, medtem ko zgodovina kaže, da se ob velikih tehnoloških prelomih pogosto pojavijo povsem nove oblike znanja. Tiskarski stroj ni zmanjšal znanja, ampak ga je eksplodiral. Kalkulator ni uničil matematike. Internet ni zmanjšal znanstvene produkcije, ampak jo je pospešil.

Poleg tega sodobni modeli UI niso inteligentni v človeškem smislu. Nimajo zavesti, namenov, izkušenj ali moralne presoje. Ne razmišljajo, niso sposovbi preboja, temveč le statistično napovedujejo. Njihova moč je v hitrosti obdelave informacij in prepoznavanju vzorcev. Zaradi tega lahko izjemno pomagajo pri raziskovanju, analiziranju in ustvarjanju novih idej, ne morejo pa samostojno nadomestiti človeške radovednosti, ustvarjalnosti ali presoje.

Po drugi strani pa bi bilo naivno prezreti opozorila kritikov. Tehnologija lahko res spodbuja intelektualno lenobo. Študent, ki brez premisleka prekopira odgovor ChatGPT-ja, se nauči manj kot študent, ki se z nalogo spopade sam. Zdravnik, ki slepo zaupa algoritmu, izgubi ključni del strokovne presoje. Družba, ki opusti kritično mišljenje, postane ranljivejša za manipulacijo in dezinformacije.

Pravo vprašanje zato ni, ali je UI dobra ali slaba. Ključno vprašanje je, kako jo bomo vključili v svoje institucije. Bomo šole prilagodili tako, da bodo učile sodelovanje z UI in hkrati razvijale kritično mišljenje? Bomo razvijali sisteme, ki spodbujajo razumevanje, ali sisteme, ki nagrajujejo pasivno sprejemanje odgovorov? Bomo UI uporabljali kot nadomestek za razmišljanje ali kot ojačevalnik človeških sposobnosti?

Zgodovina tehnološkega razvoja kaže, da družbe praviloma ne propadejo zaradi novih orodij. Propadejo, če se jim ne znajo prilagoditi. Pravo vprašanje ni, ali bo UI nadomestila človeka, temveč ali bomo znali zgraditi institucije, ki bodo njeno moč usmerile v krepitev človeškega znanja in ustvarjalnosti, ob tem, da bomo obdržali nadzor in presojo.

______

* Izvorno objavljeno v Dnevniku