Pred dnevi je Elon Musk v enem izmed svojih značilnih tvitov izjavil, da je z razvojem umetne inteligence poklic računalničarjev v temelju izgubil na pomenu. Po njegovem mnenju danes ne potrebujemo več programerjev, ki bi človeški jezik prevajali v strojno kodo, saj umetna inteligenca že razume naravni jezik in ga je sposobna sama pretvoriti v svoj operativni, “strojni” jezik. Vendar pa  Musk s to izjavo odpira bistveno širše in resnejše vprašanje: ali lahko umetna inteligenca preraste v pravo inteligenco – in če da, v kakšnem smislu.

Prav na to vprašanje poskuša odgovoriti izjemno zanimiva in konceptualno ambiciozna knjiga Maxa S. Bennetta “A Brief History of Intelligence: Evolution, AI, and the Five Breakthroughs That Made Our Brains”, ki sem jo pravkar prebral. (hvala Igorju Emriju za namig; res se je prijetno in koristno družiti s starejšimi kolegi in kolegi drugačnih strokovnih profilov!)

Max S. Bennett je nevroznanstvenik in raziskovalec na področju kognitivne znanosti, ki se ukvarja z evolucijo možganov, delovanjem živčnih sistemov in implikacijami teh spoznanj za razvoj umetne inteligence. Njegovo izhodišče je izrazito interdisciplinarno: povezuje nevroznanost, evolucijsko biologijo, kognitivno psihologijo in računalniško znanost.

Osnovni namen knjige je razviti nevroznanstveni okvir za razumevanje inteligence kot evolucijskega procesa ter na tej podlagi trezno oceniti, kje se danes nahaja umetna inteligenca in kam – realno gledano – sploh lahko pride. Bennett zavrača tako tehnološki utopizem kot tudi poenostavljene analogije med človeškimi možgani in sodobnimi AI-sistemi.

Knjiga A Brief History of Intelligence predstavlja ambiciozen (in koristen) poskus sinteze evolucijske nevroznanosti, kognitivne znanosti in sodobnega razvoja umetne inteligence. Bennett izhaja iz temeljne teze, da inteligence ni mogoče razumeti kot enodimenzionalno lastnost ali kot zgolj rezultat večje računske moči, temveč kot evolucijski proces zaporednih kvalitativnih prebojev, ki so se skozi milijone let razvili v človeških možganih. Na tej osnovi Bennett predlaga tudi okvir za razumevanje prihodnjih inteligentnih strojev.

Osrednji prispevek knjige je koncept petih evolucijskih prebojev inteligence, ki naj bi strukturirali tako biološko kot potencialno tudi umetno inteligenco: (1) zaznavanje in orientacija v okolju, (2) asociativno učenje, (3) notranji modeli sveta, (4) simbolno mišljenje in jezik ter (5) metakognicija oziroma sposobnost refleksije lastnega mišljenja. Bennett trdi, da sodobni AI-sistemi – kljub impresivnim dosežkom – ostajajo ujeti predvsem med drugim in tretjim prebojem, brez resnične semantične razumevanja ali avtonomne namenskosti.

Ena izmed močnejših plati knjige je dosledno zavračanje poenostavljenih analogij med človeškimi možgani in računalniki. Bennett inteligenco obravnava kot emergentno lastnost kompleksnih bioloških sistemov, ki so se razvijali pod selekcijskim pritiskom preživetja, ne pa optimizacije učinkovitosti. S tem implicitno kritizira prevladujoč diskurz v tehnoloških krogih, kjer se inteligenca pogosto reducira na obdelavo podatkov, hitrost sklepanja ali statistično napovedovanje.

Vendar pa prav tu naletimo na prvo metodološko težavo knjige. Bennett sicer pravilno opozarja, da biološka inteligenca ni bila »načrtovana«, vendar hkrati retroaktivno racionalizira evolucijo, kot da bi bila ta usmerjena proti vedno višjim oblikam inteligence. Takšen teleološki podton je problematičen, saj zanemarja dejstvo, da je evolucija oportunistična in da kompleksnost ni nujno optimalna ali stabilna strategija. Ta pomanjkljivost oslabi sicer prepričljivo razlago zgodnjih kognitivnih mehanizmov.

Okvir petih prebojev je nedvomno uporaben kot didaktično orodje. Bennett spretno povezuje razvoj senzorno-motoričnih zank pri preprostih organizmih z razvojem notranjih simulacij sveta pri sesalcih ter simbolnega mišljenja pri človeku. Posebej prepričljiv je opis četrtega preboja – jezika kot tehnologije za prenos kolektivnega znanja – kjer Bennett poudari, da človeška inteligenca ni individualna, temveč institucionalno in kulturno posredovana.

Toda prav tukaj knjiga ostane analitično nedosledna. Če je človeška inteligenca v veliki meri rezultat družbenih institucij (jezik, izobraževanje, norme, znanost), potem je težko zagovarjati tezo, da lahko umetna inteligenca napreduje po enaki poti brez analognih institucionalnih struktur. Bennett sicer omenja možnost »kolektivne AI«, vendar se izogne resni razpravi o politično-ekonomskih pogojih, v katerih se AI razvija – lastništvu podatkov, tržni koncentraciji, geopolitičnih interesih in regulaciji.

V tem smislu knjiga deli tipično slabost tehnološkega humanizma: tehnologijo obravnava kot relativno avtonomno silo, medtem ko družbene odnose potiska v ozadje. To je zlasti problematično pri razpravah o prihodnjih inteligentnih strojih, kjer bi bila nujna analiza razmerij moči, interesov in distribucijskih učinkov.

Bennett je do sodobnih AI-modelov (zlasti velikih jezikovnih modelov) izrazito skeptičen. Trdi, da gre za sofisticirane sisteme za statistično ujemanje vzorcev brez razumevanja, namena ali zavesti. Ta kritika je v veliki meri utemeljena in dobro argumentirana, zlasti v razpravi o tem, da modeli nimajo notranjih ciljev ali sposobnosti resnične generalizacije zunaj učnih podatkov.

Vendar pa Bennett pri tem podcenjuje ekonomsko relevantnost delne inteligence. Z vidika produktivnosti, avtomatizacije in reorganizacije dela ni ključno vprašanje, ali AI razume svet kot človek, temveč ali lahko nadomesti ali dopolni človeško delo v specifičnih nalogah. Knjiga tako, kar se mene tiče, ostaja preveč osredotočena na ontološko vprašanje »kaj je prava inteligenca«, premalo pa na vprašanje kaj AI dejansko počne z gospodarstvom, trgom dela in institucionalnimi strukturami.

V sklepnem delu knjige Bennett zavzame previdno stališče do prihodnosti umetne inteligence. Opozarja, da brez utelešenosti, čustev, socialne interakcije in metakognicije ne moremo govoriti o resnično splošni inteligenci. Ta previdnost je dobrodošla protiutež tehnološkemu utopizmu, vendar knjiga ne ponudi jasnega raziskovalnega ali političnega okvira, kako naj družba ravna v vmesnem obdobju – ko bodo sistemi dovolj močni, da vplivajo na družbo, a ne dovolj »inteligentni«, da bi jih lahko obravnavali kot avtonomne akterje.

V primerjavi z Yuvalom Noahom Hararijem je Bennett bistveno bolj analitičen in manj spekulativen. Harari umetno inteligenco pogosto obravnava skozi prizmo informacijskih tokov in nadzora (kar ni čudno, glede na to, da je Izraelec), pri čemer se opira na zgodovinske analogije, medtem ko Bennett ostaja zvest nevroznanstveni razlagi inteligence in se izogiba velikim civilizacijskim prerokbam.

V primerjavi z Maxom Tegmarkom Bennett zavrača kozmološki in skoraj metafizični pogled na inteligenco kot univerzalni pojav. Tegmarkova ideja inteligence kot neodvisne “substance”, ki se lahko osvobodi bioloških omejitev, je za Bennetta preveč abstraktna in empirično slabo utemeljena.

Najbližje pa je Bennett – paradoksalno – ekonomistu Daronu Acemogluju, čeprav slednji izhaja iz povsem druge discipline. Oba sta skeptična do tehnološkega determinizma in opozarjata, da razvoj tehnologije sam po sebi ne vodi nujno v družbeni napredek. Razlika je v tem, da Acemoglu to trditev utemeljuje z analizo institucij in politične ekonomije, medtem ko Bennett ostaja predvsem znotraj kognitivno-nevroznanstvenega okvira.

A Brief History of Intelligence je konceptualno ambiciozna in intelektualno poštena knjiga, ki uspešno razbije številne mite o umetni inteligenci. Njena glavna vrednost je v nevroznanstveno utemeljeni kritiki redukcionističnega razumevanja inteligence. Hkrati pa knjiga ostaja omejena zaradi pomanjkanja politično-ekonomske analize in implicitnega tehnološkega determinizma. Tukaj seveda čakamo družboslovce, da podajo svojo kritično oceno.

Bennettova knjiga torej pravilno diagnosticira, da inteligenca ni zgolj tehnološki problem, a se ustavi tik pred vprašanjem, komu bo ta inteligenca služila, kdo jo bo nadzoroval in kakšne bodo njene razvojne posledice za neenakost, moč in demokracijo. Prav tu pa bi se morala razprava zares začeti.