Umetna inteligenca ne bo rešila problema produktivnosti

V razvitih državah imamo dve težavi, ki ležita v osrčju naših težav z vzdržnostjo našega modela razvoja, ali če hočete – preživetja. To sta upadajoča demografija in padajoča stopnja produktivnosti. Obe skupaj tvorita stopnjo gospodarske rasti in vodita k trendnemu upadanju gospodarske rasti. Glede prve ni velikega upanja, ker smo izgubili željo po razmnoževanju, toda nam glede druge težave lahko pomaga razvoj umetne inteligence?

Zelo malo verjetno. Vsaj glede na dosedanje prispevke razvoja sodobne tehnologije k rasti produktivnosti. Uvajanje mikroprocesorjev in informacijsko komunikacijske tehnologije (IKT) je v zadnjih štirih desetletjih imelo enormen vpliv na naša življenja – od računalnikov, pametnih telefonov do interneta stvari. Vendar ali je uvedba te tehnologije prinesla tudi porast produktivnosti?

Ne bistveno. Če pogledate podatke o rasti produktivnosti za ZDA, lahko vidite visok porast stopnje produktivnosti v 1920-ih letih zaradi elektrifikacije ter v 1950 in 1960-ih letih zaradi uvedbe kuhinjskih pripomočkov in motorizacije transporta, nato pa pride do velikega upada v obdobju med začetkom 1970-ih in sredino 1990-ih. Uvedba računalnikov očitno ni imela vpliva na porast produktivnost. Do te je prišlo šele v deseletju med 1995 in 2009, predvsem zaradi interneta. Vendar je bil ta učinek manjši od denimo uvedbe pralnih in pomivalnih strojev in se je zelo hitro izpel, rast produktivnosti pa je spet upadla na le okrog 1% na letni ravni.

Payoffs from new ideas can be a long time coming.

Vir: BLS

To razočaranje nad mizernim vplivom sodobne tehnologije na rast produktivnosti je Roberta Solowa, ki je dobil Nobelovo nagrado za razvoj modela eksogene gospodarske rasti, privedlo do izjave, da »računalnike lahko vidimo vsepovsod, le v rasti produktivnosti ne«.

S tem smo pri vprašanju potencialne uporabnosti sistemov UI in njenem vplivu na našo večjo produktivnost. Danes govorimo o izbruhu popularne uporabe t.i. chatbotov, računalniških programov, ki temeljijo na generativni UI in so sposobni z nami vršiti komunikacijo ter za nas opraviti določena opravila. Nedvomno je uporabnost teh sistemov UI velika. Denimo pri identifikaciji vzorcev v velikih podatkih, denimo v obnašanju posameznikov (za namene trženja) ali v simptomih bolezni (za lažje oblikovanje diagnoze). Potem uporaba v zabavni industriji, kjer lahko UI pomaga denimo pri rekombiniranju besed v verze ali komponiranju glasbe, ali vzorcev v nove grafične podobe. Pa pomoč pri prevajanju in pomoč pri programiranju.

Toda ali lahko UI pomaga pri pisanju znanstvenega članka? Lahko UI razvije zdravilo za raka, Alzheimerja itd.? Lahko UI pomaga pri tehnoloških inovacijah glede ključnih zadev (energija, klimatske spremembe, tehnološke rešitve)? Ne more, ker sistemi UI na osnovi podobnosti zgolj iščejo vzorce v veliki količini informacij. Vendar UI ni kreativna, pač pa zgolj rekombinira znana dejstva, ne more pa najti novih razlag ali oblikovati novih teorij. Hkrati pa lahko vodi v psevdoznanost, ker temelji na večinskih razlagah, ali v popopolno zavajanje, ker tendira k izmišljevanju novih dejstev. Takšna je moja izkušnja na preizkusu ChatGPT za oblikovanje pregleda znanstvene literature – niti en vir, ki ga je program navedel, ni bil resničen.

Bolj kot obet za povečanje stopnje produktivnosti jaz neregulirano uporabo sistemov umetne inteligence vidim kot potencialno veliko nevarnost za razvoj družbe in demokracije. Denimo, algoritmi umetne inteligence se masovno uporabljajo pri analizi osebnih podatkov uporabnikov interneta in socialnih medijev ter se tudi uporabljajo za zavestno manipuliranje fokusnih skupin. Morda najbolj znan je primer Cambridge Analitice v manipulaciji predsedniških volitev leta 2015 v ZDA. Mnoštva še nerazkritih primerov manipuliranja ne poznamo, vendar se široko uporabljajo tako v trženju kot dnevnih političnih in kampanjskih predvolilnih manipulacijah javnega mnenja.

Nato se spomnite virusa Stuxnet, s katerim so Američani okužili operacijski sistem v iranskem omrežju, ki je krmililo njihov jedrski program. Ta samoučeči se virus je iranskim operaterjem pošiljal napačne informacije in omogočil, da je prišlo do “nesreče” v sistemu in delnega uničenja jedrskega programa. Cele države lahko zastanejo ali se spremenijo v kaos, če nekdo tak pametni virus namesti v civilno infrastrukturo.

Problematična je uporaba UI v procesih nadzora prebivalstva prek uporabe osebnih podatkov, historiata posameznikov in sistemov prepoznavanja obraza za spremljanje in nadziranje prebivalstva ter mehansko ukrepanje, kot je denimo kitajski »social scoring«. Denimo, da boste prečkali cesto mimo prehoda za pešce, se potikali na »napačnih« spletnih straneh ali všečkali »napačne« besedne zveze, lahko zberete kritično število negativnih točk, zaradi katerih boste imeli težave pri pridobivanju kredita ipd.

Nenazadnje, ker gre za odprtokodne programe, obstaja velika nevarnost zlorab. Kot je denimo »treniranje« programa, da postane destruktiven. Zadnji tak primer izpred enega tedna je ChaosGPT. Ali programa, ki tako filtrira informacije, da vas vodi v depresije ali destruktivnost.

Zato razvoj generativne UI sproža preplah med znanstveniki. Tretjina vprašanih v anketi univerze Stanford je izrazila strah pred nevarnostjo sistemov UI. Elon Musk in Steve Wozniak sta bila med 1.300 podpisniki odprtega pisma prejšnji mesec, ki poziva k šestmesečni prepovedi ustvarjanja zmogljivejših različic UI.

Namesto o obetu za dvig produktivnosti bi jaz v zvezi z UI raje govoril o urgentnosti regulacije razvoja in uporabe sistemov UI.

_________

* Izvorno objavljeno v Dnevniku

%d bloggers like this: