Skupina avtorjev (iz Harvarda, Pampeu Fabre, Santa Fe inštituta itd.) je objavila zelo zanimiv članek Large-Language Models as a Cognitive Virus, v katerem širjenje velikih jezikovnih modelov primerjajo z virusno dinamiko. Uporaba UI se prenaša med posamezniki, organizacijami in institucijami, postopoma postaja družbena norma ter se vgrajuje v vsakodnevne miselne procese. »Virus« pri tem ni nujno sama tehnologija, temveč način njene uporabe, ki se širi skozi družbo, spreminja kognitivne navade uporabnikov in ustvarja pogoje za nadaljnjo rast njihove odvisnosti od UI.

Avtorji razlikujejo med ljudmi, ki UI ne uporabljajo oziroma jo uporabljajo le občasno, avtonomnimi uporabniki, ki ob pomoči UI še vedno sami berejo, pišejo, preverjajo in razmišljajo, ter odvisnimi uporabniki, pri katerih UI postopoma nadomesti ključne miselne operacije. Bistvena ločnica zato ni med uporabo in neuporabo UI, temveč med UI kot dopolnilom človeškega mišljenja in UI kot njegovim nadomestkom.

Matematični model pokaže, da prehod v odvisnost ni nujno postopen. Ko uporaba UI preseže kritično mejo, lahko pride do nenadnega in samookrepitvenega padca kognitivne avtonomije: več ljudi ko razmišljanje prenese na modele, manj je družbenega okolja, v katerem se samostojno mišljenje še vadi in nagrajuje. Slabitev teh sposobnosti nato poveča koristnost UI in dodatno okrepi odvisnost od nje. Ko družba enkrat prestopi točko preloma, zgolj vrnitev uporabe na prejšnjo raven ne zadostuje več, saj nastopi tehnološka in kognitivna zaklenjenost.

Rešitev ni prepoved UI, ampak »kognitivna imunizacija«: ohranjanje samostojnega reševanja problemov, pisanja, preverjanja virov, kritične razprave in obdobij dela brez pomoči modelov. UI lahko krepi človekove sposobnosti, če deluje kot mentor, sogovornik ali intelektualni nasprotnik. Če pa uporabniku sistematično prihrani sam proces razmišljanja, lahko izboljšanje trenutnega rezultata prikrije zmanjševanje sposobnosti, da bi enako nalogo pozneje opravil samostojno.

Problem UI torej ni predvsem v tem, da bi stroji postali preveč inteligentni, ampak v tem, da lahko ljudje zaradi njihove uporabe postajamo manj sposobni samostojnega razmišljanja. Največja nevarnost ni napačen odgovor modela. Napačne odgovore so ljudje vedno dobivali tudi od učiteljev, medijev, politikov in strokovnjakov. Resnična nevarnost nastopi, ko izgubimo znanje, potrpežljivost in intelektualno samozavest, potrebne za to, da bi odgovor sploh še preverili, mu ugovarjali ali oblikovali svojo razlago.

To je še posebej nevarno v izobraževanju. Študent, ki s pomočjo UI napiše brezhiben esej, vendar ne zna sam oblikovati argumenta, ni postal bolj produktiven, ampak je zgolj oddal izdelek, katerega nastanka ne razume. Če takšna praksa postane norma, bomo ustvarili generacijo z navidezno visoko produktivnostjo, vendar vse manjšo sposobnostjo samostojne presoje. UI nam ne bo odvzela mišljenja na silo. Predali ji ga bomo sami – v zameno za udobje, hitrost in iluzijo kompetentnosti.

In tega slednjega je, ob nevarnosti, da bodo aplikacije UI postale avtonomne in prevzele nadzor nad našo fizično infrastrukturo, mene po človeški plati še najbolj strah. Da bomo glede znanja kot družba degradirali, ker se večini ne bo dalo več razmišljati. Da bo na eno strani elita, ki bo gojila kulturo branja in učenja, na drugi strani pa velika večina poneumljenih ljudi.

… no, ko enkrat zastaviš problem na tak način, se vprašaš, ali nismo že tam. Zelo dolgo časa. In to brez umetne inteligence.