Študija psihologov z MIT in Cornell, objavljena pred dvema tednoma v reviji Science, ugotavlja, da so jezikovni roboti na osnovi umetne inteligence (UI) lahko zelo učinkoviti pri spodkopavanju vere ljudi v teorije zarote. Eksperiment je bil zasnovan tako, da so ljudi, ki so trdno verjeli v neko teorijo zarote, soočili s kondenziranim paketom nasprotnih informacij, ki jih je pripravil jezikovni UI robot, ki so mu dali nalogo, da “močno ovrže” teorijo zarote. V povprečju naj bi ljudje za eno tretjino omilili svoje prejšnje prepričanje glede teorije zarote, in ta učinek naj bi bil trajen.

Do sem vse lepo in prav. Toda, če so jezikovni UI roboti tako uspešni pri izpodbijanju  verjetja v teorije zarote, so lahko zelo uspešni tudi v nasprotno smer. Torej jih lahko uporabijo v centrih moči (vladne agencije, bogataši z lastnimi podatkovnimi centri in socialnimi omrežji), da lansirajo ciljane manipulirane informacije in ljudi prepričajo v karkoli, tudi v teorije zarote. Torej če jezikovni UI roboti lahko manipulirajo prepričanja ljudi v pozitivno smer, jo lahko tudi v negativno (iz vidika dejstvene resničnosti).

Robert Wright, jeziskoslovec in pisatelj, ki se s problemom uporabe jezikovnih UI robotov že dlje časa ukvarja (spodaj je njegov povzetek), pravi, da vseeno obstaja kanček upanja v tej nevarnosti zlorabe teh UI robotov. Sklicuje se na nedavno študijo v reviji American Political Science Review, v kateri sta raziskovalca uporabila GPT-3, da bi preizkusila priljubljeno teorijo, da bo izpostavljanje nekoga informacijam, ki so v nasprotju z njihovimi trdnimi prepričanji, verjetno imelo nasprotni učinek in jih prisililo, da še ojačajo svoje verjetje. Pokazala sta, da “milo izpodbijanje” verjetij posameznikov s paketi umetno generiranih informacij vpliva na omilitev predhodnih verjetij posameznikov. Ko pa postanejo jezikovni UI roboti tečni z “močnim izpodbijanjem” z informacijami, ki močno odstopajo od verjetij posameznikov, ima lahko to nasproten učinek in posamezniki še ojačajo svoja predhodna verjetja.

Torej tudi UI roboti bodo imeli težave skonvertirati hard core janšiste v zmerne desničarje…

Nadaljujte z branjem→