Umerno inteligenco lahko uporabijo za slabe namene: za indentifikacijo civilnih ciljev za vojaške namene, denimo ciljanje iranske dekliške šole Minab. Šlo je zas odelovanje tehnoloških podjetij Paalantir in Anthropic s Pentagonom.
Lahko pa umetno inteligenco uporabijo za dobre namene: za odkrivanje bioloških mehanizmov bolezni, denimo raka. Tokrat je bil Anthropic na pozitivni strani zgodovine.
Zakaj evropske stranke politične sredine izgubljajo podporo, skrajna desnica pa se krepi? Yanis Varoufakis v prispevku za Al Jazeero odgovarja, da razlog ni predvsem v slabih volilnih kampanjah ali nesposobnosti posameznih voditeljev, temveč v gospodarski politiki, ki jo je sredina desetletja predstavljala kot edino razumno možnost. Padec podpore nemškemu kanclerju Friedrichu Merzu in njegovi CDU je po njegovem simptom globljega procesa: razpadanja podobe sredinskih politikov kot zmernih in kompetentnih upravljavcev. Za umirjenim nastopom in tehnokratskim besednjakom se je skrivala ideološka nepopustljivost, katere posledice so stagnacija, deindustrializacija in razkroj socialne varnosti. Ko teh posledic ni več mogoče prikriti, izgine tudi prepričljivost politične sredine.
Vzpon Alternative za Nemčijo zato po Varoufakisu ni posledica nenadnega množičnega spreobrnjenja Nemcev k skrajno desnim idejam. Njeno podporo je povečala dolgotrajna politika varčevanja, zaradi katere se vse več ljudi boji izgube družbenega položaja in zdrsa v revščino. Skrajna desnica ta strah prevaja v obljubo vrnitve v domnevno zlato preteklost, pri čemer odgovornost za sedanje težave pripisuje priseljencem in drugim manjšinam. Podoben proces prepoznava v Franciji. Emmanuel Macron je obljubljal gospodarski preporod, vendar je po Varoufakisovi presoji vztrajal znotraj institucionalnega okvira monetarne unije, ki takšne obljube brez ustrezne politične in demokratične povezave onemogoča. Davčne ugodnosti najbogatejšim in zvišanje upokojitvene starosti ob naraščajočih življenjskih stiskah so dodatno spodkopali njegovo legitimnost ter odprli prostor skrajni desnici.
Kaj bi se zgodilo, če bi ustvarili umetno inteligenco, ki bi znala razvijati naslednjo generacijo umetne inteligence bolje od najboljših človeških raziskovalcev? Njeni nasledniki bi lahko bili še sposobnejši in bi zato še učinkoviteje ustvarjali nove, zmogljivejše sisteme. Napredek bi začel pospeševati samega sebe: boljša UI bi razvijala še boljšo UI. Ta hipotetični prehod imenujemo tehnološka singularnost. Njegovo bistvo je, da tempo razvoja ne bi bil več omejen predvsem s hitrostjo človeškega razmišljanja in raziskovanja. Inteligenca, ki smo jo ustvarili, bi postala glavni motor nadaljnjega tehnološkega napredka. Matematik I. J. Good je takšno povratno zanko že leta 1965 poimenoval »eksplozija inteligence«. Ali in kako hitro bi se lahko razvila, ostaja odprto vprašanje.
Beseda singularnost je izposojena iz matematike in fizike, kjer označuje posebno točko, v kateri običajni matematični opis odpove: enačbe denimo napovedujejo neskončne vrednosti, zato z njimi dogajanja ne moremo več ustrezno pojasniti. Na področju UI jo uporabljamo kot prispodobo za zgodovinski prelom: razvoj bi lahko postal tako hiter, njegove posledice pa tako globoke, da prihodnosti ne bi več mogli zanesljivo napovedovati iz dosedanjih izkušenj. Gre za hipotezo, ne za dokazano neizogibnost, in ne pomeni nujno, da bi stroji pridobili zavest. Toda že sama možnost takšnega prehoda odpira zelo konkretno vprašanje: ali bomo ohranili sposobnost usmerjanja tehnologije, ko bo ta sposobna razvijati sisteme, zmogljivejše od nas? Robert Wright v eseju The Singularity is Clear, prvem delu štiridelne serije, zagovarja tezo, da lahko kljub negotovosti glede prihodnjih izumov ključne politične izbire prepoznamo že danes in zato nanje še vedno vplivamo.
The Judge wanted to know why European elites are constantly promoting the idea that war with Russia is likely. My take is that European leaders have long argued that Putin is an imperialist bent on conquering all of Ukraine and making it part of a greater Russia, and then attacking Eastern Europe. I see no evidence that Putin intends to do this, or that Russia has the capability to do it, but European elites believe otherwise. Very importantly, they recognize that Ukraine is faltering in the war and believe that Russia is likely to triumph, which means their worst nightmare is about to come true. In their view, Russia is on the march and NATO will have to stop it—which effectively means it is time to get ready for World War III.I also emphasized that European leaders talk about the danger of war with Russia, because they think that illusionary threat might get President Trump to remain firmly committed to NATO and the defense of Europe. But even if that fails, threat inflation will hopefully persuade European publics to spend the enormous sums needed to build up their countries’ defenses.
The Judge and I also talked about the trouble Trump is having bringing an end to both the Iran war and the war between the Houthis and Saudi Arabia. I argued that he is in deep trouble and that the situation is likely to become even more difficult. I also made the case that Trump should have stuck with the Memorandum of Understanding he signed with Iran on June 17, 2026. It was a bad deal for the United States, but ending the war then would have been far better than allowing it to continue in the hope that some magical way of defeating Iran might materialize.
Vojna med ZDA in Iranom po oceni Trite Parsija, izvršnega podpredsednika Quincy Institute for Responsible Statecraft, prehaja iz nadzorovanega stopnjevanja v nevarnost širšega konflikta, ki ga nobena stran ne bo več mogla obvladovati. Čeprav Katar, Pakistan, Oman in druge regionalne države intenzivno iščejo diplomatske rešitve, Parsi na ameriški strani ne zaznava pripravljenosti za resna pogajanja. Washington naj bi bil prepričan, da želi Teheran predvsem politično uničiti Trumpovo predsedovanje, iransko vodstvo pa po njegovih besedah Trumpu ne zaupa in zato ni pripravljeno ponuditi nepovratnih koncesij za dogovor, ki bi ga ameriški predsednik lahko hitro prekršil. Predhodno dogovorjeni memorandum o soglasju dodatno razdvaja strani: ameriška administracija ga zavrača, Iran pa pri njem vztraja kot izhodišču pogajanj, čeprav dopušča drugačen končni dogovor. Parsi v tej razliki vidi omejeno diplomatsko možnost, vendar opozarja, da bi prenagljena in neuspešna pogajanja lahko celo pospešila novo vojaško zaostritev.
Bine Kordež
Pred dnevi smo lahko na tem blogu brali članek na temo stroškov migrantov, ki povzema objave in izračune Tomasa Pueye iz Francije. Poudarek objav, kot jih je povzel Jože, je v dokaj visokih neto fiskalnih stroških migrantov, ki prihajajo iz manj razvitih dežel. Da torej te osebe koristijo več finančnih ugodnosti kot pa plačajo davkov (vsaj tako lahko razumemo). Objave temeljijo na podatkih nekaterih zahodnih držav, kjer te vidike podrobneje spremljajo in prebrali smo lahko, da npr. Somalijec stane državo kar 23 tisoč eur letno, tudi Jugoslovan 8 tisoč eur, pozitivni pa je seveda prispevek migrantov iz razvitejših držav, na primer Nemčije, ZDA ali Japonske, ki prispevajo kot prejmejo.
Kaj točno izračuni zajemajo, ni podrobneje razloženo. A objave bralcu nekako oblikujejo razumevanje, da so migranti iz Afrike ali Azije praviloma samo neto strošek za države sprejemnice. In to razumljivo potem oblikuje tudi odpor do sprejemanja migrantov. Vemo, da države sicer marsikdaj namenjajo precej sredstev za življenje in socialno varnost teh ljudi, a na drugi strani jih sprejemamo predvsem zaradi gospodarskih potreb. Ker nam opravljajo nujna in praviloma slabo plačana dela, ki jih državljani posameznih držav niso več pripravljeni opravljati. Ali je v teh izračunih zajet tudi ta vidik, ni pojasnjeno – preberemo samo, da Somalijec državo sprejemnico stane 23 tisoč eur letno.
Ali lahko dolar obdrži status globalne rezervne valute in katera valuta bi ga lahko nasledila? Razprave o dedolarizaciji se pogosto osredotočajo na zmanjševanje dolarskih rezerv centralnih bank in uporabo drugih valut v mednarodni trgovini, pri tem pa spregledajo, da lahko zasebni vlagatelji istočasno povečujejo naložbe v ameriške delnice in druge dolarske instrumente. Prav to razlikovanje je izhodišče članka Adama Toozea After the dollar as reserve currency, the (profit) dollar as a “portfolio currency”: za razumevanje prihodnosti dolarja moramo najprej razumeti, kako se spreminjajo temelji njegove mednarodne moči. Po Toozeu predstava, da to moč zagotavlja predvsem kopičenje rezerv centralnih bank, opisuje zlasti obdobje med začetkom tega stoletja in približno letom 2015. Danes postaja pomembnejša njegova vloga investicijske valute, prek katere zasebni vlagatelji dostopajo do ameriških finančnih trgov in pričakovanih donosov.
Obsežno kopičenje deviznih rezerv v obdobju 2000–2015 je bilo po Toozeu zgodovinska posebnost, povezana z odzivi na hitro globalizacijo. Rastoča gospodarstva so si ustvarjala zaščito pred finančnimi pretresi, azijske izvoznice in Kitajska so upravljale izvozne presežke, naftne države pa nalagale prihodke od izvoza energentov. Velik del teh sredstev je končal v ameriških državnih obveznicah. Takšen način delovanja ni zaznamoval celotnega povojnega dolarskega sistema, prav tako pa ni ustrezen splošen opis nekdanje vloge britanskega funta. Kot ponazarja Brad Setser s primerjavo svetovnih deviznih rezerv in obsega ameriških državnih obveznic, se je okoli leta 2015 dotedanja povezava prelomila: ponudba ameriškega državnega dolga je še naprej rasla, medtem ko se je kopičenje uradnih rezerv močno upočasnilo. Iz tega zgodovinsko posebnega obdobja zato ni smiselno izpeljevati splošnega pravila, kako mora delovati vodilna svetovna valuta.
Teppo Felin in Matthias Holweg sta v članku »Theory Is All You Need: AI, Human Cognition, and Causal Reasoning« postavila pomembno vprašanje, ali umetna inteligenca res ustvarja novo znanje ali predvsem preoblikuje znanje, ki smo ga že ustvarili ljudje. Njuna osrednja teza je, da uspešno napovedovanje na podlagi obstoječih podatkov še ne pomeni sposobnosti oblikovanja novih vzročnih razlag sveta. Veliki jezikovni modeli so lahko izjemno učinkoviti pri obdelavi informacij, vendar po njunem prepričanju nimajo istega mehanizma za ustvarjanje znanstvenih in tehnoloških prebojev kot ljudje. Človeška posebnost naj bi bila sposobnost zamisliti si nekaj, česar obstoječi podatki še ne potrjujejo, nato pa z usmerjenim eksperimentiranjem ustvariti novo znanje. Članek razvija teoretični argument, podprt z zgodovinskimi primeri, zato ga je treba razumeti kot razpravo o naravi mišljenja in odkrivanja, ne kot dokončen eksperimentalni dokaz meja UI.
Izhodišče njune kritike je dolgoletno enačenje človeškega uma z računalnikom, ki sprejema informacije, jih obdeluje in proizvaja rezultate. Razliko ponazorita z učenjem jezika: veliki jezikovni modeli se učijo iz velikanskih zbirk besedil, otrok pa jezik osvoji iz neprimerno manjšega obsega pogosto nepopolnih in nesistematičnih pogovorov. Kljub temu lahko oblikuje nove stavke in jezik uporablja za raziskovanje okolja, izražanje namenov in delovanje. Felin in Holweg v tem vidita omejitev razlage, po kateri je človeško mišljenje predvsem statistično učenje iz vhodnih podatkov. Po njuni interpretaciji ljudje dejavno oblikujejo predstave o svetu, ki presegajo informacije, s katerimi so bili neposredno seznanjeni. Zato večja količina učnih podatkov in boljši rezultati modela pri posameznih nalogah sama po sebi še ne dokazujejo, da stroj razmišlja na enak način kot človek.
Pri ustvarjalnosti je zato treba razlikovati med novo kombinacijo obstoječih vsebin in nastankom novega znanja. Jezikovni model lahko ustvari besedilo, ki ga še nihče ni napisal, poveže različne načine izražanja in ponudi številne različice odgovora. Felin in Holweg to označujeta kot kombinatorno oziroma kompozicijsko novost, ki je ne enačita z odkritjem nove vzročne zakonitosti. Modele opisujeta kot nekakšno posplošeno tehnologijo prevajanja: isto vsebino lahko izrazijo drugače, jo povzamejo, razširijo ali predstavijo v drugem formatu. Njuno stališče ni, da modeli zgolj dobesedno kopirajo besedila, temveč da tudi zelo izvirna formulacija še ne zagotavlja novega spoznanja. Tekoč in prepričljiv odgovor lahko zato ustvari vtis razumevanja, ki presega dejansko sposobnost preverjanja, zakaj neka trditev drži.
Intervju Dwarkesha Patela z Noamom Brownom, enim ključnih raziskovalcev OpenAI na področju modelov sklepanja, prinaša precej bolj radikalen pogled na prihodnost umetne inteligence, kot ga ponuja običajna razprava o zmogljivejših jezikovnih modelih. Osrednja novost niso več posamezni modeli, temveč množice med seboj povezanih agentov, ki lahko vzporedno razmišljajo, si razdeljujejo delo, preverjajo ugotovitve drugih in spontano oblikujejo lastne organizacijske strukture. Povod za pogovor je eksperiment, v katerem naj bi 10.000 agentov v 88 urah porabilo 130 milijard žetonov pri reševanju problema Navier–Stokes – kar Patel primerja s približno 4.000 leti neprekinjenega človeškega intelektualnega dela.
Brown pojasnjuje, da so roji agentov predvsem način vzporednega povečevanja računske moči med sklepanjem. Daljši čas razmišljanja praviloma izboljšuje rezultate modela, vendar serijsko razmišljanje hitro naleti na časovno omejitev. Namesto da bi en agent o problemu razmišljal več mesecev ali let, se delo razdeli med veliko število agentov. Učinek sicer ni linearen: štirje agenti lahko nekatere naloge opravijo približno dvakrat hitreje, 16 agentov pa prinese nadaljnje, vendar nekoliko manj učinkovito pospeševanje. Najprimernejše so dobro razčlenljive naloge, kot so matematika, programiranje in spletno raziskovanje, medtem ko je ustvarjanje koherentnega romana veliko manj primerno za množično vzporedno delo.
Pomembna inovacija sistema je, da agenti niso omejeni na tog hierarhični model, v katerem centralni koordinator razdeli naloge podrejenim izvajalcem. OpenAI jim omogoči predvsem nekaj osnovnih komunikacijskih orodij, nato pa agenti sami ugotovijo, kako naj se organizirajo. Drug drugega neposredno kontaktirajo, prosijo za pomoč, primerjajo različne rešitve, razpravljajo o napakah in drugim agentom sporočajo spremembe svojih ugotovitev. Brown njihovo sodelovanje primerja s človeško komunikacijo prek Slacka, vendar lahko poteka deset- ali petnajstkrat hitreje, neprekinjeno in med poljubnim številom kopij istega modela.
You must be logged in to post a comment.