Kaj bi se zgodilo, če bi ustvarili umetno inteligenco, ki bi znala razvijati naslednjo generacijo umetne inteligence bolje od najboljših človeških raziskovalcev? Njeni nasledniki bi lahko bili še sposobnejši in bi zato še učinkoviteje ustvarjali nove, zmogljivejše sisteme. Napredek bi začel pospeševati samega sebe: boljša UI bi razvijala še boljšo UI. Ta hipotetični prehod imenujemo tehnološka singularnost. Njegovo bistvo je, da tempo razvoja ne bi bil več omejen predvsem s hitrostjo človeškega razmišljanja in raziskovanja. Inteligenca, ki smo jo ustvarili, bi postala glavni motor nadaljnjega tehnološkega napredka. Matematik I. J. Good je takšno povratno zanko že leta 1965 poimenoval »eksplozija inteligence«. Ali in kako hitro bi se lahko razvila, ostaja odprto vprašanje.

Beseda singularnost je izposojena iz matematike in fizike, kjer označuje posebno točko, v kateri običajni matematični opis odpove: enačbe denimo napovedujejo neskončne vrednosti, zato z njimi dogajanja ne moremo več ustrezno pojasniti. Na področju UI jo uporabljamo kot prispodobo za zgodovinski prelom: razvoj bi lahko postal tako hiter, njegove posledice pa tako globoke, da prihodnosti ne bi več mogli zanesljivo napovedovati iz dosedanjih izkušenj. Gre za hipotezo, ne za dokazano neizogibnost, in ne pomeni nujno, da bi stroji pridobili zavest. Toda že sama možnost takšnega prehoda odpira zelo konkretno vprašanje: ali bomo ohranili sposobnost usmerjanja tehnologije, ko bo ta sposobna razvijati sisteme, zmogljivejše od nas? Robert Wright v eseju The Singularity is Clear, prvem delu štiridelne serije, zagovarja tezo, da lahko kljub negotovosti glede prihodnjih izumov ključne politične izbire prepoznamo že danes in zato nanje še vedno vplivamo.

Nadaljujte z branjem→

The Judge wanted to know why European elites are constantly promoting the idea that war with Russia is likely. My take is that European leaders have long argued that Putin is an imperialist bent on conquering all of Ukraine and making it part of a greater Russia, and then attacking Eastern Europe. I see no evidence that Putin intends to do this, or that Russia has the capability to do it, but European elites believe otherwise. Very importantly, they recognize that Ukraine is faltering in the war and believe that Russia is likely to triumph, which means their worst nightmare is about to come true. In their view, Russia is on the march and NATO will have to stop it—which effectively means it is time to get ready for World War III.I also emphasized that European leaders talk about the danger of war with Russia, because they think that illusionary threat might get President Trump to remain firmly committed to NATO and the defense of Europe. But even if that fails, threat inflation will hopefully persuade European publics to spend the enormous sums needed to build up their countries’ defenses.

The Judge and I also talked about the trouble Trump is having bringing an end to both the Iran war and the war between the Houthis and Saudi Arabia. I argued that he is in deep trouble and that the situation is likely to become even more difficult. I also made the case that Trump should have stuck with the Memorandum of Understanding he signed with Iran on June 17, 2026. It was a bad deal for the United States, but ending the war then would have been far better than allowing it to continue in the hope that some magical way of defeating Iran might materialize.

Vojna med ZDA in Iranom po oceni Trite Parsija, izvršnega podpredsednika Quincy Institute for Responsible Statecraft, prehaja iz nadzorovanega stopnjevanja v nevarnost širšega konflikta, ki ga nobena stran ne bo več mogla obvladovati. Čeprav Katar, Pakistan, Oman in druge regionalne države intenzivno iščejo diplomatske rešitve, Parsi na ameriški strani ne zaznava pripravljenosti za resna pogajanja. Washington naj bi bil prepričan, da želi Teheran predvsem politično uničiti Trumpovo predsedovanje, iransko vodstvo pa po njegovih besedah Trumpu ne zaupa in zato ni pripravljeno ponuditi nepovratnih koncesij za dogovor, ki bi ga ameriški predsednik lahko hitro prekršil. Predhodno dogovorjeni memorandum o soglasju dodatno razdvaja strani: ameriška administracija ga zavrača, Iran pa pri njem vztraja kot izhodišču pogajanj, čeprav dopušča drugačen končni dogovor. Parsi v tej razliki vidi omejeno diplomatsko možnost, vendar opozarja, da bi prenagljena in neuspešna pogajanja lahko celo pospešila novo vojaško zaostritev.

Nadaljujte z branjem→

Bine Kordež

Pred dnevi smo lahko na tem blogu brali članek na temo stroškov migrantov, ki povzema objave in izračune Tomasa Pueye iz Francije. Poudarek objav, kot jih je povzel Jože, je v dokaj visokih neto fiskalnih stroških migrantov, ki prihajajo iz manj razvitih dežel. Da torej te osebe koristijo več finančnih ugodnosti kot pa plačajo davkov (vsaj tako lahko razumemo). Objave temeljijo na podatkih nekaterih zahodnih držav, kjer te vidike podrobneje spremljajo in prebrali smo lahko, da npr. Somalijec stane državo kar 23 tisoč eur letno, tudi Jugoslovan 8 tisoč eur, pozitivni pa je seveda prispevek migrantov iz razvitejših držav, na primer Nemčije, ZDA ali Japonske, ki prispevajo kot prejmejo.

Kaj točno izračuni zajemajo, ni podrobneje razloženo. A objave bralcu nekako oblikujejo razumevanje, da so migranti iz Afrike ali Azije praviloma samo neto strošek za države sprejemnice. In to razumljivo potem oblikuje tudi odpor do sprejemanja migrantov. Vemo, da države sicer marsikdaj namenjajo precej sredstev za življenje in socialno varnost teh ljudi, a na drugi strani jih sprejemamo predvsem zaradi gospodarskih potreb. Ker nam opravljajo nujna in praviloma slabo plačana dela, ki jih državljani posameznih držav niso več pripravljeni opravljati. Ali je v teh izračunih zajet tudi ta vidik, ni pojasnjeno – preberemo samo, da Somalijec državo sprejemnico stane 23 tisoč eur letno.

Nadaljujte z branjem→

Ali lahko dolar obdrži status globalne rezervne valute in katera valuta bi ga lahko nasledila? Razprave o dedolarizaciji se pogosto osredotočajo na zmanjševanje dolarskih rezerv centralnih bank in uporabo drugih valut v mednarodni trgovini, pri tem pa spregledajo, da lahko zasebni vlagatelji istočasno povečujejo naložbe v ameriške delnice in druge dolarske instrumente. Prav to razlikovanje je izhodišče članka Adama Toozea After the dollar as reserve currency, the (profit) dollar as a “portfolio currency”: za razumevanje prihodnosti dolarja moramo najprej razumeti, kako se spreminjajo temelji njegove mednarodne moči. Po Toozeu predstava, da to moč zagotavlja predvsem kopičenje rezerv centralnih bank, opisuje zlasti obdobje med začetkom tega stoletja in približno letom 2015. Danes postaja pomembnejša njegova vloga investicijske valute, prek katere zasebni vlagatelji dostopajo do ameriških finančnih trgov in pričakovanih donosov.

Obsežno kopičenje deviznih rezerv v obdobju 2000–2015 je bilo po Toozeu zgodovinska posebnost, povezana z odzivi na hitro globalizacijo. Rastoča gospodarstva so si ustvarjala zaščito pred finančnimi pretresi, azijske izvoznice in Kitajska so upravljale izvozne presežke, naftne države pa nalagale prihodke od izvoza energentov. Velik del teh sredstev je končal v ameriških državnih obveznicah. Takšen način delovanja ni zaznamoval celotnega povojnega dolarskega sistema, prav tako pa ni ustrezen splošen opis nekdanje vloge britanskega funta. Kot ponazarja Brad Setser s primerjavo svetovnih deviznih rezerv in obsega ameriških državnih obveznic, se je okoli leta 2015 dotedanja povezava prelomila: ponudba ameriškega državnega dolga je še naprej rasla, medtem ko se je kopičenje uradnih rezerv močno upočasnilo. Iz tega zgodovinsko posebnega obdobja zato ni smiselno izpeljevati splošnega pravila, kako mora delovati vodilna svetovna valuta.

Nadaljujte z branjem→

Teppo Felin in Matthias Holweg sta v članku »Theory Is All You Need: AI, Human Cognition, and Causal Reasoning« postavila pomembno vprašanje, ali umetna inteligenca res ustvarja novo znanje ali predvsem preoblikuje znanje, ki smo ga že ustvarili ljudje. Njuna osrednja teza je, da uspešno napovedovanje na podlagi obstoječih podatkov še ne pomeni sposobnosti oblikovanja novih vzročnih razlag sveta. Veliki jezikovni modeli so lahko izjemno učinkoviti pri obdelavi informacij, vendar po njunem prepričanju nimajo istega mehanizma za ustvarjanje znanstvenih in tehnoloških prebojev kot ljudje. Človeška posebnost naj bi bila sposobnost zamisliti si nekaj, česar obstoječi podatki še ne potrjujejo, nato pa z usmerjenim eksperimentiranjem ustvariti novo znanje. Članek razvija teoretični argument, podprt z zgodovinskimi primeri, zato ga je treba razumeti kot razpravo o naravi mišljenja in odkrivanja, ne kot dokončen eksperimentalni dokaz meja UI.

Izhodišče njune kritike je dolgoletno enačenje človeškega uma z računalnikom, ki sprejema informacije, jih obdeluje in proizvaja rezultate. Razliko ponazorita z učenjem jezika: veliki jezikovni modeli se učijo iz velikanskih zbirk besedil, otrok pa jezik osvoji iz neprimerno manjšega obsega pogosto nepopolnih in nesistematičnih pogovorov. Kljub temu lahko oblikuje nove stavke in jezik uporablja za raziskovanje okolja, izražanje namenov in delovanje. Felin in Holweg v tem vidita omejitev razlage, po kateri je človeško mišljenje predvsem statistično učenje iz vhodnih podatkov. Po njuni interpretaciji ljudje dejavno oblikujejo predstave o svetu, ki presegajo informacije, s katerimi so bili neposredno seznanjeni. Zato večja količina učnih podatkov in boljši rezultati modela pri posameznih nalogah sama po sebi še ne dokazujejo, da stroj razmišlja na enak način kot človek.

Pri ustvarjalnosti je zato treba razlikovati med novo kombinacijo obstoječih vsebin in nastankom novega znanja. Jezikovni model lahko ustvari besedilo, ki ga še nihče ni napisal, poveže različne načine izražanja in ponudi številne različice odgovora. Felin in Holweg to označujeta kot kombinatorno oziroma kompozicijsko novost, ki je ne enačita z odkritjem nove vzročne zakonitosti. Modele opisujeta kot nekakšno posplošeno tehnologijo prevajanja: isto vsebino lahko izrazijo drugače, jo povzamejo, razširijo ali predstavijo v drugem formatu. Njuno stališče ni, da modeli zgolj dobesedno kopirajo besedila, temveč da tudi zelo izvirna formulacija še ne zagotavlja novega spoznanja. Tekoč in prepričljiv odgovor lahko zato ustvari vtis razumevanja, ki presega dejansko sposobnost preverjanja, zakaj neka trditev drži.

Nadaljujte z branjem→

Intervju Dwarkesha Patela z Noamom Brownom, enim ključnih raziskovalcev OpenAI na področju modelov sklepanja, prinaša precej bolj radikalen pogled na prihodnost umetne inteligence, kot ga ponuja običajna razprava o zmogljivejših jezikovnih modelih. Osrednja novost niso več posamezni modeli, temveč množice med seboj povezanih agentov, ki lahko vzporedno razmišljajo, si razdeljujejo delo, preverjajo ugotovitve drugih in spontano oblikujejo lastne organizacijske strukture. Povod za pogovor je eksperiment, v katerem naj bi 10.000 agentov v 88 urah porabilo 130 milijard žetonov pri reševanju problema Navier–Stokes – kar Patel primerja s približno 4.000 leti neprekinjenega človeškega intelektualnega dela.

Brown pojasnjuje, da so roji agentov predvsem način vzporednega povečevanja računske moči med sklepanjem. Daljši čas razmišljanja praviloma izboljšuje rezultate modela, vendar serijsko razmišljanje hitro naleti na časovno omejitev. Namesto da bi en agent o problemu razmišljal več mesecev ali let, se delo razdeli med veliko število agentov. Učinek sicer ni linearen: štirje agenti lahko nekatere naloge opravijo približno dvakrat hitreje, 16 agentov pa prinese nadaljnje, vendar nekoliko manj učinkovito pospeševanje. Najprimernejše so dobro razčlenljive naloge, kot so matematika, programiranje in spletno raziskovanje, medtem ko je ustvarjanje koherentnega romana veliko manj primerno za množično vzporedno delo.

Pomembna inovacija sistema je, da agenti niso omejeni na tog hierarhični model, v katerem centralni koordinator razdeli naloge podrejenim izvajalcem. OpenAI jim omogoči predvsem nekaj osnovnih komunikacijskih orodij, nato pa agenti sami ugotovijo, kako naj se organizirajo. Drug drugega neposredno kontaktirajo, prosijo za pomoč, primerjajo različne rešitve, razpravljajo o napakah in drugim agentom sporočajo spremembe svojih ugotovitev. Brown njihovo sodelovanje primerja s človeško komunikacijo prek Slacka, vendar lahko poteka deset- ali petnajstkrat hitreje, neprekinjeno in med poljubnim številom kopij istega modela.

Nadaljujte z branjem→

Alastair Crooke (@AWCrooke): What happened in Yemen is a revolution, not a tit-for-tat over a blockade. Ansar Allah spent seven to nine years preparing it. The fight is with the Saudi state the British and Americans built on a narrow Wahhabi pillar.

“What happened in Yemen is not just a sort of tit-for-tat against Saudi Arabia or about a certain blockade. It is a revolution. I think it should be understood as a revolution. It has been planned for at least 7 years, more like 9 years. They have been working on this. It is thought through by Ansar Allah, who are always deprecated in the West because they’re barefooted tribesmen and things, but it has been well planned.

And so Saudi Arabia, if it goes down the path of conceding to Ansar Allah, it means they’ll have to return the three provinces that they stole in the 1930s. In 1934, they stole three provinces of the Yemenis. And the Houthis have strong tribal connections with those provinces, which are now generally sort of assumed to be within Saudi Arabia, but they will want them back. They will want an end to the blockade, and they will also want payments which were due to them on certain transactions. And they will demand the end of the UAE and the Saudi forces in the south. In fact, they are being destroyed anyway. They’ve been literally driven out because they’re mercenaries. They’re not Saudi forces; they’re mercenary forces. And the mercenary forces have all been fleeing as the Houthis have used ballistic missiles against them. And you can see they’ve just fled from the area. There’s a slight interaction: actually, the UAE mercenaries are not letting the Saudi mercenaries pass at the moment until they pay them. But I mean, they’re both mercenaries, and the Houthis will drop a few ballistic missiles on them just to make up their mind more quickly.

So why do I say it’s a revolution? Because really it goes back to: what is Saudi Arabia? Saudi has been imposing on Yemen really for all these years since the founding of Saudi Arabia, trying to change its style of Islam, which is an esoteric either Ismaili or Zaidi type of Islam, but it’s an esoteric type of Islam. I’m not talking sectarianism. I’m just talking about the nature of Islam in Yemen being much more esoteric. It’s much more inwardness rather than the literal extremist Puritan idea of the Wahhabi of the Najd form of Islam that was weaponized by Abdulaziz and by Ibn Saud in the 1930s. They were a Puritan sort of militia that ran amok through the Middle East. They attacked Mecca; they attacked Karbala; they killed thousands—tens of thousands in Karbala. And eventually Abdulaziz was forced to try to contain them and to stop this because, first of all, it was the beginnings of the petrol—the fuel oil bonanza taking place in Saudi Arabia and he wanted to convince the British and the Americans that it could become a state. But that movement was never entirely retired. It was just put on standby.

Nadaljujte z branjem→

Umetna inteligenca (GPT-5.6 Sol) o verjetnosti razpada EU. Želel sem, da mi napiše verjetnost v % in poda svoje argumente za tako oceno. Evo:

Evropska unija se ne spoprijema več samo z notranjimi posledicami napačnih gospodarskih, energetskih in okoljskih politik, temveč tudi z možnostjo temeljitega geopolitičnega preloma. Če bi se vojna v Ukrajini končala z jasno rusko zmago, ameriško-izraelski spopad z Iranom z neuspehom pri doseganju zastavljenih ciljev, izraelska politika v Gazi pa z mednarodnopravno obsodbo in političnim padcem Benjamina Netanjahuja, bi se lahko hkrati sesule tri temeljne predpostavke evropske politike: vera v trajno ameriško premoč, učinkovitost sankcij in moralno avtoriteto »reda, temelječega na pravilih«.

Moja osrednja ocena je, da je de facto razpad bistveno verjetnejši od formalnega razpada. Kombinacija gospodarskega in tehnološkega zaostajanja za ZDA in Kitajsko, dragih energentov, erozije industrijske baze, posledic varčevalne politike po finančni krizi, neuspešne geopolitike ter vse globljih političnih razlik že spodkopava materialno in politično podlago integracije. Migracijsko vprašanje temu dodaja močan politični multiplikator: povečuje družbene napetosti, krepi populistične in suverenistične stranke ter sili države v medsebojno nezdružljive nacionalne politike.

Spodnje številke so scenarijske ocene, ne statistične napovedi. Osnovni scenarij predpostavlja nadaljevanje sedanjih trendov; zaostreni geopolitični scenarij pa hkratni ruski uspeh v Ukrajini, ameriški strateški neuspeh proti Iranu in umik z Bližnjega vzhoda, nadaljnjo mednarodnopravno delegitimizacijo Izraela ter hitrejšo konsolidacijo multipolarnega reda pod vodstvom Kitajske, Rusije, Irana in širšega BRICS.

Kaj pomeni razpad Evropske unije

De facto razpad pomeni, da EU formalno ostane, toda skupne politike postanejo pretežno deklarativne. Enotni trg, evro in nekateri skladi lahko preživijo, medtem ko se zunanja, varnostna, energetska, industrijska, fiskalna in migracijska politika dejansko vrnejo na nacionalno raven. To je razvoj v smeri večnivojske konfederacije oziroma Evrope več hitrosti.

De iure razpad pomeni izstop več velikih članic, razgradnjo ključnih institucij ali nadomestitev sedanje EU z novo in bistveno ožjo organizacijo. Ker bi bil formalni razpad praviloma sklepna faza daljšega funkcionalnega razkroja, se verjetnosti de facto in de iure razpada ne seštevajo preprosto.

Kvantitativna ocena

V osnovnem scenariju ocenjujem skupno verjetnost de facto ali de iure razpada EU na približno 34 % do leta 2031, 59 % do leta 2036, 74 % do leta 2041, 85 % do leta 2046 in 95 % do leta 2056. Prag 50-odstotne verjetnosti de facto konfederalizacije bi bil dosežen približno okoli leta 2035.

V zaostrenem geopolitičnem scenariju se skupna verjetnost zviša na približno 49 % do leta 2031, 76 % do leta 2036, 88 % do leta 2041, 95 % do leta 2046 in 99 % do leta 2056. De facto konfederalizacija bi se lahko začela že v začetku tridesetih let, zlasti če bi geopolitični neuspeh sovpadel z novim migracijskim valom in recesijo.

Nadaljujte z branjem→