Ta teden je precej vznemirjenja povzročil odstop Geoffreya Hintona v Googlu in njegov svareči intervju v New York Timesu glede nevarnosti razvoja aplikacij z generativno umetno inteligenco (GPT). Hinton je boter sodobne GPT tehnologije (ima izjemen družinski (pra-pravnuk Booleovih) in znanstveni background (izjemno citirane članke na področju uporabe nevronskih mrež)). Pred desetletjem in pol je svoje podjetje, ki je baziralo na tehnologiji nevronskih mrež (sedaj znano kot GPT), prodal Googlu za 44 milijonov dolarjev in nato postal direktor v Googlu za razvoj aplikacij umetne inteligence (UI). Njegov varovanec, njegov nekdanji doktorski študent in soavtor Ilya Sutskever je Google zapustil že pred leti in postal glavni razvojnik pri OpenAI in nadzoroval gradnjo ChatGPT. Hinton naj bi Google zapustil zato, da bi lahko javno spregovoril o nevarnosti nenadzorovanega razvoja in uporabe alikacij UI.

Zdaj pa od trivie k bolj zanimivemu delu. Zakaj je Hinton danes za 180 stopinj zamenjal svoja stališča in javno spregovoril o nevarnosti aplikacij UI? Tukaj pride v igro moj najljubši non-fiction pisatelj Robert Wright (avtor “The Moral Animal“, “Nonzero: The Logic of Human Destiny“, “The Evolution of God” itd.), ki je pred štirimi desetletji intervjujal “takrat obskurnega” Hintona za svoj članek o umetni inteligenci za nek “obskurni” znanstveni časopis. Wright je šel prebrat svoj tedanji članek in nenadoma se mu je posvetilo, kar je pred štirimi desetletji pisal in mislil, da razume. V osnovi gre preprosto za to, ali algoritmi UI, naučeni na veliki količini tekstov, na osnovi zaporedja besed zgolj samodejno dopolnjujejo tekst, ko jim daste nekaj besed ali pa razumejo smisel stavka. Drugače rečeno, gre za razliko med “besedo” (kot kodo sestavljeno iz znakov) in “konceptom” (razumevanjem tega, kaj besede pomenijo). Se pravi, ali lahko algoritmi UI, ki temeljijo na nevronskih mrežah in interakcijah med različnimi informacijami, “razumejo” tudi nianse v besedah in s tem “razumejo” čustva.

In tukaj pride twist: programerji, ki so sprogramirali aplikacije UI, vanje niso mogli vprogramirati razumevanja besed in čustev, lahko so zgolj sprogramirali, da se na podlagi številnih paralelnih procesov “razmišljanja” (prek signalov v nevronskih mrežah, enako kot v človeških možganih)  algoritmi UI učijo. In če se ti algoritmi AI učijo kot človeški možgani, potem – hipotetično – zaradi velike količine informacij, ki jih imajo na voljo in ki jih lahko ekspresno obdelajo, lahko postanejo tudi bolj “pametni” od ljudi. Wright:

Nadaljujte z branjem→

Wolfgang Munchau je postavil edino logično vprašanje v zadevi Huawei. Problem najbrž ni v tehnološki dovršenosti Huaweia ali v tem, da bi kitajska komunistična partija prisluškovala italijanski mafiji ali Janezu iz Šentflorjana, pač pa v tem, da če gredo podatki prek 5G mreže na Kitajsko, do njih ne morejo Američani. Ameriške obveščevalne agencije pa seveda želijo obdržati monopol nad spremljanjem vseh elektronskih komunikacij.

Italian, German and Belgian police scored a huge success two days ago in their fight against the ’Ndrangheta, the Calabrian mafia organisation, which operates like a European corporation. We are not interested in police stories, but a snippet peaked our interest that has some relevance to a debate much more central to our reservation. It is about data security.

The German police said they had trouble locating the most senior members of the crime ring in the past because they could not locate them. The ’Ndrangheta used to be old-school. They did not use mobile phones, and preferred to drive hundreds of kilometres in their cars to meet up. The German end of the raid succeeded this time because police were able to locate the mobile phone of one of the main suspects. The interesting question for us is how did they do this?

Nadaljujte z branjem→

Wolfgang Munchau v Eurointelligence piše o tem, da je namera držav Evropske unije, da bi začasno zamrznjena sredstva Rusije trajno zaplenili in jih uporabili za povojno obnovo Ukrajine, pravno sporna in predstavlja nevaren precedens. Je v nasprotju z načeli pravne države, za katere se zavzema Evropska unija. Ko interesi geopolitike izrinejo pravo, smo na nevarnem teritoriju erozije zaupanja v pravno državo in mednarodne sporazume.

Moje mnenje je, da Rusija seveda mora plačati za vojno škodo, ki jo je, ki jo in ki jo še bo povzročila v Ukrajini. Vendar je najbolj smiselno, da – po doseženem mirovnem sporazumu – to vojno škodo plača na enak način kot Nemčija po drugi  svetovni vojni. Po prvi svetovni vojni so v Versailskem sporazumu Nemčiji naložili nevzdržno visoke reparacije, kar je – kot je takrat v posebni knjigi (The Economic Consequences of the Peace, 1919) ocenil najbolj lucidni ekonomist 20. stioletja John Maynard Keynes, ki je bil del britanske pogajalske skupine in iz nje protestno izstopil – kot nevzdržno katastrofo za Nemčijo. Zaradi teh reparacij je Nemčija kmalu zapadla v gospodarsko depresijo in hiperinflacijo, kar je v posledici omogočilo vzpon Hitlerja. Izučeni s to napako, so zavezniki po drugi svetovni vojni Nemčiji odpisali del vojne škode iz prve svetovne vojne, plačilo preostale škode in vojne škode, povzročene v drugi svetovni vojni, pa instrumentalizirali v obliki deleža prihodkov od nemškega izvoza. Drugače rečeno, del svojih letnih izvoznih prihodkov je Nemčija nato desetletja namenjala prizadetim državam kot poplačilo povzročene vojne škode. S tem so Nemčiji omogočili gospodarsko rast in jo motivirali k čim večji izvozni aktivnosti.

Smiselna rešitev bi na tej osnovi bila, da Rusija za poplačilo vojne škode, ki jo je povzročila v Ukrajini, nameni del svojih prihodkov od izvoza nafte in plina. Treba je oceniti škodo (lani do junija je bila s strani Svetovne banke in Evropske komisije ocenjena na 350 do 500 milijard dolarjev), določiti letno dinamiko poplačevanja te škode ter določiti znesek (denimo X dolarjev/sodček oziroma Y dolarjev / m3 plina) na izvožene količine energentov v zahodne države.

Nadaljujte z branjem→

Malce je sicer propagande v spodnjem tvitu, ampak tako približno izgleda sedanja situacija državam v razvoju: Kitajska je za mir, ZDA pa netijo vojne. Kajti mir za države v razvoju pomeni možnost trgovine, rasti in razvoja. Sodelovanje v ameriško-induciranih vojnah pomeni nazadovanje in mizerijo. Katero stran bodo izbrale, očitno ni več dilema.

China wants peace and the US wants wars — this is the situation now due to structural characteristics of the two economic systems. China wants peace because its economy is based on production, infrastructure and trade. Peace means Chinese trains and ships can move around freely importing and exporting goods. Peace means Chinese engineers can build bridges and dams. Peace means Alibaba can get customers from Syria and Iraq.

On the other hand, the US engine is running on dollar vaporware, which can be sustained only by a Ponzi scheme, which needs a continuous supply of buyers.

Peaceful and prosperous countries are not going to buy US debt. They are going to trade in local currencies. They are going to create trade blocs like BRICS. A peaceful and prosperous Middle East will start selling oil for Yuan. Saudis will use oil profits to build futuristic cities (Neom) rather than buy US weapons. Peaceful and prosperous countries will invest in colleges, R&D, manufacturing and technology. Soon they will be competing with US companies. Look at China over the last 40 years. What happens next in the world will depend on the intelligence of human beings.

Unfortunately, maintaining peace is 100x more difficult than starting wars.

Vir: Twitter

Ukrajina se s 35,000 vojaki, 200 zahodnimi tanki in 1,500 oklepnih vozil (oboji različnih porekel in različnih potreb glede streliva in vzdrževanja) ter brez letalske podpore ne zdi pripravljena na napovedovano kontraofenzivo. Po tej ofenzivi bo ostala brez še preostalih za vojno sposobnih moških in preostalega orožja. Vprašanje pa je, ali si to, da ne sproži samomorilske protiofenzive sploh lahko privošči. Po eni strani “zahodni sponzorji” zahtevajo “donos na svoje vložke”. Na drugi strani pa, če ne bo ofenzive, ji bo Rusija z raketami uničila preostale zaloge orožja. In tretjič, če ne sproži protiofenzive, se bo morala začeti pogajati, kajti nadaljevanja vojne še nekaj let si ne more privoščiti. V pogajanjih pa tudi ne more pričakovati izida, ki ga je dosegla lani marca v Istanbulu ali tistega, ki ga je imela pred začetkom ruske agresije. In dlje časa kot odlaša s pogajanji, slabše pogoje bo imela in manj bo zahodne podpore.

Pred ukrajinskim vodstvom so samo slabe izbire. Spodaj je dober povzetek opcij, ki so trenutno aktualne.

Nadaljujte z branjem→

Zahodni mediji nadvse radi navdušeno pozdravljajo pričetek skorajšnje (“samo što nije”) ukrajinske protiofenzive, katere namen naj bi bil (1) pregnati rusko vojsko iz zasedenih ozemelj nazaj v Rusiji, (2a) spet zavzeti polotok Krim ali (2b) vsaj pretrgati logistične in komunalne povezave med celino in Krimom. Seveda bi bila takšna in tako uspešna protiofenziva nadvse zaželjena. Problem pa je, da meji na znanstveno fantastiko. Poglejmo, kakšna so dejstva in kaj lahko pričakujemo.

Doslej znana dejstva so naslednja: Na ukrajinski strani naj bi bilo približno 35.000 vojakov, okrepljenih z okrog 100+ zahodnimi bojnimi tanki. Soočili naj bi se z več kot 140.000 ruskimi vojaki vzdolž 950 km dolge, obrambno utrjene frontne črte. Pri čemer ukrajinske sile pri preboju čaka nekajkilometrski smrtonosni razmejitveni pas iz minskih polj, zemeljskih nasipov in protitankovskih ovir, ki so jih postavili Rusi.

Ergo, verjetnost, da bi ukrajinske sile po vsej frontni črti potisnile nazaj ruske sile, je enaka nič (0). Edina resna takrtična možnost je, da se ukrajinske sile koncentrirajo na eni ali dveh točkah ter poskušajo na najšibkeje utrjenih predelih prebiti frontno črt, z artilerijo in tanki deaktivirati minska polja, barikade in tankovske ovire in utrditi nekaj sto metrov širok pas skozi frontno črto ter skozi en prehod (ali dva ali več) nato spraviti ukrajinske enote za hrbet ruskim silam in jih nato deaktivirati ali pregnati. Problem tega pristopa je seveda, da ruske sile tega preboja ne bodo gledale križem rok in da bi ukrajinske sile potrebovale močno letalsko podporo najprej pri prebijanju in utrjevanju prehoda ter nato pri zaščiti prehoda ukrajinskih sil skozi prehod. Teh pa ukrajinske sile nimajo.

Nadaljujte z branjem→

Težko je preprečiti slabim fantom, da bi umetno inteligenco uporabili za slabe stvari

Geoffrey Hinton was an artificial intelligence pioneer. In 2012, Dr. Hinton and two of his graduate students at the University of Toronto created technology that became the intellectual foundation for the A.I. systems that the tech industry’s biggest companies believe is a key to their future.

V bistvu ni nobene skrivnosti. Javni dolg (glede na BDP) hitreje upada, čim višja je stopnja gospodarske rasti. V spodnji sliki je bil javni dolg konec leta 2022 v Grčiji in Portugalski nižji kot pred epidemijo Covid (konec leta 2019), ker se je v obeh državah BDP močno povečal. In to je ključna razlika glede na Veliko Britanijo in Nemčijo, ki se ubadata s precej povišanimi ravnimi dolga.

Javnega dolga ne znižuje absolutno zmanjšanje zadolženosti (poskušajte najti takšno državo kjerkoli v svetu, good luck!), ampak s hitrejšo rastjo BDP! Torej javnega dolga ne znižuje zmanjševanje števca (D v kvocientu D/BDP), pač pa hitrejša rast imenovalca (BDP) od števca D. Drugače povedano, pomembno je, kaj naredimo z zadolževanjem in kako dobri smo, da z njim pospešimo gospodarsko rast. Zmagovalcev ne najdemo med “šparovnimi”, ampak tistimi, ki tečejo hitreje!

Zato je takšna neumnost, ker Nemčija zahteva zaostrovanje fiskalnih pravil, namesto da bi najprej pri sebi rešila problem (pre)nizke gospodarske rasti.