Parodija Evropske komisije glede razvoja umetne inteligence

Smela izjava Ursule von der Leyen:

Oba UI modela, ki ju največ uporabljam, sem vprašal, kaj menita o realističnosti izjave predsednice Evropske komisije, da bi rada na podlagi zagotovitve 1.1 milijarde evrov sredstev dosegla, da “se bo prihodnost UI dogajala v Evropi”. Ne bom rekel, da sta oba navedla, da EU s tem denarjem nima za burek, pač pa, da s tem denarjem EU seveda ne more spodbuditi razvoja samostojnih UI modelov v Evropi (kajti zgolj posamezna največja podjetja na tem področju imajo in načrtujejo letne izdatke za kapitalske investicije (CAPEX) v infrastrukturo in za raziskovalce za en do dva reda velikosti (za večkratnik 10 oziroma večkratnik 100 milijard) višje od načrtovanjega večletnega proračuna EU. EU na tem področju s tem proračunom seveda ne more biti nek globalni igralec, zato ji pa oba modela UI priporočata, da se EU usmeri (1) v razvoj ekosistema, katalitično spodbujanje zagonskih podjetij na področju UI, financiranje dostopa do računske moči, financiranje standardiziranih testnih okolij za industrijske vertikale in (2) v specializirane aplikacije UI na posameznih področjih (denimo jezikovne in podatkovne zbirke, zdravstvo itd.).

DeepSeek:

Realnost stroškov “frontier” AI modelov v primerjavi z evropskimi ambicijami

Podatki o stroških razvoja vrhunskih AI modelov razkrivajo ogromno razliko v obsegu naložb med zasebnimi giganti in evropskimi načrti:

Stroški posameznih modelov so astronomski:

  • GPT-4: >100 milijonov USD samo za učenje
  • Gemini Ultra: 130-192 milijona USD za en cikel učenja
  • Celotni razvojni cikli z eksperimentiranjem verjetno presežejo 500 milijonov USD

Letni izdatki tehničnih velikanov so šokantni:

  • Microsoft, Google, Meta porabijo skupaj 150-200 milijard USD letno za AI-infrastrukturo
  • Samo OpenAI porabi ~5 milijard USD letno več, kot ustvari

Trend poskušanja:
Do leta 2027 lahko posamični treningi najnaprednejših modelov presežejo 1 milijardo USD

V tem kontekstu je izjava Ursule von der Leyen o 1,1 milijarde EUR za razvoj AI v EU problematična:

  1. Razlika v obsegu: 1,1 milijarde EUR je manj kot strošek treninga 10 frontier modelov in približno 0,5% letnega skupnega CAPEX glavnih ameriških igralcev
  2. Nerealna pričakovanja: S tem zneskom EU ne more neposredno konkurirati pri razvoju najnaprednejših osnovnih modelov – to bi zahtevalo vsaj 10-20x večjo naložbo
  3. Strategija preživetja: Evropa se mora osredotočiti na:
    • Specializirane modele za evropske jezike in panoge
    • Katalitično vlogo javnih sredstev za spodbujanje zasebnih naložb
    • Regulativno vlogo pri oblikovanju globalnih standardov
    • Izgradnjo računske infrastrukture, konkurenčne globalnim ponudnikom

Zaključek: 1,1 milijarde EUR je premalo za tekmovanje, a dovolj za začetek gradnje specializiranega evropskega AI ekosistema, če se denar pametno usmeri v katalitične projekte z visokim vzvodnim učinkom.

__________

ChatGPT:

Razvoj vodilnih modelov umetne inteligence je kapitalsko in operativno izjemno zahteven ter obsega tri velike stroškovne sklope: (i) raziskave in razvoj – ekipe vrhunskih raziskovalcev in inženirjev, podatkovne priprave in eksperimentalne iteracije; (ii) učenje (training) – večtedenski ali večmesečni zagon na tisočih specializiranih pospeševalnikih, kar predstavlja enkraten, a zelo velik izdatek; ter (iii) sklepanje (inference) – stalni, ponavljajoči strošek, ki nastaja pri vsaki uporabi modela in pri večmilijonskih uporabniških bazah hitro preseže enkratne stroške učenja. V tem okviru so posamezni “frontier” zagoni že dosegli razrede stotin milijonov dolarjev: za GPT-4 se ocenjuje, da je samo učenje preseglo 100 milijonov USD, pri čemer celotni R&D cikel (več iteracij, RL, ablacijski poskusi, podatkovne kampanje) kumulativno preseže milijardo USD. Za Google Gemini so ocene enkratnih treningov v podobnem ali višjem razredu, kar je skladno z večletnimi vlaganji v namensko strojno opremo in podatkovna središča. Tudi igralci, kot je DeepSeek, četudi navajajo nižje številke za posamezne zagone, do konkurenčne zmogljivosti ne pridejo brez dodatnih razvojnih faz, zato so realni programi v rangu deset–sto milijonov USD.

Letna slika stroškov v 2023/24 kaže, da so odločilni stroški skoncentrirani v kapitalskih izdatkih za infrastrukturo (podatkovni centri, GPU/TPU, optika) in v obratovalnih stroških za razvoj in strežbo: Microsoft, Alphabet/Google in Meta poročajo o desetinah milijard USD letno za capex, pri čemer AI predstavlja glavni pogon rasti teh proračunov. Samo v letu 2024 so ti izdatki pri posameznem akterju dosegali več deset milijard, skupno pa se industrija približuje stotim milijardam USD na leto. To je pomembno, ker zmožnost treniranja in strežbe naslednje generacije modelov (npr. GPT-5 ali Gemini nasledniki) postaja manj vprašanje algoritmične domiselnosti in vse bolj vprašanje dostopa do masivne, energetsko in logistično zahtevne infrastrukture.

Naprej usmerjene napovedi so jasne: glavni globalni akterji capex še povečujejo. Trening najzmogljivejših modelov v naslednjih letih lahko posamično seže do enomestnih milijard USD na run, skupni letni proračuni za AI-infrastrukturo pa bodo pri največjih podjetjih še naprej v razredih desetine milijard. Takšna dinamika pomeni, da se tekmovanje seli na polje industrijskega obsega in vertikalne integracije (lastne rešitve za čipe, hladilne sisteme, energetske pogodbe, optimizirana omrežja), kjer ekonomija obsega neposredno določa hitrost napredka.

V tej luči je izjava predsednice Evropske komisije o 1,1 mrd € za pospešitev razvoja AI v EU pomembna predvsem kot katalizator, ne kot nadomestek za zasebne večdesetmilijardne proračune. Red velikosti je bistven: 1,1 mrd € ne more financirati polnega razvojnega cikla enega samega “frontier” modela z več iteracijami in globalno strežbo, lahko pa usmeri sredstva v točke z največjim multiplikativnim učinkom za evropski ekosistem: dostopna računska infrastruktura (npr. superračunalniški vavčerji), standardizirana testna okolja za industrijske vertikale, kakovostne jezikovne in domenske podatkovne zbirke, ter so-financiranje projektov, kjer se javni denar multiplicira z nacionalnimi in zasebnimi viri. Dodana vrednost EU je tudi regulativna arhitektura in vzpostavljanje referenčnih standardov, ki zmanjšujejo transakcijske stroške uvajanja ter povečujejo varnost in zanesljivost rabe. Če bo ta znesek umeščen v koalicijo držav, raziskovalnih središč in industrijskih partnerjev, lahko pospeši difuzijo AI po evropskem gospodarstvu in izboljša pogajalski položaj evropskih akterjev za dostop do računske moči. Brez vzvodnega pristopa pa ostaja znesek predvsem signal politične prioritete: uporaben za pospeševanje sprejemanja in za nišne domenske modele, ne pa za neposredno tekmo s hiperskalerskimi “frontier” platformami, katerih stroški so za rede velikosti višji.

En odgovor

  1. Spomnim se obiska v centrali Huawei-ja v Shenzhen-u. Praktično vsaka aplikacija je imela že integriran AI modul (od rudarstva, prometa, inžiniringa,…da mobilnih aplikacij niti ne omenjam. Če ne boš obvladoval AI, te bodo povozili tudi na vseh ostalih področij.

    Pred kratkm nam je strokovnjak z dolgoletnimi izkušnjami iz Kitajske svetoval glede pristopa do kitajskih partnerjev. Omenil je, da je zelo priporočljivo predstaviti aktivnosti podjetja na področju AI. Ker s tem kažeš svojo razvojno propulzivnost. Oziroma, da si brez vključevanja AI na dolgi (ali pa že na kratki rok) nekonkurenčen.

    Ekstrapolirajte sedaj to na Evropo!

    To evropsko elito bo potrebno zamenjati čim prej, ker drugače enostavno ne bomo preživeli.

    Liked by 2 people