Izvršni direktor podjetja Kimi, Zhilin Yang, trdi, da je Claude uspel predvsem zaradi velikih vlaganj v razvoj agentov, ne pa zaradi boljšega sposobnosti sklepanja. Ob tem poudarja, da zmogljivi agenti v osnovi zahtevajo močne temeljne modele, kar je tudi glavni poudarek razvoja modela Kimi 3.
Yang izpostavlja, da tudi napredni agenti pogosto odpovejo zaradi težav pri konfiguraciji. Predstavi tudi vizijo samopopolnjevanja, v kateri model Kimi K2 s pomočjo svojih agentskih zmogljivosti sodeluje pri razvoju naslednje generacije modela K3.
Osnova je spodnji 90-minutni videoposnetek Yangove delavnice in povezava do članka o optimalni zasnovi agentskih sistemov. Namenjena je predvsem strokovnjakom in razvijalcem umetne inteligence, ki iščejo praktične usmeritve za implementacijo takšnih sistemov.
Spodaj je poljudna razlaga za nas – nepoznavalce – ki jo je pripravil Grok in dodelal GPT.
Yang Zhilin, ustanovitelj in CEO Moonshota, zelo jasno loči dve plasti sodobnih AI-jev:
- Reasoning (razmišljanje, sklepanje)
To je osnovna moč velikega jezikovnega modela – njegova sposobnost, da:
- razume problem,
- razčleni ga na korake (chain-of-thought),
- logično sklepa,
- se izogne napakam in halucinacijam,
- rešuje nove, kompleksne naloge, ki jih še ni videl.
To je kot IQ ali globina razumevanja modela. Brez močnega reasoninga je model pameten le na površini – zna lepo pisati, a hitro pade, ko mora resnično razmišljati.
- Agents (avtonomni agenti)
To je nadgradnja: model ne le razmišlja, ampak tudi deluje v svetu.
- Uporablja orodja (iskalnik, kodeks, e-pošto, API-je…),
- načrtuje večstopenjske strategije,
- se uči iz povratnih informacij,
- ponavlja korake, dokler ne doseže cilja.
Agent je torej kot pametni asistent z rokami in nogami – ne le razmišlja, ampak tudi izvaja.
Yangova ključna poanta:
»Claude ni zmagal na reasoningu – stavil je vse na agente.«
Anthropic je ogromno energije vložil v to, da Claude postane odličen agent (zelo dober pri uporabi orodij, sledenju navodilom, kompleksnih workflowih). Toda Yang pravi: če je osnovni model (base model) šibek v reasoningu, bo tudi najboljši agent na koncu zatajil.
To pomeni:
- Agent brez močnega reasoninga ne zna pravilno načrtovati.
- Ne zna se popraviti, ko gre narobe.
- Težko ga je »nastaviti« (configure) za novo nalogo – postane krhek in nepredvidljiv.
Zato Moonshot (Kimi) trenutno stavi predvsem na izjemno močan base model (Kimi 3). Šele na tej trdni podlagi bodo gradili res zanesljive agente.
Torej ustanovitelj kitajskega podjetja Moonshot AI, Zhilin Yang, opozarja, da se pri razvoju UI pogosto spregleda bistveno vprašanje: kako inteligenten je model sam po sebi.
Po njegovem mnenju je treba jasno ločiti med dvema nivojema umetne inteligence. Prvi je reasoning, torej sposobnost logičnega sklepanja, razumevanja kompleksnih problemov, njihove razčlenitve na posamezne korake ter iskanja pravilnih rešitev tudi v novih situacijah. Drugi nivo predstavljajo agenti, ki to sposobnost nadgradijo z možnostjo samostojnega delovanja v digitalnem okolju – uporabljajo zunanja orodja, načrtujejo zaporedje dejanj, preverjajo rezultate in jih po potrebi popravljajo.
Yang zato trdi, da je razprava o agentih pogosto postavljena na glavo. Po njegovem prepričanju uspeh agentov ni odvisen predvsem od njihove arhitekture, temveč od kakovosti temeljnega modela, na katerem so zgrajeni. Če osnovni model nima dovolj razvite sposobnosti sklepanja, bo tudi najbolj dovršen agentski sistem hitro postal nezanesljiv: težko bo načrtoval, napačno bo interpretiral rezultate, težko se bo prilagajal novim nalogam in bo pogosteje zašel v slepo ulico.
To je tudi razlog, zakaj Moonshot trenutno največ razvojnih sredstev namenja izboljšanju osnovnega modela Kimi 3, šele nato pa razvoju kompleksnih agentskih zmogljivosti. Še več, Yang napoveduje razvojni pristop, pri katerem bodo prihodnje generacije modelov deloma pomagale ustvarjati svoje naslednike. Model Kimi K2 naj bi kot agent sodeloval pri razvoju Kimi 3, kar pomeni začetek procesa samopospešujočega razvoja umetne inteligence.
Yangovo razmišljanje lepo ponazarja analogija z letalom. Reasoning predstavlja pilota – njegovo inteligenco, presojo in sposobnost odločanja. Agent pa predstavlja celotno letalo z motorji, avtopilotom, radarji in komunikacijskimi sistemi. Tudi najsodobnejša tehnologija ne more nadomestiti slabega pilota. Če pilot sprejema napačne odločitve, tudi najboljše letalo ne bo varno ali učinkovito letelo.
Ta razprava odpira eno najpomembnejših strateških vprašanj razvoja umetne inteligence. Del industrije stavi predvsem na hitro širitev agentskih sistemov, saj uporabnikom omogočajo takojšnje praktične koristi. Drugi, med njimi Moonshot AI, pa zagovarjajo drugačen vrstni red razvoja: najprej bistveno izboljšati sposobnost sklepanja temeljnih modelov, nato pa na tej osnovi graditi agente.
Moje razumevanje tega je, da prihodnost verjetno ne bo pripadala enemu ali drugemu pristopu, temveč njuni kombinaciji. Avtonomni agenti brez globokega razumevanja ostajajo zgolj zelo učinkoviti izvajalci vnaprej določenih postopkov. Po drugi strani pa tudi najbolj inteligenten model brez možnosti delovanja ostaja predvsem izjemno zmogljiv sogovornik. Pravi preboj bo nastopil šele takrat, ko se bosta obe komponenti združili: ko bodo modeli hkrati sposobni globokega sklepanja in zanesljivega samostojnega delovanja. Prav v tej sintezi je najbrž treba iskati razvoj naslednje generacije umetne inteligence.
DAMIJAN blog 