Softver ulazi u novu fazu: ne radi se samo o korištenju AI-ja za odgovaranje na pitanja, nego o dizajniranju sustava koji mogu ostvarivati ciljeve, koristiti alate, provjeravati svoj rad i predavati rezultate ljudima. Takvi se sustavi obično nazivaju AI agentima. Naziv može zvučati grandioznije od stvarnosti, ali promjena u osnovi je važna. Agent nije magična autonomija. To je softverski obrazac za kombiniranje zaključivanja modela s uputama, podacima, alatima i zaštitnim mjerama.

Korisno pitanje nije može li agent zamijeniti tim. Pitanje je može li pouzdano dovršiti usko, vrijedno područje rada uz odgovarajući nadzor. Timovi koji počinju od toga obično grade trajne sustave. Timovi koji počnu s nejasnom ambicijom da „automatiziraju sve” obično otkriju da su dvosmislenost, loši podaci i nedostatak kontrola i dalje vrlo stvarni inženjerski problemi.

Po čemu se AI agent razlikuje?

Konvencionalna aplikacija slijedi unaprijed napisanu logiku: za ovaj ulaz pokreni ove korake, vrati taj rezultat. Agentski sustav i dalje treba konvencionalni softver, ali može birati između dopuštenih sljedećih koraka na temelju trenutačnog konteksta. Može pretraživati internu bazu znanja, pozvati uslugu, sastaviti odgovor, provjeriti polje, zatražiti pojašnjenje ili proslijediti slučaj osobi.

Praktičan agent obično ima pet dijelova:

• Cilj: jasno ograničen ishod, poput pripreme sažetka slučaja podrške ili usklađivanja nedostajućih polja računa.
• Model: komponenta koja tumači jezik i pomaže u odabiru sljedeće radnje.
• Alati: pažljivo definirane operacije poput dohvaćanja zapisa, izrade nacrta ili pokretanja provjere.
• Stanje: kontekst zadatka, prethodni rezultati, dozvole i napredak kroz tijek rada.
• Kontrole: ograničenja, koraci odobravanja, zapisivanje, evaluacija i sigurno ponašanje pri neuspjehu.

Model ne bi trebalo smatrati cijelim sustavom. On je jedna komponenta u većoj petlji. Okolni softver određuje kojim informacijama model može pristupiti, koje radnje smije poduzeti, kako se rezultati provjeravaju i što se događa kada je razina pouzdanosti niska.

Započnite s tijekovima rada, a ne osobnostima

„Izgradite agenta za naše poslovanje” preširoko je da bi se moglo projektirati ili evaluirati. Bolje polazište je tijek rada s ponavljajućim uskim grlom, prepoznatljivom definicijom dovršenosti i popravljivim načinom neuspjeha.

Razmotrite internog asistenta za podršku. Njegov posao nije oponašati stručnjaka za podršku. Njegov posao može biti pročitati novi zahtjev, dohvatiti relevantnu dokumentaciju proizvoda, utvrditi pojedinosti koje nedostaju, pripremiti nacrt odgovora i usmjeriti zahtjev u ispravan red. Čovjek može pregledati nacrt prije nego što bilo što stigne do korisnika.

To je vrijedno jer je tijek rada izričit. Tim može mjeriti je li usmjeravanje ispravno, je li citirana dokumentacija relevantna, slijedi li nacrt pravila i štedi li ljudski pregledavatelj vrijeme. Ako je asistent nesiguran, može postaviti ciljano pitanje umjesto da izmisli odgovor.

Odaberite odgovarajuću razinu autonomije

Autonomija nije binarni izbor. Ona je skup dozvola. Agent koji sažima bilješke sa sastanaka ima izlaz niskog rizika. Agent koji mijenja produkcijsku konfiguraciju, šalje vanjsku komunikaciju ili odobrava financijske transakcije ima izlaz znatno višeg rizika.

Razuman slijed je:

1. Dopustite agentu da promatra i sažima.
2. Dopustite mu da preporučuje radnje uz popratne dokaze.
3. Dopustite mu da priprema reverzibilne nacrte ili promjene za odobrenje.
4. Dopustite ograničeno izvršavanje unutar jasno definiranih granica.
5. Proširite ovlasti tek nakon što to podrže evaluacije i operativni dokazi.

Ovaj slijed nije birokracija radi birokracije. Timovima daje vrijeme da nauče gdje je model koristan, gdje je krhak i gdje sam tijek rada treba redizajn.

Dizajn alata prava je arhitektura

Agent je pouzdan samo onoliko koliko su pouzdani alati koje može koristiti. Široki, dvosmisleni alati stvaraju široke, dvosmislene neuspjehe. „Upravljaj korisničkim računom” loša je definicija alata. „Dohvati status računa prema ID-u računa” i „izradi nacrt promjene pretplate” mnogo su sigurniji jer su ulazi, izlazi i učinci izričiti.

Dizajnirajte alate kao da će ih koristiti novi inženjer koji vidi samo njihovo sučelje. Zahtijevajte strukturirane ulaze, provjeravajte ih na strani poslužitelja, vraćajte korisne pogreške i učinite dozvole dijelom ugovora alata. Model može predložiti radnju, ali alat mora ostati konačni autoritet za to je li ta radnja valjana.

{
  "action": "create_refund_draft",
  "inputs": {
    "order_id": "required string",
    "reason_code": "required enum",
    "amount": "positive decimal"
  },
  "requires_approval": true
}

Primijetite što ovaj obrazac ne čini: ne daje agentu izravan, neograničen pristup sustavu plaćanja. Stvara nacrt, zadržava točku pregleda i prepušta provjeru determinističkoj aplikacijskoj logici.

Pouzdanost zahtijeva evaluaciju, a ne optimizam

Agentsko ponašanje može izgledati impresivno u demonstraciji, a ipak zakazati u uobičajenim operativnim uvjetima. Uputa koja obrađuje čist primjer može imati poteškoća s nepotpunim zapisima, proturječnim uputama, zastarjelom dokumentacijom, neuobičajenim oblikovanjem ili istekom vremena alata.

Izgradite skup za evaluaciju iz realističnih zadataka prije nego što proglasite uspjeh. Uključite uspješne slučajeve, rubne slučajeve, očekivana odbijanja i situacije u kojima agent mora eskalirati. Pregledajte ne samo konačni odgovor, nego i put kojim je do njega došao: koje je izvore koristio, koje je alate odabrao, je li sigurno pokušao ponovno i je li ostao unutar dozvola.

Postupanje pri neuspjehu zaslužuje jednako mnogo pažnje pri dizajnu kao i idealan tijek. Ako dohvaćanje ne uspije, agent bi trebao prijaviti da nije mogao provjeriti informaciju, a ne tiho zamijeniti je uvjerljivim odgovorom. Ako se poziv alata ponavlja, operacija bi trebala biti idempotentna ili zaštićena od dvostrukih učinaka. Ako zadatak premaši vremenski ili troškovni proračun, sustav bi se trebao čisto zaustaviti i sačuvati dovoljno konteksta da osoba može nastaviti.

Zadržite ljude u sustavu ondje gdje je prosudba važna

Ljudski pregled nije dokaz da je agent podbacio. U mnogim važnim tijekovima rada on je predviđeni dizajn. Ljudi su u boljem položaju za rješavanje dvosmislenosti pravila, procjenu osjetljivog konteksta i preuzimanje odgovornosti za značajne odluke. Agenti mogu smanjiti kognitivno opterećenje oko tih odluka prikupljanjem dokaza, organiziranjem opcija i izradom prvih nacrta.

Najjače implementacije olakšavaju tu predaju. Prikažite izvorni materijal iza preporuke. Objasnite koja su pravila ili ograničenja primijenjena. Predstavite predloženu radnju odvojeno od radnje koja će se stvarno izvršiti. Pregledavatelj bi trebao moći odobriti, urediti, odbiti ili eskalirati bez ponovnog sastavljanja cijelog zadatka.

Promjenjiva uloga softverskih stručnjaka

AI agenti promijenit će softverski rad, ali ne uklanjanjem potrebe za inženjerskom disciplinom. Povećavaju vrijednost jasnih zahtjeva, dobro strukturiranih usluga, pouzdanih podataka, vidljivosti sustava i promišljenog dizajna proizvoda. Model može donositi odluke unutar tijeka rada; ne može neograničeno nadoknađivati nejasno vlasništvo, nedosljedna poslovna pravila ili nesigurne granice sustava.

Za programere je prilika postati bolji dizajneri sustava ljudi i strojeva. Naučite pretvarati nejasne ciljeve u izričita stanja, ugovore alata, slučajeve evaluacije i tokove odobravanja. Za tehnološke vođe zadatak je odabrati probleme u kojima pomoć stvara prednost bez skrivanja odgovornosti.

Sljedeći evolucijski skok softvera neće stići kao jedan autonomni program koji radi sve. Pojavit će se kroz mnoge usmjerene agente koji običan rad čine lakšim za snalaženje, responzivnijim i pouzdanijim. Timovi koji će imati najveću korist bit će oni koji agente tretiraju kao projektirane suradnike: sposobne, ograničene, vidljive i uvijek povezane s ljudskom prosudbom.