Većina radnih tijekova u softveru i dalje ovisi o poznatom obrascu: osoba uoči problem, otvori nekoliko alata, prikupi kontekst, donese odluku i zabilježi rezultat. AI agenti mogu promijeniti taj obrazac. Oni nisu samo sučelja za razgovor koja odgovaraju na pitanja; to su sustavi koji mogu protumačiti cilj, upotrebljavati odobrene alate, promatrati rezultate i nastaviti dok ne dođu do korisne točke zaustavljanja.

Ta je razlika važna. Prompt može stvoriti koristan nacrt. Agent može preuzeti ograničeni dio posla — trijažu incidenta, pripremu kontrolnog popisa za izdanje, istragu neuspjele izgradnje ili ažuriranje zahtjeva za podršku — i provesti ga kroz radni tijek. Prilika je stvarna, ali jednako je stvarna i inženjerska disciplina potrebna da bi ti sustavi bili pouzdani.

Po čemu se AI agent razlikuje?

Agent kombinira jezični model s uputama, kontekstom, alatima i kontrolnom petljom. Model predlaže radnju, sustav izvršava tu radnju, a rezultat postaje novi kontekst za sljedeću odluku. Jednostavna petlja može izgledati ovako: pregledati zadatak, pretražiti bazu znanja, izraditi nacrt odgovora, zatražiti odobrenje, zatim poslati odgovor.

Autonomija nije binarna značajka. Koristan agent može biti potpuno autonoman samo u koracima niskog rizika, kao što su klasifikacija dolaznih zahtjeva ili sastavljanje izvještaja. Za korake sa značajnim posljedicama — promjenu produkcijske konfiguracije, slanje poruka usmjerenih korisnicima, odobravanje plaćanja ili brisanje podataka — trebao bi zastati radi osobe ili slijediti strogo definirane provjere pravila.

Počnite s radnim tijekovima, a ne impresivnim demonstracijama

Najuspješniji projekti s agentima počinju radnim tijekom koji je već razumljiv. Ako tim ne može objasniti trenutačne korake, potrebne ulazne podatke, očekivani izlaz i uobičajene iznimke, agent će samo sakriti zbrku iza tečnog jezika.

Tražite posao s ponovljivom strukturom i značajnim poteškoćama. Dobri početni kandidati obično imaju ove značajke:

• Jasan okidač, kao što su novi zahtjev, neuspjela implementacija ili zakazani pregled.
• Dostupan i mjerodavan izvorni materijal.
• Radnje koje se mogu ograničiti na mali skup alata.
• Izlaze koje je osobi lako pregledati ili izmjeriti.
• Sigurnu rezervnu opciju kada je agent nesiguran ili blokiran.

Razmotrite pomoćnika za trijažu izgradnje. Umjesto da mu dodijelite širok pristup repozitoriju i sustavu za implementaciju, počnite s uskim zadatkom: pročitati zapise neuspjelog zadatka, utvrditi fazu koja nije uspjela, usporediti je s poznatim obrascima neuspjeha i izraditi sažet pregled problema. Može uključiti poveznice ili reference koje je pružio okolni sustav, predložiti vjerojatne vlasnike i označiti nedostajuće dokaze. Razvojni inženjer i dalje odlučuje treba li izmijeniti kod ili ponovno pokrenuti cjevovod.

To je manje teatralno od agenta koji „popravlja svaki bug”, ali je mnogo vjerojatnije da će postati pouzdan dio svakodnevnog rada.

Namjerno oblikujte kontrolnu petlju

Pouzdanost agenta manje proizlazi iz domišljatog prompta nego iz oblika sustava oko modela. Tretirajte model kao jednu komponentu u pogonu radnog tijeka, a ne kao sam pogon radnog tijeka.

Dajte alatima uske, izričite ugovore

Alat bi trebao raditi jednu razumljivu stvar: dohvatiti zahtjev, pretražiti odobrenu dokumentaciju, izraditi nacrt ili zatražiti implementaciju. Njegovi ulazi i izlazi trebali bi biti strukturirani kada je to moguće. Umjesto da od modela tražite sastavljanje proizvoljnog upita za bazu podataka, izložite alat koji dohvaća zapis po identifikatoru ili pretražuje definirani skup polja.

Uski alati smanjuju slučajni opseg, olakšavaju revizije i pružaju jasnije neuspjehe. Pogreška poput „zapis nije pronađen” korisna je povratna informacija za sljedeći korak. Neodređeni alat koji može „upravljati podacima o korisnicima” ostavlja previše prostora za dvosmislenost.

Odvojite planiranje od izvršavanja

Za višekoračni rad često je korisno dopustiti agentu da predloži plan prije djelovanja. Okolna aplikacija može provjeriti plan u odnosu na pravila, obavezna polja, dopuštene alate ili ograničenja troškova. Izvršavanje zatim može napredovati jednu po jednu radnju, uz bilježenje rezultata nakon svakog koraka.

To ne znači da svaki agent treba složen planer. Jednostavan stroj stanja često je bolji. Na primjer: prikupiti kontekst, klasificirati zahtjev, izraditi nacrt odgovora, provjeriti obavezne pojedinosti, zatražiti odobrenje, zatim poslati. Izričita stanja znatno olakšavaju razmišljanje o ponovnim pokušajima i primopredajama.

Definirajte uvjete zaustavljanja

Agentu je potrebna jasna definicija dovršenosti i jasni razlozi za zaustavljanje. Korisna ograničenja uključuju maksimalan broj poziva alata, vremenski proračun, maksimalan broj ponovnih pokušaja i pravilo koje zahtijeva eskalaciju kada nedostaju dokazi. Bez tih granica agent može ponavljati neučinkovite pretrage ili nastaviti slijediti nemoguć zadatak.

Ponovni pokušaji zaslužuju posebnu pažnju. Ponovni pokušaj privremenog mrežnog neuspjeha može biti razuman. Ponovni pokušaj pogreške provjere valjanosti s istim unosom obično nije. Zabilježite kategoriju neuspjeha, sačuvajte dovoljno konteksta da osoba može istražiti problem i učinite sljedeću radnju namjernom.

Gradite za nesigurnost, a ne za sigurnost

Jezični modeli mogu proizvesti uvjerljiva, ali netočna tumačenja. Rezultati alata mogu biti nepotpuni. Dozvole se mogu promijeniti. Dizajn agenta trebao bi pretpostaviti da će se ti uvjeti pojaviti.

Upotrebljavajte mjerodavan kontekst tamo gdje su odluke važne i označite njegovo podrijetlo u radnom tijeku. Tražite od agenta da razlikuje dokaze koje je dohvatio od zaključaka koje je izveo. Zahtijevajte da kaže kada dostupne informacije ne podupiru zaključak. To je posebno važno kada agent sažima zapise, pravila, ugovore ili razgovore s korisnicima.

Provjera valjanosti trebala bi se odvijati izvan modela kada se pravilo može izraziti deterministički. Provjeravajte sheme, dozvole, potrebna odobrenja, datume, identifikatore i dopuštene prijelaze stanja u običnom aplikacijskom kodu. Modeli su korisni za tumačenje neurednog jezika; nisu zamjena za pouzdana ograničenja.

if not request.has_required_fields():
    return escalate("Missing required information")

if action.name not in allowed_actions:
    return escalate("Action is not permitted")

result = run_tool(action)

if result.is_temporary_failure and retries < 2:
    retry_later()
elif not result.ok:
    return escalate(result.message)

Poanta nije u sintaksi. Poanta je da model treba djelovati unutar zaštitnih ograda koje aplikacija može provesti.

Zadržite ljude na pravim mjestima

Ljudski pregled trebao bi se temeljiti na učinku, reverzibilnosti i pouzdanosti — a ne na nejasnoj želji da se nekoga zadrži „u petlji”. Radnje niskog rizika, koje se mogu poništiti, često mogu automatski napredovati uz bilježenje. Radnje višeg rizika zahtijevaju jasan trenutak odobrenja, koristan kontekst za pregledavatelja i jednostavan način odbijanja ili izmjene predložene radnje.

Dobar zaslon za odobravanje ne pita samo: „Nastaviti?” Prikazuje što je agent pronašao, što planira učiniti, koji će sustavi biti pogođeni i koje je pretpostavke donio. Time se pregled pretvara u informiranu prosudbu, a ne u mehaničko odobravanje.

Mjerite operativnu vrijednost

Uspjeh nije broj razgovora s agentom niti duljina njegova traga zaključivanja. Mjerite ishode radnog tijeka: vrijeme do rješenja, postotak zadataka dovršenih bez dorade, stopu eskalacije, stopu odbijanja odobrenja i kvalitetu zapisa stvorenih u nizvodnim sustavima. Redovito pregledavajte neuspjehe, osobito slučajeve u kojima je agent djelovao sigurno, ali je odabrao pogrešnu radnju.

Počnite s malom skupinom korisnika i stvarnim radom. Zabilježite reprezentativne rubne slučajeve. Poboljšavajte upute, ugovore alata i provjere valjanosti na temelju uočenih neuspjeha. Proširivanje opsega prije nego što je osnovni radni tijek stabilan obično umnožava buku brže nego vrijednost.

Trajna prednost su bolji sustavi

AI agenti neće ukloniti potrebu za dizajnom softvera, operativnom prosudbom ili odgovornim vlasništvom. Oni te discipline čine vidljivijima. Slab proces postaje brži slab proces; dobro osmišljen radni tijek postaje prilagodljiviji, dosljedniji i skalabilniji.

Praktičan put je jednostavan: odaberite ograničen radni tijek, povežite samo alate koji su mu potrebni, učinite pravila provedivima u kodu, sačuvajte put eskalacije i učite iz stvarnih ishoda. Kada se autonomija stječe korak po korak, AI agenti prestaju biti novitet i postaju nešto vrednije: pouzdani sustavi koji ljudima daju više vremena za odluke koje ih doista zahtijevaju.