Većina automatizacije izgrađena je oko jednostavnog obećanja: kada se dogodi predvidiv događaj, izvrši predvidivu radnju. To obećanje i dalje je korisno. Cjevovod za implementaciju može pokrenuti testove, raspoređivač može rotirati zapisnike, a tijek rada može usmjeriti račun bez ičijeg nadzora. No agenti umjetne inteligencije uvode drukčiju vrstu sustava: onaj koji može tumačiti cilj, prikupiti kontekst, odabrati među dostupnim radnjama i izvijestiti što je učinio.

Ta je razlika razlog zašto agenti zaslužuju više pažnje od novog sloja automatizacije. Kada se dobro koriste, postaju suradnički alati koji smanjuju rutinski kognitivni rad, dok ljudi zadržavaju odgovornost za prosudbu. Kada se loše koriste, postaju neprozirni procesi sa širokim ovlastima i nejasnom odgovornošću.

Od skripti do rada usmjerenog prema cilju

Skripta obično kodira put. Uz ulaze A i B, slijedi korake od C do F. Agent je bliži ograničenom rješavatelju problema. Prima cilj, ima pristup alatima i informacijama te može odlučiti koja je sljedeća radnja najkorisnija.

Razmotrite tijek rada za trijažu korisničke podrške. Tradicionalna automatizacija može otkriti poruku koja sadrži „password reset”, poslati standardni odgovor i otvoriti tiket. Agent može pregledati poruku, provjeriti ima li račun postojeći problem s identitetom, odrediti odgovarajući red podrške, pripremiti odgovor na temelju odobrene politike i zatražiti ljudski pregled kada je zahtjev dvosmislen.

Vrijednost nije u tome što agent „razmišlja kao osoba”. Vrijednost je u tome što može obraditi varijacije bez potrebe za zasebnom tvrdo kodiranom granom za svaku formulaciju i slijed događaja. Ta fleksibilnost također stvara rizik: sustav mora biti oblikovan tako da varijacije ne prerastu u neovlaštene radnje.

Suradnja zahtijeva jasne granice

Najpouzdanijim agentima ne daju se neodređene upute poput „rješavaj probleme korisnika” ili „poboljšaj bazu koda”. Daje im se uska misija, definirani alati, izričita ograničenja i koristan način za isticanje nesigurnosti.

Praktičan dizajn agenta počinje s četiri pitanja:

• Za koji je ishod odgovoran? Definirajte mjerljiv zadatak, poput pripreme sažetka zahtjeva za povlačenje ili klasifikacije pristiglih zahtjeva.
• Koji kontekst smije koristiti? Odredite odobrene dokumente, repozitorije, zapise i vremensko razdoblje koje smije pregledati.
• Koje radnje smije poduzeti? Razdvojite čitanje podataka, izradu nacrta izlaza i unošenje vanjskih promjena, poput slanja poruka ili ažuriranja produkcijskih sustava.
• Kada mora stati i eskalirati? Navedite pragove dvosmislenosti, slučajeve osjetljive na politike, podatke koji nedostaju i radnje sa značajnim posljedicama.

Te granice olakšavaju povjerenje agentu jer olakšavaju njegov pregled. Dobro osmišljen sustav može objasniti ulaze koje je koristio, alate koje je pozvao, nacrt koji je izradio i trenutak u kojem je osoba preuzela rad.

Gradite agente kao tijekove rada s točkama prosudbe

Primamljivo je zamisliti agenta kao jedan upit povezan sa svakim internim sustavom. U praksi, trajne implementacije više nalikuju tijekovima rada s ograničenim točkama odlučivanja. Model je jedna komponenta, a ne cjelokupna arhitektura.

Pomoćnik za pregled koda, primjerice, mogao bi slijediti ovaj redoslijed:

1. Pročitajte opis zahtjeva za povlačenje i izmijenjene datoteke.
2. Dohvatite relevantne smjernice repozitorija i obližnje testove.
3. Prepoznajte moguće probleme i razlikujte opažanja od prijedloga.
4. Izradite strukturirani nacrt pregleda s referencama na datoteke i bilješkama o pouzdanosti.
5. Zahtijevajte da programer odobri komentare prije objave.

Takav pristup čuva koristan dio ponašanja agenta: sposobnost objedinjavanja konteksta i određivanja prioriteta pažnje. Istodobno izbjegava tretirati probabilistički model kao nepogrešivog recenzenta ili mu dati ovlast da bez nadzora preoblikuje bazu koda.

Odvojite planiranje od izvršavanja

Jedan koristan obrazac jest dopustiti agentu da predloži plan prije nego što pozove alate s važnim posljedicama. Za pomoćnika za implementaciju plan bi mogao navesti ciljno okruženje, verziju za izdavanje, preduvjetne provjere, uvjete vraćanja na prethodno stanje i potrebna odobrenja. Čovjek ili deterministički sloj politike može provjeriti taj plan prije početka izvršavanja.

To razdvajanje poboljšava sigurnost i otklanjanje pogrešaka. Ako je ishod pogrešan, timovi mogu utvrditi je li neuspjeh proizašao iz lošeg konteksta, neprikladnog plana, pogreške alata ili politike izvršavanja koja je bila previše popustljiva.

Pouzdani alati važniji su od domišljatih upita

Agent je pouzdan samo koliko i sustavi koje može pozvati. Sučelja alata trebaju biti uska, predvidiva i izričita u vezi s neuspjehom. Alat koji vraća čist popis kandidata za implementaciju agentu je lakše sigurno koristiti nego alat koji prihvaća otvoreni niz naredbi.

Dajte prednost operacijama s jasnim ugovorima. Na primjer, zahtjev za stvaranje nacrta tiketa trebao bi vratiti identifikator i status, dok bi zahtjev za objavu trebao zahtijevati izričito polje za potvrdu. Ako poziv alata ne uspije, agent bi trebao primiti dovoljno strukturiranih informacija da sigurno pokuša ponovno, odabere alternativu ili prijavi neuspjeh bez nagađanja.

Idempotentnost je osobito važna. Ako agent ponovi pokušaj nakon mrežnog isteka vremena, drugi zahtjev ne bi smio stvoriti duplicirani tiket, poslati drugu obavijest ili dvaput pokrenuti istu radnju plaćanja. Ondje gdje vanjski sustavi to podržavaju, koristite stabilni identifikator zahtjeva i zabilježite ishod.

Procijenite ponašanje prije proširivanja ovlasti

Tradicionalno testiranje softvera pita proizvodi li poznati ulaz očekivani izlaz. Evaluacija agenata mora također pitati ponaša li se sustav sigurno u realističnim dvosmislenim situacijama. Testni slučajevi trebaju uključivati nepotpune zahtjeve, proturječne upute, zastarjele informacije, pogreške alata, neprijateljski sadržaj i zahtjeve koji izlaze iz ovlasti agenta.

Evaluacija ne bi trebala završiti rezultatom nalik mjerilu. Pregledajte stvarne tragove: koji je kontekst dohvaćen, koji su pozivi alata pokušani, što je agent tvrdio da zna i je li eskalirao u pravom trenutku. Uglađen konačni odgovor može prikriti nepouzdan put.

Počnite s mogućnostima samo za čitanje ili izradu nacrta. Nakon što sustav dosljedno obrađuje uski zadatak, dodajte malu količinu ovlasti i promatrajte rezultate. Ovaj postupni pristup manje je spektakularan od potpuno autonomne demonstracije, ali stvara dokaze o tome gdje je autonomija doista zaslužena.

Ljudska uloga postaje važnija, a ne manje važna

Agenti preusmjeravaju rad s repetitivne koordinacije i početne sinteze. Ne uklanjaju potrebu za ljudima koji razumiju područje, prepoznaju štetne kompromise i mogu odlučiti što uspjeh zapravo znači. U mnogim timovima ljudski doprinos najveće vrijednosti pomiče se ranije u procesu: postavljanje politika, oblikovanje sučelja, pregled iznimaka i poboljšavanje povratne sprege.

Najjači sustavi agenata manje djeluju kao zamjene, a više kao sposobni kolege s pažljivo ograničenim djelokrugom. Mogu pripremati, uspoređivati, sažimati i izvršavati odobrene rutinske radnje. Ljudi zadržavaju odgovornost za namjeru, standarde i posljedice.

To je održiv put dalje od automatizacije. Ne tražite od agenta da bude magično autonoman. Tražite od njega da određeni dio posla učini jasnijim, bržim i sigurnijim — a zatim mu dajte kontekst, alate i granice potrebne da učini upravo to.