Softverski timovi proveli su desetljeća pretvarajući ljudske namjere u ponovljive sustave. AI agenti mijenjaju oblik tog rada: mogu protumačiti cilj, koristiti alate, promatrati rezultate i nastaviti prema ishodu. Važna promjena nije u tome što model može proizvesti kod. Riječ je o tome da dobro osmišljen agent može sudjelovati u radnom tijeku koji je prethodno zahtijevao da osoba prenosi kontekst iz jednog koraka u sljedeći.

Ta mogućnost zaslužuje i entuzijazam i disciplinu. Agent nije čarobna zamjena za inženjersku prosudbu. On je softverska komponenta s modelom u središtu, okružena uputama, dozvolama, alatima, stanjem i zaštitnim mjerama. Kada su ti dijelovi pažljivo osmišljeni, agenti mogu ukloniti zamoran koordinacijski rad i skratiti povratne petlje. Kada nisu, mogu automatizirati zbrku impresivnom brzinom.

Od sučelja za chat do sudionika radnog tijeka

Chatbot odgovara na upit. Agent radi na zadatku. Razlika je važna jer koristan rad obično uključuje više od jednog odgovora: provjeru repozitorija, prikupljanje zahtjeva, pozivanje interne usluge, provjeru izlaza i eskalaciju kada neizvjesnost ostane.

Razmotrite radni tijek trijaže podrške. Jednostavan asistent mogao bi sažeti poruku korisnika. Agent bi mogao klasificirati problem, pretražiti odobrenu dokumentaciju proizvoda, pregledati metapodatke računa putem ograničenog alata, sastaviti odgovor i usmjeriti slučaj odgovarajućem timu. Konačna odluka o izdavanju povrata novca ili izmjeni računa i dalje može ostati na čovjeku, ali velik dio ponavljajuće pripreme više nije ručan.

Isti obrazac primjenjuje se na razvojni rad. Agent može pretvoriti prijavu greške u ponovljiv scenarij, pronaći relevantan kod, predložiti ciljanu zakrpu, pokrenuti postojeće testove projekta i predstaviti dokaze za pregled. To je vrjednije od općenitog zahtjeva da se „napiše kod” jer je vezano uz provjerljiv radni tijek.

Arhitektura oko modela najvažnija je

Sposoban model samo je jedan sloj agentskog sustava. Pouzdani agenti grade se tako da se okolni slojevi učine eksplicitnima.

• Jasan cilj: Definirajte isporučivi rezultat i granicu. „Pripremi opis zahtjeva za povlačenje na temelju dovršenog diffa” jasnije je od „pomozi s izdanjem”.
• Pouzdan kontekst: Osigurajte aktualne, relevantne informacije iz odobrenih izvora umjesto da tražite od modela da nagađa na temelju općeg znanja.
• Ograničeni alati: Dajte agentu najmanji skup potrebnih radnji, s uskim ulazima i predvidljivim izlazima.
• Stanje: Sačuvajte što je pokušano, što je naučeno i što još treba potvrditi.
• Evaluacija: Provjerite izlaze testovima, shemama, determinističkim pravilima ili ljudskim odobrenjem prije nego što radnja ima značajne posljedice.

Ovaj dizajn mijenja inženjersko pitanje. Umjesto da pitate je li model dovoljno pametan, pitajte koji su dokazi potrebni radnom tijeku prije nego što može sigurno nastaviti. Ako agent uređuje konfiguracijsku datoteku, kojom se provjerom može dokazati da je dobivena konfiguracija sintaktički valjana? Ako sastavlja odgovor korisniku, koje provjere pravila moraju proći prije slanja?

Učinite alate dosadnima i specifičnima

Agenti najbolje rade s alatima koji se ponašaju poput dobrih internih API-ja: ograničeni, dobro dokumentirani i jednostavni za provjeru. Alat naziva get_deployment_status sa strukturiranim parametrom okruženja lakše je nadzirati nego neograničen pristup ljusci. Alat koji stvara prijavu trebao bi vratiti identifikator i status prijave, a ne odlomak koji agent mora tumačiti.

Specifični alati također čine putanje neuspjeha upravljivima. Poziv za status implementacije može isteći, vratiti pogrešku autorizacije ili prijaviti da okruženje ne postoji. Agent bi ih trebao prepoznati kao različita stanja: ponovno pokušati prolazni neuspjeh unutar ograničenih pravila, zatražiti pristup u slučaju neuspjeha autorizacije i zatražiti pojašnjenje kada je cilj dvosmislen. Tretiranje svih neuspjeha kao poticaja da se „pokuša ponovno” stvara petlje i skriva stvarne operativne probleme.

Započnite s ograničenim radom s mnogo trenja

Najbolji prvi projekti s agentima nisu najteatralniji. To su procesi s ponavljajućim koracima, mjerljivim ishodima i jasnim ljudskim vlasnikom. Održavanje dokumentacije, sažimanje incidenata, generiranje testnih slučajeva, usmjeravanje zaprimljenih zahtjeva i sastavljanje bilješki o izdanju često su bolja početna mjesta od autonomnih promjena u produkciji.

Praktično uvođenje može slijediti jednostavno napredovanje:

1. Mapirajte postojeći radni tijek, uključujući odluke, iznimke i primopredaje.
2. Automatizirajte jednu ograničenu fazu uz očuvanje postojećeg procesa.
3. Prikupite reprezentativne primjere i definirajte kako izgleda dobar rezultat.
4. Pokrenite agenta u načinu pregleda, u kojem preporučuje radnje, ali ih ne izvršava.
5. Dodijelite ograničena prava izvršavanja tek nakon što su rezultati dosljedno korisni i podložni reviziji.

Ovaj pristup izbjegava uobičajenu zamku: mjerenje uspjeha prema tome koliko agent samostalno djeluje. Samostalnost nije cilj. Ciljevi su bolji protok rada, manje pogrešaka koje se mogu izbjeći i brže odluke. Korak ljudskog pregleda često je značajka, posebno kada radni tijek utječe na korisnike, novac, sigurnost ili produkcijske sustave.

Dizajnirajte za neizvjesnost, a ne za savršene odgovore

Jezični modeli mogu zvučati sigurno čak i kada su dostupni dokazi nepotpuni. Dobar dizajn agenta daje neizvjesnosti produktivno mjesto. Agent bi trebao moći reći da ne može odrediti vrijednost, postaviti ciljano pitanje, odabrati sigurnu rezervnu opciju ili predati rad osobi uz sažet sažetak.

Za softverske radne tijekove to znači odvajanje generiranja od provjere. Agent može predložiti migraciju baze podataka, ali validator bi trebao provjeriti sintaksu, a recenzent procijeniti rizik gubitka podataka. Može predložiti naredbu, ali izvršno okruženje trebalo bi provoditi dozvole i bilježiti zapisnike. Može utvrditi vjerojatan osnovni uzrok, ali proces upravljanja incidentima trebao bi razlikovati hipotezu od potvrđenog nalaza.

Goal: update a dependency safely
1. Inspect the declared version and lockfile changes.
2. Read the package's release notes from an approved source.
3. Update the dependency in an isolated branch.
4. Run the existing install, build, and test commands.
5. Summarize changed files, results, and unresolved warnings.
6. Stop for approval before merging or deploying.

Vrijednost ovog niza nije u formulaciji modela. Ona je u kontroliranoj petlji: pregledaj, djeluj, provjeri, izvijesti i zaustavi se na pravoj granici.

Odgovorno usvajanje je operativni dizajn

Odgovorna umjetna inteligencija nije dokument s pravilima dodan nakon što agent proradi. Ona je dio dizajna sustava. Timovi bi trebali odlučiti kojim podacima agent može pristupiti, koje alate smije pozivati, kako se radnje bilježe, tko ga može nadjačati i kako ga brzo onemogućiti. Osjetljivi podaci ne bi se trebali unositi u upite samo zato što su dostupni. Produkcijske vjerodajnice ne bi se trebale izlagati samo zato što bi ih agent mogao koristiti.

Jednako je važno i promatranje sustava. Zabilježite ulaz zadatka, pozvane alate, relevantne izlaze, rezultate provjere i konačno rješenje u obliku primjerenom vašim sigurnosnim i privatnosnim zahtjevima. To omogućuje otklanjanje loših ishoda, poboljšanje upita i alata te dokazivanje da je osjetljiva radnja pregledana.

Evaluacija bi trebala biti kontinuirana, a ne ceremonijalna. Stvarni se ulazi razvijaju, alati se mijenjaju, a modeli se mogu ponašati drukčije nakon ažuriranja integracije. Održavajte mali skup reprezentativnih zadataka, uključujući nezgodne rubne slučajeve, i testirajte slijedi li agent i dalje obavezne granice. Kada ne uspije, poboljšajte radni tijek umjesto da ga jednostavno tražite da „bude oprezniji”.

Nova poluga je bolje sustavno razmišljanje

AI agenti neće učiniti softverski rad beznapornim. Učinit će dizajn radnih tijekova vidljivijim. Timovi koji razumiju sučelja, dozvole, testove, načine neuspjeha i povratne petlje bit će u boljem položaju od timova koji agente tretiraju kao pametno automatsko dovršavanje.

Najtrajnija prilika jest izgraditi sustave u kojima ljudi provode manje vremena premještajući informacije između alata, a više vremena primjenjujući prosudbu ondje gdje je važna. Počnite malim koracima, definirajte dokaze, zadržite značajne radnje reverzibilnima i olakšajte eskalaciju. Budući radni tijek nije onaj u kojem ljudi nestaju. To je onaj u kojem softver postaje sposobniji suradnik jer su ljudi dobro osmislili njegove granice.