AI agenti prelaze od impresivnih demonstracija do korisnih suradnika u životnom ciklusu softvera. Važna promjena nije u tome što model može proizvesti kod ili sažeti zahtjev. Riječ je o tome da sustav može ostvarivati ograničeni cilj: pregledati kontekst, odabrati sljedeću radnju, koristiti odobrene alate, provjeriti rezultat i zatražiti pomoć kada nesigurnost ostane.

Ta je razlika važna. Jedan upit može ubrzati zadatak. Agentski tijek rada može smanjiti poteškoće povezane sa zadatkom: prikupljanje dokaza, ažuriranje nacrta, pokretanje testa, priprema pregleda ili usmjeravanje incidenta pravoj osobi. Ako se dobro koriste, agenti čine rad na softveru promišljenijim, a ne manje promišljenim.

Što AI sustav čini agentom?

Agent kombinira jezični model s uputama, kontekstom, alatima i povratnom spregom. Umjesto da vrati jedan odgovor i stane, može poduzeti niz ograničenih radnji prema ishodu.

U razvojnom okruženju agent može pročitati opis problema, pregledati repozitorij, utvrditi relevantne datoteke, predložiti malu izmjenu, pokrenuti usmjereni test i prikazati dobivenu razliku na pregled. Model pruža sposobnost zaključivanja i jezika; okružujući sustav pruža dozvole, granice i pouzdano stanje.

U okružujućem se sustavu nalazi većina inženjerske discipline. Agenta ne treba tretirati kao autonomnog zaposlenika sa širokim pristupom. Treba ga tretirati kao komponentu aplikacije čije odluke zahtijevaju jasne ulaze, sigurne alate, vidljivo izvršavanje i definirane putove eskalacije.

Počnite s tijekovima rada, a ne osobnostima

Najproduktivniji slučajevi uporabe često su uski, ponavljajući i lako procjenjivi. „Pomozi poboljšati inženjersku produktivnost” previše je neodređeno za dizajniranje ili mjerenje. „Pretvori odobrene izvještaje podrške u nacrte grešaka koji se mogu reproducirati” mnogo je bolje.

Dobri početni kandidati obično imaju tri svojstva:

• Uključuju prikupljanje ili preoblikovanje informacija iz poznatih sustava.
• Imaju koristan rezultat čitljiv ljudima, poput nacrta, kontrolnog popisa, klasifikacije ili predložene izmjene.
• Mogu se provjeriti prema izričitim kriterijima prije nego što se dogodi bilo što značajno.

Razmotrite agenta za pripremu zahtjeva za spajanje. Njegov zadatak nije spajanje koda. Može sažeti izmjenu, utvrditi pogođene komponente, pronaći relevantne testove, označiti nedostajuću dokumentaciju i predložiti recenzente na temelju deklariranih pravila vlasništva. Razvojni inženjer i dalje odlučuje je li sažetak točan i treba li izmjena ići dalje.

Ova je podjela rada moćna jer strojevima dodjeljuje skupi posao sastavljanja konteksta, a pritom zadržava ljudsku prosudbu ondje gdje su namjera proizvoda, rizik i kompromisi najvažniji.

Namjerno uključite agente u životni ciklus

Planiranje i otkrivanje

Agenti mogu pretvoriti nestrukturirane ulaze u korisne početne točke. Na temelju povratnih informacija kupaca, bilješki o incidentima i zahtjeva proizvoda agent može izraditi predloženu izjavu problema, pretpostavke koje treba provjeriti, otvorena pitanja i kriterije prihvaćanja. Njegov bi izlaz trebao biti nacrt za raspravu, a ne zamjena za otkrivanje.

Praktična zaštitna mjera jest zahtijevati od agenta da razlikuje dokaz od zaključka. Primjerice, može označiti izjavu kao „prijavljeno ponašanje”, „zapažanje u repozitoriju” ili „pretpostavka koja zahtijeva potvrdu”. To ubrzava pregled i sprječava da se uglađena priča zamijeni za provjerenu činjenicu.

Implementacija i pregled

Agenti za programiranje najpouzdaniji su kada se rad razloži na male dijelove koji se mogu testirati. Dajte im skup uputa specifičan za repozitorij: stilske konvencije, naredbe koje je sigurno pokretati, direktorije koji su zabranjeni i definiciju dovršenosti. Zatražite plan prije uređivanja kada izmjena prelazi arhitektonske granice.

Pristup alatima treba odgovarati zadatku. Agent samo za čitanje može istraživati i predlagati. Agent kojem je dopušteno stvoriti granu može pripremiti zakrpu. Agent s pristupom implementaciji zahtijeva znatno jače kontrole jer netočna radnja može utjecati na korisnike, a ne samo potrošiti vrijeme za pregled.

Jedan koristan obrazac izvršavanja je:

1. Pročitajte zadatak i relevantne lokalne smjernice.
2. Pregledajte samo vjerojatno pogođeni kod i testove.
3. Iznesite sažet plan implementacije.
4. Napravite najmanju smislenu izmjenu.
5. Pokrenite propisane usmjerene provjere.
6. Prijavite izmijenjene datoteke, rezultate, nesigurnosti i preostale odluke za pregled.

Ovaj obrazac čini rad agenta preglednim. Također izbjegava uobičajeni način neuspjeha: model radi opsežne izmjene jer je zatraženo da „popravi sve” bez preciznog uvjeta uspjeha.

Operacije i podrška

Operativni agenti mogu ubrzati trijažu, a da ne postanu konačni autoritet. Mogu prikupljati zapisnike iz odobrenih izvora, povezati upozorenje s nedavnim izmjenama, sastaviti vremensku crtu incidenta i predložiti korake iz operativnog priručnika. No radnje u produkciji trebaju biti razvrstane po razinama. Čitanje informacija o statusu razlikuje se od ponovnog pokretanja usluge; ponovno pokretanje usluge razlikuje se od mijenjanja podataka ili kontrola pristupa.

Za radnje s velikim utjecajem zahtijevajte korak ljudskog odobrenja i prikažite točnu predloženu naredbu ili izmjenu. Dobar agent ne skriva svoj rad iza umirujuće rečenice. Pokazuje što je uočio, što predlaže, zašto to predlaže i što bi moglo poći po zlu.

Dizajnirajte za neuspjeh, a ne samo za uspjeh

Agenti će pogrešno razumjeti zahtjeve, dobiti nepotpun kontekst, naići na pogreške alata i povremeno proizvesti uvjerljiva, ali pogrešna objašnjenja. Pouzdanost proizlazi iz očekivanja takvih slučajeva.

• Ograničite radnje: izložite mali skup namjenski izrađenih alata umjesto neograničenog pristupa ljusci ili bazi podataka.
• Provjeravajte izlaze: koristite sheme, testove, provjere pravila i, prema potrebi, ljudski pregled.
• Ograničite ponovne pokušaje: ponovljeni pokušaji mogu pretvoriti prolaznu pogrešku u duplicirani rad ili rastući trošak.
• Očuvajte sljedivost: zabilježite zahtjev, relevantni kontekst, pozive alata, rezultate i konačnu odluku.
• Definirajte predaje: kada je pouzdanost niska ili se dosegne granica pravila, agent treba stati i pitati.

Ponovni pokušaji zaslužuju posebnu pozornost. Siguran tijek rada razlikuje neuspjelu operaciju čitanja od neuspjele operacije pisanja. Ponovni pokušaj čitanja može biti razuman nakon privremenog kvara usluge. Ponovni pokušaj pisanja bez provjere je li već uspio može stvoriti duplicirane zahtjeve, duplicirane obavijesti ili nedosljedne zapise. Idempotentni alati i eksplicitni identifikatori operacija smanjuju taj rizik.

Mjerite rad, a ne spektakl

Uvođenje agenata treba procjenjivati kao i svako drugo inženjersko ulaganje. Pratite smanjuje li tijek rada vrijeme ciklusa, poboljšava li potpunost, smanjuje opterećenje prekidima ili pomaže ljudima donositi bolje odluke. Također pratite stopu ispravaka, napuštena izvršavanja, učestalost eskalacija i incidente uzrokovane automatizacijom. Brži tijek rada koji tiho stvara više prerade nije poboljšanje.

Kvalitativne povratne informacije također su važne. Ako razvojni inženjeri ne mogu razumjeti što je agent promijenio ili zašto, ili mu uopće neće vjerovati ili će ga previše olako odobravati. Oba su ishoda opasna. Objašnjivost ovdje ne zahtijeva otkrivanje svakog internog koraka modela; zahtijeva jasan, provjerljiv prikaz ulaza, radnji i dokaza.

Neka ljudska odgovornost ostane vidljiva

Trajna vrijednost AI agenata nije isporuka softvera bez ljudskog rada. Ona je u tome da sposobnim ljudima pruže više prostora za dizajn, prosudbu, učenje i razumijevanje kupaca smanjivanjem mehaničkog koordinacijskog rada.

Timovi koji će imati najviše koristi neće biti oni koji prvi dodijele najšire dozvole. Bit će to timovi koji odaberu koristan tijek rada, definiraju granice, učine ishode vidljivima i poboljšavaju sustav na temelju stvarnih povratnih informacija. Agent postaje pouzdan na isti način kao i svaki softverski sustav: pažljivim dizajnom, umjerenim opsegom i ponovljenim dokazima da se dobro ponaša kada je svijet neuredan.