Softverski timovi desetljećima guraju rad „ulijevo”: ranije testiranje, ranije sigurnosne provjere, ranije povratne informacije. Agenti umjetne inteligencije uvode značajniji pomak. Oni šire vlasništvo prema van.

Umjesto da od modela traže isječak koda i lijepe odgovor u uređivač, timovi agentu mogu zadati ograničen cilj: istražiti neuspjeli test, pratiti regresiju, ažurirati ovisnost, pripremiti plan migracije ili izraditi nacrt zahtjeva za spajanje s dokazima. Agent može pregledati kontekst, koristiti alate, donositi međukorake i izvijestiti o tome što se dogodilo.

To ne čini programere manje važnima. Ono izoštrava definiciju vlasništva nad softverom. Kada sustavi mogu djelovati, netko mora odlučiti što im je dopušteno raditi, kako se njihov rad pregledava i gdje ostaje odgovornost kada je rezultat pogrešan.

Od automatskog dovršavanja do delegiranog rada

Tradicionalna pomoć pri programiranju uglavnom je transakcijska. Programer zatraži objašnjenje, funkciju ili prijedlog refaktoriranja, a zatim provjeri i primijeni rezultat. Agentski sustav usmjeren je na cilj. Može podijeliti zadatak na korake, pročitati repozitorij, pokrenuti testove, pregledati zapisnike, pozvati interne usluge i prilagoditi pristup nakon neuspjeha.

Razlika je važna jer glavni rizik više nije samo netočno generirani kôd. To je netočno djelovanje u stvarnom okruženju.

Korisno je o agentima razmišljati kao o juniornim operaterima neuobičajene brzine i širine. Mogu dobro obavljati ponavljajuće istraživanje i izvršavanje kada je zadatak ograničen. Također mogu samouvjereno griješiti, pogrešno razumjeti lokalne konvencije ili slijediti uvjerljiv put koji ima pogrešnu poslovnu posljedicu.

Pravo pitanje nije: „Može li ovaj agent pisati kôd?” Nego: „Koji ishod ovaj agent može sigurno ostvariti i koje dokaze mora pružiti prije nego što čovjek prihvati taj ishod?”

Vlasništvo postaje problem dizajna sustava

Kada timovi uvode agente, vlasništvo mora biti osmišljeno unutar tijeka rada, a ne pretpostavljeno. Programer i dalje posjeduje promjenu isporučenu u produkciju. Tehnički voditelj i dalje posjeduje inženjerske standarde i operativni model. Dioničari iz proizvoda i sigurnosti i dalje posjeduju odluke koje utječu na korisnike, podatke i rizik.

Ono što se mijenja jest lanac delegiranja.

Učinkovit tijek rada s agentom čini taj lanac vidljivim. Određuje vlasnika zadatka, dopuštene alate i dozvole, očekivane artefakte, točku pregleda i put povratka. Ako je bilo što od toga nejasno, automatizacija obično pojačava nejasnoću umjesto da je ukloni.

Definirajte granicu prije upita

Timovi često počinju dugim uputnim upitom. Bolje je krenuti od granice: što agent smije čitati, što smije mijenjati, što nikada ne smije učiniti i kada mora stati radi odobrenja.

• Agenti samo za čitanje mogu pretraživati kôd, sažimati incidente, mapirati ovisnosti i predlagati popravke.
• Agenti za izradu nacrta mogu stvarati zakrpe, testove, dokumentaciju ili opise zahtjeva za spajanje bez spajanja ili uvođenja u produkciju.
• Agenti za izvršavanje mogu izvoditi strogo definirane radnje, poput ažuriranja testne pripreme ili otvaranja ulaznice, uz kontrolirane vjerodajnice.
• Radnje velikog utjecaja poput promjena u produkciji, brisanja podataka, promjena dozvola i vanjske komunikacije trebale bi zahtijevati izričito ljudsko odobrenje, osim ako usko projektirani proces ne određuje drukčije.

Ova struktura nije birokracija. Tako tim nejasnog „AI asistenta” pretvara u razumljivu komponentu svojeg sustava isporuke.

Počnite s tijekovima rada koji stvaraju dokaze

Najbolji početni slučajevi uporabe nisu nužno najimpresivnije demonstracije. To su zadaci čiji se uspjeh može provjeriti i za koje agent može ostaviti jasan trag.

Razmotrite nestabilan test. Agent može prikupiti nedavne neuspjehe, prepoznati zajedničku pripremu, pregledati kôd osjetljiv na vrijeme i predložiti zakrpu. Njegov izlaz trebao bi uključivati sumnjivi uzrok, izmijenjene datoteke, pokrenute naredbe, rezultate testova, nerazriješenu neizvjesnost i predloženog recenzenta. Ljudski recenzent ne provjerava samo sintaksu; procjenjuje podupiru li dokazi zaključak.

Isti obrazac vrijedi za održavanje ovisnosti. Agent može ažurirati paket, utvrditi promjene koje narušavaju postojeću uporabu projekta, pokrenuti postojeći paket testova i pripremiti sažet pregled promjene. Ne bi trebao neprimjetno proširiti zadatak na nepovezano čišćenje ili objaviti izdanje zato što su testovi prošli.

Praktičan zadatak za agenta ima tri svojstva:

• Cilj je dovoljno specifičan da se može procijeniti.
• Dostupni alati ograničeni su na ono što cilj zahtijeva.
• Rezultat se može pregledati putem artefakata, testova, zapisnika ili razlika.

Ako zadatak ne može ispuniti te uvjete, najprije koristite agenta za analizu ili izradu nacrta. Proširivanje autonomije prije vidljivosti čest je način stvaranja krhke automatizacije.

Ugradite zaštitne ograde u okruženje

Upute u upitu važne su, ali nisu sigurnosna granica. Agent ne bi smio moći izvršiti radnje za koje mu nije dodijeljena dozvola. To je osobito važno kada agenti mogu pozivati ljuske, alate u oblaku, sustave za praćenje zadataka, sustave za uvođenje u produkciju ili spremišta podataka.

Koristite vjerodajnice s najmanjim potrebnim ovlastima, izolirana radna područja, popise dopuštenih alata i kratkotrajni pristup gdje je to moguće. Odvojite okruženja za planiranje, testiranje i produkciju. Učinite destruktivne radnje izričitima i reverzibilnima. Bilježite pozive alata i izlaze kako bi se incident mogao rekonstruirati bez oslanjanja na sažetak modela.

Na primjer, agentu zaduženom za popravak izgradnje može se dopustiti da stvori granu i pokrene testove u izoliranom okruženju. Ne trebaju mu vjerodajnice za spajanje koda, rotiranje tajni ili izmjenu produkcijske konfiguracije. Ako zadatak zahtijeva neku od tih radnji, tijek rada trebao bi ga predati osobi ili namjenskom procesu izdavanja pod kontrolom pravila.

Neuspjeh učinite ishodom prve klase

Pouzdani sustavi ne pretpostavljaju da svaki pokušaj uspijeva. Agenti bi trebali imati ograničenja vremena, troška, ponovnih pokušaja i opsega. Trebali bi stati kada testovi ostanu neuspješni nakon definiranog broja pokušaja, kada naiđu na nedostajući pristup ili kada predložena promjena utječe na datoteke izvan odobrenog područja.

Dobar izvještaj o neuspjehu vrijedan je rad. Može navesti što je pokušano, koji su dokazi pronađeni, zašto je napredak stao i što bi čovjek trebao sljedeće pregledati. To je daleko bolje od ponavljanih spekulativnih izmjena koje repozitorij ostavljaju težim za razumijevanje.

Pregledajte zaključivanje kroz radni rezultat

Postoji iskušenje pitati je li zaključivanje agenta pouzdano. U isporuci softvera korisnije je pitanje može li se rezultat pregledati i je li primjereno provjeren za razinu rizika.

Pregledajte razliku. Pregledajte testove. Pregledajte plan migracije. Provjerite pretpostavke u odnosu na bazu koda i operativni kontekst. Zahtijevajte da agenti razlikuju činjenice koje su uočili od zaključaka koje su izveli. Kada ne mogu potvrditi pretpostavku, ta neizvjesnost pripada predaji.

Ovaj pristup također poboljšava ljudsku inženjersku praksu. Jasni kriteriji prihvaćanja, ponovljivi testovi, dobro ograničene ulaznice i održiva dokumentacija čine ljude učinkovitijima i agente sigurnijima za uporabu. Spremnost za agente često je znak zrelosti sustava isporuke, a ne zasebna inicijativa za umjetnu inteligenciju.

Trajna prednost je bolje delegiranje

Agenti umjetne inteligencije promijenit će način raspodjele softverskog rada, ali neće izbrisati odgovornost. Timovi koji će imati najviše koristi neće biti oni koji predaju najviše ovlasti. Bit će to oni koji promišljeno delegiraju, instrumentiraju tijek rada i zadržavaju ljude odgovornima za važne prosudbe.

U tom modelu agenti obavljaju ponovljivi napor između namjere i dokaza. Programeri provode više vremena na arhitekturi, kompromisima, utjecaju na korisnike i teškim pitanjima na koja nijedan alat ne može sam odgovoriti.

To je sljedeća granica vlasništva nad softverom: ne prepuštanje kontrole automatizaciji, nego dizajniranje sustava u kojima automatizacija može zaslužiti povjerenje jednom ograničenom odlukom odjednom.