Desetljećima je odgovornost za razvoj softvera bila na poznatom mjestu: kod ljudi koji poslovne potrebe pretvaraju u kôd, testove, implementacije i operativne ispravke. Agenti umjetne inteligencije počinju mijenjati to težište. Ne zato što zamjenjuju inženjersku prosudbu, nego zato što sada mogu preuzeti značajne dijelove posla od namjere do izvršenja.

Ovo je dublja promjena od automatskog dovršavanja. Sposoban agent može pročitati zahtjev, pregledati bazu koda, predložiti plan, izmijeniti ograničeni skup datoteka, pokrenuti testove, sažeti neuspjehe i pripremiti promjenu za pregled. Razvojni inženjer više nije samo autor svakog retka. Sve više postaje vlasnik sustava koji odlučuje koji je posao sigurno delegirati, kako se on provjerava i kada mu je dopušteno nastaviti.

Odgovornost se premješta s tipkanja na ishode

Tradicionalni razvojni alati pojačavaju pojedinačnu radnju: prevoditelj provjerava sintaksu, pokretač testova procjenjuje ponašanje, a uređivač olakšava pisanje. Agent djeluje kroz više radnji. Može slijediti cilj kroz nekoliko koraka, koristeći alate i međurezultate kako bi odlučio što učiniti sljedeće.

To mijenja praktičnu definiciju odgovornosti. Najvrjednije pitanje više nije jednostavno: „Tko je napisao ovaj kôd?” Postaje: „Tko je definirao cilj, ograničenja, kriterije prihvaćanja i postupak provjere koji su ovu promjenu učinili pouzdanom?”

Za malu promjenu agent može izraditi implementaciju koju razvojni inženjer pregledava redak po redak. Za veći zadatak može pomoći razložiti rad na sigurne cjeline, utvrditi zahvaćene komponente, izraditi nacrt testova i istaknuti neizvjesnosti. U oba slučaja odgovornost ostaje ljudska. Delegiranje ne prenosi odgovornost; ono odgovornost čini više arhitektonskom.

U čemu su agenti doista dobri

Agenti su najkorisniji kada zadatak ima jasnu granicu, dostupan kontekst i objektivan način provjere rezultata. Mogu smanjiti opterećenje ponavljajućeg inženjerskog rada, dok ljudima omogućuju da se usredotoče na dvosmislene odluke.

• Snalaženje u repozitoriju: pronalaženje relevantnih modula, konfiguracije, testova i dokumentacije prije nego što razvojni inženjer počne uređivati.
• Mehaničke promjene: ažuriranje ponavljajućih obrazaca, preimenovanje ograničenih sučelja ili dodavanje dosljedne provjere valjanosti kada je namjeravano ponašanje već poznato.
• Podrška za testiranje: predlaganje rubnih slučajeva, izrada početne strukture testova i tumačenje jednostavnih neuspjeha testova.
• Operativna pomoć: izrada nacrta operativnih priručnika, sažimanje zapisnika ili sastavljanje kontrolnog popisa za implementaciju na temelju ustaljenih postupaka.
• Obnova znanja: pretvaranje raspršenih komentara u kôdu, zahtjeva i dokumenata u sažeto objašnjenje koje tim može provjeriti.

Uočite zajedničku nit: to nisu zadaci u kojima bi agent trebao izmišljati strategiju proizvoda ili potajno odabrati rizičan kompromis. To su zadaci u kojima može ubrzati otkrivanje i izvršenje pod izričitim kontrolama.

Agentima trebaju operativne granice, a ne neodređeno povjerenje

Agent umjetne inteligencije ne postaje siguran zato što njegov izlaz zvuči samouvjereno. Njegova pouzdanost proizlazi iz okruženja koje ga okružuje. Dobro uvođenje počinje s dopuštenjima, opsegom i dokazima.

Dajte agentu uski mandat

Zahtjev poput „poboljšaj uslugu plaćanja” poziva na nekontrolirano tumačenje. Bolji zahtjev utvrđuje ciljno ponašanje, zahvaćeno područje, što nije cilj i potreban dokaz. Na primjer: dodajte provjeru valjanosti za nedostajuće polje zahtjeva, zadržite postojeće formate odgovora, ažurirajte usmjerene testove i ne mijenjajte ponašanje autentifikacije ni baze podataka.

Precizniji opis ne ograničava korisnu autonomiju. On agentu daje cilj koji se može procijeniti.

Neka provjera bude dio zadatka

„Napiši kôd” nije dovoljno. Dobro preuzet zadatak uključuje provjere koje uspostavljaju povjerenje: relevantne testove, statičku analizu, provjere tipova, zahtjeve za sigurnosni pregled i ljudsko odobrenje. Ako agent ne može pokrenuti provjeru, njegovo izvješće to treba jasno navesti, umjesto da podrazumijeva uspjeh.

npm test
npm run lint
npm run typecheck

Ove naredbe imaju značenje samo kada pripadaju dokumentiranom tijeku rada projekta. Načelo je univerzalno: agentov prijavljeni dovršetak trebao bi biti vezan uz vidljive rezultate, a ne uz uglađen sažetak.

Odvojite čitanje od djelovanja

Mnogi tijekovi rada s agentima trebali bi početi pristupom samo za čitanje. Dopustite agentu da pregleda kôd, izradi plan, utvrdi rizike i predloži zakrpu prije nego što dobije dopuštenje za bilo kakvu izmjenu. Produkcijski sustavi zaslužuju još snažnije razdvajanje: analiza može biti široka, ali radnje koje mijenjaju podatke, infrastrukturu, kontrole pristupa ili ponašanje vidljivo korisnicima trebale bi zahtijevati izričito odobrenje koje se može revidirati.

Uloga razvojnog inženjera postaje utjecajnija

Ova promjena povećava vrijednost vještina koje su oduvijek bile važne, ali su ponekad bile skrivene iza opsega implementacije. Razvojni inženjeri moraju dobro oblikovati probleme, prepoznati nepotpune zahtjeve, modelirati načine neuspjeha i oblikovati povratne sprege. Također moraju znati kada zahtjev ne treba automatizirati.

Razmotrite prijavu pogreške koja navodi da je korisniku dvaput naplaćeno. Agent može pretražiti obradu idempotentnosti, pratiti vjerojatne putanje poziva i prikupiti relevantne testove. No odluka o izdavanju povrata, promjeni semantike transakcija ili izmjeni ponašanja ponovnih pokušaja poslovna je odluka i odluka o riziku. Razvojni inženjer ili tehnički voditelj mora koordinirati odgovarajuće vlasnike, utvrditi činjenice i ograničiti rješenje.

Agenti povećavaju razliku između preciznog i nepreciznog zahtjeva. Jasna specifikacija može proizvesti značajan koristan nacrt. Nejasna specifikacija može velikom brzinom proizvesti veliku, koherentno izgledajuću pogrešku.

Izgradite inženjerski sustav spreman za agente

Timovi koji imaju najveću korist nisu nužno oni s najnaprednijim modelom. To su timovi čije inženjerske prakse čine namjeru i ispravnost vidljivima. Čist skup testova, pouzdano lokalno postavljanje, usmjerena dokumentacija, mali zahtjevi za spajanje i predvidljivi putovi implementacije poboljšavaju ljudski rad. Također agentima daju sigurniji put za doprinos.

1. Počnite s jednim ponovljivim radnim tijekom niskog rizika.
2. Definirajte dopuštene alate, datoteke, okruženja i radnje.
3. Zahtijevajte plan i sažetak promijenjenih pretpostavki.
4. Pokrenite automatizirane provjere i zadržite njihove rezultate uz promjenu.
5. Pregledavajte ishode, a ne samo generirani kôd, te unapređujte tijek rada na temelju neuspjeha.

Ovaj pristup izbjegava obje krajnosti: tretiranje agenata kao čarobnih suigrača ili njihovu zabranu dok ne postanu savršeni. Oni su probabilistički sustavi koji djeluju unutar determinističkih i društvenih sustava. Inženjerski je posao stvoriti zaštitne ograde koje njihov korisni raspon pretvaraju u pouzdanu prednost.

Odgovornost je trajna prednost

Trajni učinak agenata umjetne inteligencije neće se mjeriti brojem redaka koje generiraju. Mjerit će se time mogu li timovi provoditi bolje promjene s jasnijom namjerom, snažnijim dokazima i manje vremena izgubljenog na rutinsku koordinaciju.

Odgovornost za softver pomiče se naviše: od tipkanja svakog detalja implementacije prema oblikovanju uvjeta u kojima se implementacija odvija. Razvojni inženjeri koji će napredovati bit će oni koji mogu definirati granice, postavljati preciznija pitanja, pregledavati dokaze i zadržati ljude odgovornima za posljedice. U budućnosti s agentima to nije manje inženjerstva. To je inženjerstvo sa širim područjem odgovornosti.