Najvažniji pomak u razvoju softvera potpomognutom umjetnom inteligencijom nije to što model može napisati funkciju. Riječ je o tome da agent sada može dobiti željeni ishod, pregledati bazu koda, izraditi plan, izmijeniti nekoliko datoteka, pokrenuti provjere i vratiti se s predloženim rezultatom.

To je drukčija vrsta poluge. Također stvara drukčiju vrstu odgovornosti.

Automatsko dovršavanje drži programera čvrsto u procesu: zatražite redak, odmah ga procijenite i nastavite. Agent djeluje kroz širi dio radnog tijeka. Može odabrati datoteke, zaključiti o konvencijama, pozivati alate, ponovno pokušati neuspjelu naredbu i odlučiti da jedna promjena zahtijeva drugu. Kada se to dogodi, ključno pitanje više nije „Može li ova umjetna inteligencija proizvesti kôd?” Postaje „Koji posao ovom sustavu treba povjeriti da preuzme i pod kojim kontrolama?”

Vlasništvo se odnosi na odluke, a ne na pritiske tipki

Nazvati agenta „vlasnikom” ne znači dati mu neograničene ovlasti. Znači dodijeliti mu ograničenu odgovornost s jasnom definicijom dovršenosti.

Na primjer, „ažuriraj ovisnost” nije dovoljno precizno. Bolji zadatak je: ažuriraj biblioteku na kompatibilnu verziju, prilagodi izravna korištenja na koja promjena utječe, pokreni relevantni skup testova i sažmi svaki neriješeni rizik kompatibilnosti. Agent ima cilj, ograničenja i način da pokaže napredak.

Dobre granice vlasništva obično su uže nego što timovi isprva očekuju. Agenti su osobito korisni kada zadatak ima ponovljivu mehaniku, ali i dalje koristi prosudbi:

• Dodavanje testova za postojeće ponašanje i prepoznavanje netestiranih rubnih slučajeva.
• Provođenje mehaničke migracije API-ja kroz repozitorij.
• Praćenje pogreške kroz zapise, putanje koda i nedavne promjene, a zatim predlaganje minimalne zakrpe.
• Generiranje kontrolnog popisa za izdanje iz konvencija repozitorija i promijenjenih komponenti.
• Pregled zahtjeva za povlačenje radi usklađenosti s lokalnim obrascima i navedenim zahtjevima.

To nisu trivijalni zadaci. To su zadaci u kojima agent može ubrzati istraživanje i izvršavanje, dok čovjek ostaje odgovoran za odluku koja je važna.

Dajte agentima radni prostor, a ne nejasnu želju

Većina razočaravajućih rezultata agenata počinje nejasnim zahtjevom. „Poboljšaj rukovanje pogreškama” može značiti dodavanje ponovnih pokušaja, mijenjanje korisničke poruke, očuvanje više konteksta, bilježenje telemetrije ili redizajn toka upravljanja. Agent će praznine popuniti pretpostavkama. Ponekad će te pretpostavke biti razumne. Ponekad će biti skupe.

Jači opis zadatka navodi ciljano ponašanje, granice i dokaz potreban prije dovršetka. Može uključivati:

• Relevantnu uslugu, komponentu ili korisničko putovanje.
• Što se ne smije promijeniti, poput javnih sučelja ili sheme baze podataka.
• Postojeće testove, konvencije ili dokumente dizajna koji trebaju usmjeravati rad.
• Naredbe ili provjere koje uspostavljaju pouzdanost.
• Uvjeti koji zahtijevaju da agent stane i zatraži pregled.

To nije birokracija. To je sučelje. Ljudi bolje rade uz jasne ugovore, a isto vrijedi i za agente.

Razmotrite zahtjev za dodavanje rukovanja ponovnim pokušajima oko mrežnog poziva. Sposoban agent ne bi smio samo omotati poziv petljom. Mora razlikovati prolazne neuspjehe od nevaljanih zahtjeva, spriječiti duplicirane nuspojave, postaviti ograničenje ponovnih pokušaja, sačuvati izvorni kontekst neuspjeha i osigurati da pozivatelj i dalje može primjereno reagirati kada svi pokušaji ne uspiju. Ako operacija stvara plaćanje, šalje e-poštu ili mijenja zajedničko stanje, siguran odgovor može ovisiti o idempotentnosti, a ne samo o ponovnim pokušajima.

Praktična je pouka jednostavna: delegirajte ishode tek nakon što ste opisali sigurnosna svojstva tih ishoda.

Provjera postaje stvarno usko grlo

Kada je proizvodnja koda skupa, timovi prirodno provode velik dio vremena pišući ga. Kada proizvodnja koda postane jeftina, oskudni resurs pomiče se prema provjeri: razumijevanju namjere, provjeri ispravnosti, procjeni sigurnosnih posljedica i odlučivanju pripada li promjena sustavu.

To ne čini programere manje važnima. Njihovu prosudbu čini vrednijom.

Agent može generirati uvjerljivu zakrpu koja prolazi uski skup testova, a pritom krši pretpostavku koju nijedan test nije obuhvatio. Može slijediti lokalni obrazac koji je i sam bio povijesna pogreška. Može ispuniti zahtjev za sretan put, a istodobno oslabiti autorizaciju, vidljivost ili ponašanje vraćanja na prethodno stanje.

Zbog toga bi radni tijekovi s agentima trebali provjeru učiniti izričitom, umjesto da je tretiraju kao neobavezan završni korak. Korisno izvješće o dovršetku odgovara na pitanja poput:

• Što se promijenilo i zašto?
• Koje su datoteke ili sučelja namjerno ostavljeni netaknuti?
• Koje su provjere pokrenute i što su utvrdile?
• Što je tijekom rada bilo neuspješno, ako išta, i kako je to riješeno?
• Koje pretpostavke još trebaju ljudsku odluku?

Izvješće je važno jer neprozirni nalet automatizacije pretvara u inženjerski rad koji se može pregledati. Također uči tim razlikovati dokaze od pouzdanosti. „Agent kaže da je popravljeno” nije dokaz. Ciljani test, ponovljiv scenarij, pažljiva razlika i jasno objašnjenje jesu.

Koristite dozvole kao alat za dizajn

O sigurnosti agenata često se govori kao o problemu modela, ali mnoge stvarne kontrole obične su inženjerske kontrole. Odvojena okruženja. Vjerodajnice s najmanjim potrebnim ovlastima. Zaštićene grane. Obavezan pregled. Ograničeni tokeni. Revizijski zapisi. Povratne implementacije.

Agent koji može čitati repozitorij i pokretati testove ima vrlo drukčiji profil rizika od onoga koji može mijenjati produkcijske podatke, rotirati tajne, spajati kôd ili objaviti izdanje. Nemojte te dozvole svesti na jednu široku kategoriju zvanu „automatizacija”. Agentu dajte najmanji skup sposobnosti potreban za njegov trenutačni posao.

Za radni tijek usmjeren na implementaciju, razuman slijed često je:

1. Agent priprema promjenu i pokreće lokalne ili izolirane provjere.
2. Čovjek pregledava razliku i dokaze.
3. Kontinuirana integracija provjerava promjenu u kontroliranom okruženju.
4. Zaseban, izričito odobren korak promovira odobreni artefakt.
5. Postupci nadzora i vraćanja na prethodno stanje ostaju dostupni nakon izdanja.

To može djelovati sporije od davanja agentu izravnog puta do produkcije. U praksi čuva brzinu ondje gdje je brzina korisna i uvodi namjerno trenje ondje gdje je pogreške teško poništiti.

Gradite radne tijekove agenata oko neuspjeha

Pouzdani sustavi pretpostavljaju da naredbe ne uspijevaju, ovisnosti nisu dostupne, testovi su nestabilni i zahtjevi nepotpuni. Agentima je potrebna ista disciplina.

Robustan agent ne bi smio beskonačno ponovno pokušavati neuspjelu radnju niti tiho odabrati rizično zaobilazno rješenje. Trebao bi imati ograničene ponovne pokušaje, zabilježiti koristan izlaz, promijeniti strategiju samo kada je razlog jasan i eskalirati kada dosegne granicu dozvola ili nejasnu odluku o proizvodu.

Timovi bi te točke eskalacije trebali unaprijed definirati. Agent može automatski popraviti formatiranje. Može predložiti migraciju baze podataka. Trebao bi stati prije primjene destruktivne migracije, mijenjanja pravila kontrole pristupa, izlaganja nove javne krajnje točke ili rješavanja sukoba između sigurnosti i ponašanja proizvoda bez ljudskog izbora.

Ta je razlika mjesto zrelog usvajanja: ne u pretvaranju da je agent nepogrešiv, nego u dizajniranju radnog tijeka koji ostaje koristan kada je nesiguran.

Uloga programera pomiče se više u stogu

Kako agenti preuzimaju više implementacijskog rada, snažni programeri provodit će više vremena oblikujući probleme, postavljajući ograničenja, pregledavajući ponašanje sustava i poboljšavajući okruženje u kojem automatizacija djeluje. Čista arhitektura, pouzdani testovi, jasna dokumentacija i disciplinirane prakse implementacije postaju još vredniji jer agentima pružaju bolju podlogu.

Timovi koji će imati najviše koristi neće biti oni koji od umjetne inteligencije traže da zamijeni inženjerstvo. Bit će to oni koji ponavljajući inženjerski rad pretvaraju u dobro ograničene, vidljive i povratne petlje.

Agenti umjetne inteligencije mogu učiniti da radni tijek koda gotovo odmah djeluje brže. Trajna prednost dolazi od nečeg tišeg: izgradnje dovoljno jasnoće i kontrole da automatizacija zasluži povjerenje, jednu ograničenu odgovornost odjednom.