Sljedeća važna uloga u dizajnu softvera možda neće biti „inženjer promptova”. Ona je bliža ulozi arhitekta: nekoga tko nejasan poslovni cilj može pretvoriti u AI sustav koji se ponaša korisno, sigurno i dovoljno predvidljivo da zasluži mjesto u stvarnom radu.

Ta je razlika važna. Uvjerljiva demonstracija modela može odgovoriti na pitanje, sažeti dokument ili generirati kôd u nekoliko sekundi. Produkcijski agent mora odlučiti koje su mu informacije potrebne, koje alate smije koristiti, kada treba zatražiti pomoć, kako se oporaviti od neuspjeha i koje dokaze ostavlja za sobom. To su problemi softverske arhitekture.

Za razvojne programere i tehničke stručnjake to nije razlog za napuštanje ustaljene inženjerske prakse. To je poziv da je primijene na novu vrstu komponente: onu čiji su izlazi probabilistički, čije je razumijevanje nepotpuno i čije pogreške mogu biti iznenađujuće uvjerljive.

O agentu razmišljajte kao o sustavu, a ne kao o chatbotu

AI agenta najbolje je razumjeti kao radni tijek s modelom u središtu, a ne kao model s nekoliko značajki radnog tijeka oko njega. Model tumači kontekst i predlaže sljedeću radnju. Okolni sustav pruža pravila, alate, stanje, provjeru valjanosti i granice koje tu radnju čine korisnom.

Razmotrite internog agenta za podršku koji pomaže zaposlenicima riješiti probleme s pristupom. Možda treba čitati bazu znanja, identificirati relevantnu uslugu, provjeriti status računa, pripremiti zahtjev i eskalirati slučajeve koji zahtijevaju odobrenje. Jezični model može pomoći klasificirati problem i sastaviti odgovor. Ne bi smio potajno odobriti pristup samo zato što može formulirati uvjerljivu uputu.

Arhitektura uspostavlja razliku između pomoći i nekontrolirane automatizacije. Ona definira što agent može promatrati, što može promijeniti i što zahtijeva ljudsku odluku.

Započnite s granicom radnog tijeka

Najjače prvo pitanje nije „Koji model trebamo koristiti?” nego „Gdje radni tijek počinje i završava?” Ograničen problem daje agentu smislen zadatak, mjerljiv ishod i upravljivu površinu za neuspjeh.

Dobri rani kandidati često imaju ponavljajuću strukturu, ali i dalje zahtijevaju tumačenje. Primjeri uključuju razvrstavanje dolaznih zahtjeva, izdvajanje strukturiranih polja iz dokumenata, pripremu prve skice na temelju odobrenih materijala ili istraživanje poznate kategorije operativnog upozorenja.

Definirajte ugovor agenta prije oblikovanja njegovih promptova:

• Ulaz: Koje informacije stižu, u kojim formatima i iz kojih pouzdanih sustava?
• Ishod: Koji konkretan rezultat radni tijek treba proizvesti?
• Dopuštene radnje: Koja čitanja, pisanja, obavijesti ili transakcije smije izvršiti?
• Točke odobravanja: Koje odluke zahtijevaju potvrdu osobe ili druge determinističke usluge?
• Ponašanje pri neuspjehu: Što se treba dogoditi kada nedostaju dokazi, alat zakaže ili je pouzdanost nedovoljna?

Sažet ugovor sprječava da projekt skrene prema poznatom, ali opasnom zahtjevu da se „napravi agent koji rješava sve”. Širi ciljevi mogu doći kasnije, nakon što tim shvati gdje je sustav pouzdan, a gdje nije.

Odvojite zaključivanje od izvršavanja

Modeli su vrijedni jer mogu tumačiti neuredan jezik i donositi odabire osjetljive na kontekst. Nisu zamjena za deterministička poslovna pravila, provjere dozvola, upravljanje transakcijama ili provjeru valjanosti podataka.

Praktičan dizajn modelu daje uske, dobro opisane alate. Umjesto da mu dodijelite izravan pristup bazi podataka, izložite operacije kao što su find_customer, get_open_invoices ili create_draft_reply. Svaka operacija trebala bi provjeriti svoje argumente, primijeniti autorizaciju, vratiti strukturirane rezultate i zabilježiti svoju upotrebu.

Ovaj obrazac stvara važnu točku kontrole: model predlaže radnju, dok kôd aplikacije odlučuje je li ta radnja valjana. Također olakšava dijagnosticiranje neuspjeha. Ako agent odabere pogrešnog korisnika, tim može pregledati ulaze alata i kontekst koji je do toga doveo, umjesto da incident tretira kao zagonetno ponašanje modela.

Jasno odredite radnje s posljedicama

Ne zaslužuje svaki alat isti stupanj autonomije. Čitanje javnog kataloga proizvoda razlikuje se od slanja vanjske e-pošte. Slanje e-pošte razlikuje se od promjene vlasništva nad računom ili pokretanja plaćanja.

Korisna je politika smjestiti nepovratne radnje, radnje velikog utjecaja ili javno vidljive radnje iza izričitog koraka odobravanja. Agent može sastaviti predloženu radnju, objasniti njezinu osnovu i prikazati relevantne dokaze. Osoba ili deterministički mehanizam politike zatim odobrava izvršavanje.

To nije samo sigurnosna značajka. Poboljšava povjerenje korisnika. Ljudi će vjerojatnije prihvatiti agenta kada mogu vidjeti što namjerava učiniti i zadržati kontrolu u trenucima koji su važni.

Kontekst je odluka o proizvodu

Mnogi neuspjesi agenata opisuju se kao neuspjesi zaključivanja, iako su zapravo neuspjesi konteksta. Model je možda primio zastarjelu dokumentaciju, nepotpun zapis o korisniku, proturječne upute ili daleko više informacija nego što može učinkovito upotrijebiti.

Kontekst treba sastavljati namjerno. Dohvatite samo materijal relevantan za trenutačni zadatak, označite odakle potječe i razlikujte pouzdane upute od nepouzdanog sadržaja. Zahtjev za podršku, web-stranica ili prenesena datoteka mogu sadržavati tekst koji pokušava preusmjeriti agenta. Takav sadržaj tretirajte kao podatke za analizu, a ne kao autoritet koji treba slijediti.

Za radne tijekove koji ovise o znanju tvrtke kvaliteta dohvaćanja važnija je od prikupljanja najvećeg mogućeg skupa dokumenata. Održavajte izvorni materijal ažurnim, očuvajte kontrole pristupa te u izlazu agenta navedite citate ili poveznice kada korisnici trebaju provjeriti preporuku.

Dizajnirajte za neizvjesnost i prekid

Tradicionalni softver često ima jasne načine neuspjeha: iznimku, nedostupnu uslugu, nevaljan zahtjev. Agenti dodaju suptilniju kategoriju: odgovor koji zvuči potpuno, ali počiva na slabim dokazima.

U iskustvo ugradite putove za neizvjesnost. Agent bi trebao moći reći da ne može pronaći autoritativan odgovor, zatražiti detalj koji nedostaje ili proslijediti posao čovjeku. Elegantan prijenos uspješan je ishod kada je alternativa samouvjerena improvizacija.

Pozivi alata također zaslužuju uobičajenu otpornost. Postavite vremenska ograničenja, pažljivo upravljajte ponovnim pokušajima, izbjegavajte ponavljanje neidempotentnih radnji i sačuvajte dovoljno stanja za nastavak ili istraživanje djelomično dovršenog radnog tijeka. Ako zahtjev, primjerice, stvara prijavu, zabilježite dobiveni identifikator prije prelaska na sljedeći korak. U protivnom ponovni pokušaj može stvoriti duplikate.

Jednako je važna i mogućnost praćenja. Bilježite pozive alata, odluke, ulaze koje je sigurno zadržati, verzije izlaza, pogreške i događaje odobravanja. Cilj nije neselektivno bilježiti svaki privatni razgovor; cilj je omogućiti reviziju važnog ponašanja uz poštovanje zahtjeva za rukovanje podacima.

Procijenite cijeli radni tijek

Timovi često procjenjuju model pomoću izoliranih promptova, a zatim otkriju da stvarni sustav ne uspijeva tijekom dohvaćanja, odabira alata, oblikovanja ili prijenosa. Procjena bi trebala obuhvatiti cijeli put koji će korisnik iskusiti.

Izradite reprezentativan skup slučajeva, uključujući uobičajene zahtjeve, nepotpune ulaze, proturječne upute, granice dozvola i neuspjele ovisnosti. Definirajte kako dobar rezultat izgleda za svaki slučaj. Neki se ishodi mogu provjeriti automatski, poput valjanog strukturiranog izlaza ili ispravnih argumenata alata. Drugi trebaju ljudski pregled, osobito u pogledu korisnosti, tona i toga je li agent primjereno prepoznao neizvjesnost.

Kako se sustav razvija, ponovno pokrećite te slučajeve. Promjene promptova, alata i modela mogu promijeniti ponašanje. Skup za procjenu tretirajte kao živu inženjersku imovinu, slično skupu regresijskih testova.

Nova odgovornost arhitekta

Arhitektura AI agenata manje se odnosi na pronalaženje čarobnog prompta, a više na oblikovanje pouzdane podjele rada. Modeli upravljaju tumačenjem, sintezom i fleksibilnom interakcijom. Softver upravlja ograničenjima, zapisima, dozvolama, provjerom valjanosti i pouzdanim izvršavanjem. Ljudi zadržavaju autoritet ondje gdje ga zahtijevaju prosudba, odgovornost ili posljedice.

Stručnjaci koji će uspjeti u ovoj promjeni bit će oni koji mogu povezati te slojeve. Uokvirit će uski problem, izložiti sigurne mogućnosti, modelirati putove neuspjeha, mjeriti stvarne ishode i poboljšavati sustav bez pretvaranja da je nepogrešiv.

To je trajan oblik dizajna softvera. Agent je možda nov, ali središnja je disciplina poznata: učiniti složene sustave razumljivima, korisnima i vrijednima povjerenja.