Većina AI projekata ne propada zato što je model slab. Propadaju zato što softver oko modela nema pouzdan način da izrazi kako poslovanje zapravo funkcionira.

Model opće namjene može sažeti ugovor, sastaviti odgovor, klasificirati zahtjev ili pozvati alat. Ne zna automatski koji su statusi korisnika važni, kada iznimka zahtijeva ljudsko odobrenje, kako se nazivi proizvoda mapiraju na interne sustave ili zašto bi naizgled razumna radnja stvorila operativni rizik. Te se nijanse nalaze u pravilima, bazama podataka, radnim tijekovima i prosudbi iskusnih ljudi.

Arhitektonski izazov nije „dodati AI” aplikaciji. Izazov je učiniti poslovni kontekst dostupnim u obliku koji sustav može upotrebljavati sigurno, testabilno i kontinuirano.

Počnite s odlukama, a ne sučeljima za razgovor

Konverzacijsko sučelje može biti korisno, ali rijetko je jedinica vrijednosti. Počnite utvrđivanjem konkretne poslovne odluke ili radnog tijeka u kojem bi bolje tumačenje, sastavljanje, usmjeravanje ili dohvaćanje pomoglo.

Na primjer, razmotrite službu za podršku koja prima zahtjeve za promjenu pretplatničkih planova. Teži dio nije stvaranje ljubaznog teksta. Teži dio je utvrđivanje ispunjavanja uvjeta, prepoznavanje ograničenja računa, primjena regionalnih pravila i odlučivanje može li se zahtjev dovršiti automatski.

Opišite radni tijek prije odabira modela:

• Koje su informacije potrebne za donošenje valjane odluke?
• Koja su pravila stroga, a koja zahtijevaju prosudbu?
• Koje radnje sustav smije izvršiti?
• Kada se mora zaustaviti i pitati osobu?
• Koje dokaze treba prikazati uz svoju preporuku?

Ova vježba često otkriva da AI treba obavljati samo dio procesa. Model može izdvojiti namjeru i objasniti pravilo, dok konvencionalni kod provjerava ispunjavanje uvjeta i izvršava odobrenu promjenu računa. Ta je podjela prednost, a ne ograničenje.

Odvojite znanje, pravila i radnje

Poslovnim nijansama postaje mnogo lakše upravljati kada se ova tri aspekta oblikuju odvojeno.

Znanje su informacije potrebne za razumijevanje slučaja

Znanje uključuje dokumentaciju proizvoda, odobrene vodiče za procese, zapise o računima, povijest transakcija i druge relevantne činjenice. Dio toga je stabilan referentni materijal, a dio su aktualni operativni podaci. Tretiranje oboga kao jedne hrpe teksta stvara zbrku.

Referentni se materijal može dohvatiti i dostaviti modelu kada je relevantan. Aktualni podaci obično trebaju dolaziti putem kontroliranih upita aplikacije ili alata. Ako agentu treba trenutačni plan korisnika, trebao bi pozvati ovlaštenu uslugu umjesto oslanjanja na dokument koji može biti zastario.

Pravila određuju što je dopušteno

Pravila ne bi trebala biti skrivena samo u promptovima. Ako promjena zahtijeva potvrđenog vlasnika računa, to bi trebalo provoditi pravilo u aplikacijskom kodu ili mehanizmu radnog tijeka. Ako popust premašuje prag za odobrenje, sustav bi trebao usmjeriti zahtjev na odobrenje bez obzira na to koliko uvjerljivo zvuči odgovor modela.

Promptovi mogu objasniti pravila i pomoći modelu primijeniti ih na dvosmislen jezik. Determinističke kontrole trebaju štititi važne granice.

Radnja je učinak na stvarni svijet

Svaki alat izložen AI sustavu sučelje je s posljedicama. Oblikujte alate usko. Alatom pod nazivom update_subscription koji prihvaća proizvoljna polja teško je upravljati. Alat kao što je request_plan_change_quote, nakon kojeg slijedi apply_approved_plan_change, čini namjeru i ovlaštenje mnogo jasnijima.

Male, namjenski izrađene radnje lakše je validirati, bilježiti, testirati i opozvati.

Gradite kontekst kao površinu proizvoda

Timovi često kontekst smatraju detaljem implementacije: prikupe neke dokumente, napišu dugačak sistemski prompt i nadaju se da će dohvaćanje popuniti praznine. Trajniji pristup kontekst tretira kao površinu proizvoda s vlasnicima, shemama, provjerama kvalitete i upravljanjem promjenama.

Za svaki AI-potpomognuti radni tijek definirajte ugovor o kontekstu. Trebao bi navesti što model prima, odakle svako polje dolazi, koliko mora biti aktualno i je li mjerodavno. Status naplate korisnika, na primjer, može biti mjerodavan samo kada ga usluga naplate vrati tijekom trenutačnog zahtjeva.

Strukturirani je kontekst posebno vrijedan. Umjesto da od modela tražite da sve zaključi iz duge bilješke o računu, gdje je moguće pružite jasna polja:

{
  "customer_tier": "business",
  "current_plan": "standard",
  "account_status": "active",
  "region": "EU",
  "change_request": "upgrade",
  "requires_human_approval": false
}

Model i dalje može tumačiti nestrukturirani jezik, ali ne bi ga trebalo tražiti da ponovno otkriva činjenice koje aplikacija već zna. To smanjuje dvosmislenost i olakšava dijagnosticiranje neuspjeha.

Upotrebljavajte agente kao orkestrirane radne tijekove

Agent je najkorisniji kada može prolaziti kroz ograničeni slijed: prikupiti kontekst, odabrati dopušteni alat, provjeriti rezultat i zatim ili dati odgovor ili eskalirati slučaj. Postaje rizičan kada mu se dodijeli širok pristup i nejasni ciljevi.

Praktična arhitektura često uključuje sloj orkestracije između modela i internih sustava. Taj sloj može validirati ulaze alata, provoditi dozvole, primjenjivati ograničenja brzine, bilježiti događaje revizije i zahtijevati potvrdu prije osjetljivih operacija.

Razmotrite asistenta za nabavu. Može pročitati zahtjev, dohvatiti odobrene dobavljače, usporediti navedene potrebe s pravilima i pripremiti preporuku za kupnju. Ne bi trebao potajno izraditi narudžbenicu samo zato što je model zaključio da je ona prikladna. Aplikacija bi trebala provjeriti proračun, ograničenja delegiranja i odobrenja prije potvrđivanja radnje.

Oblikujte izričite točke zaustavljanja. Dobar agent zna kada nema dovoljno dokaza, otkriva sukobljene zapise ili dolazi do radnje s velikim utjecajem. „Ne mogu to utvrditi na temelju dostupnih informacija” valjan je ishod sustava kada je povezan s korisnim putem eskalacije.

Učinite evaluaciju dijelom arhitekture

Ponašanje AI-ja mijenja se kada se promijene promptovi, modeli, sadržaj dohvaćanja, alati ili poslovna pravila. Evaluacija ne može biti završna demonstracija prije pokretanja; mora biti dio procesa isporuke.

Izradite reprezentativan skup slučajeva iz radnog tijeka, uključujući uobičajene zahtjeve, dvosmislen jezik, nepotpune zapise, sukobljena pravila i protivničke upute. Za svaki slučaj definirajte kako izgleda dobro rješenje. To može uključivati ispravno usmjeravanje, potrebne dokaze, dopuštene pozive alata i sigurno odbijanje ili eskalaciju.

Ne procjenjujte samo zvuči li konačna formulacija uvjerljivo. Odgovor može biti rječit, a operativno pogrešan. Mjerite je li sustav upotrijebio valjan kontekst, slijedio pravila, odabrao ispravnu granicu radnje i primjereno iskazao nesigurnost.

Praćenje u produkciji trebalo bi nastaviti istu disciplinu. Bilježite verziju prompta, model, dohvaćeni materijal, pozive alata, ulaze, izlaze i konačni ishod uz odgovarajuće kontrole privatnosti. Ti zapisi neočekivani odgovor pretvaraju iz misterija u inženjerski problem.

Dajte ljudima utjecaj, a ne ceremonijalni nadzor

Ljudska provjera nije automatski sigurna ako recenzenti primaju bujicu nejasnih preporuka. Oblikujte iskustva provjere oko odluke: prikažite izvorne činjenice, osnovu u pravilima, predloženu radnju, signale pouzdanosti i točnu posljedicu odobrenja.

S vremenom provjereni ishodi mogu poboljšati radni tijek. Ponavljane ispravke mogu otkriti nedostajući kontekst, nejasno pravilo, loše oblikovan alat ili skupinu slučajeva koja nikada nije trebala doći do modela. Cilj nije ukloniti ljude iz svake petlje. Cilj je sačuvati njihovu pozornost za slučajeve u kojima prosudba doista donosi vrijednost.

Trajna prednost je kodirano razumijevanje

Modeli će se nastaviti poboljšavati, a pružatelji modela mogu se mijenjati. Trajna prednost vašeg poslovanja nije pametan prompt. To je dobro oblikovan sustav koji povezuje pouzdano znanje, izričita pravila, kontrolirane radnje i povratne informacije iz stvarnog rada.

Poučite AI nijansama svojeg poslovanja tako da te nijanse učinite čitljivima softveru. Kada kontekst ima jasno vlasništvo, pravila imaju provedive granice, a automatizacija zna kada zastati, AI prestaje biti uvjerljiva demonstracija i postaje pouzdan dio načina na koji se posao obavlja.