Korisnik pita zašto povrat novca traje tako dugo. Odgovor se nalazi u bilješci korisničke podrške, zapisu o plaćanju, dokumentu o pravilima i iznimci koju je netko prije nekoliko mjeseci objasnio u timskom razgovoru. AI asistent može zvučati samouvjereno, a pritom previdjeti jedino pravilo koje je važno: povrati za određeni način plaćanja zahtijevaju drukčiji postupak odobravanja.

To je upravljački izazov u pozadini umjetne inteligencije koja razumije poslovanje. Cilj nije samo pružiti modelu više informacija. Cilj je učiniti odluke organizacije razumljivima, provjerljivima i sigurnima za primjenu u proizvodu. Netko mora biti odgovoran za taj posao.

Počnite od odluke, a ne od modela

„Izradimo AI asistenta za operativne poslove” zvuči ambiciozno, ali ostavlja previše važnih pitanja bez odgovora. Pri donošenju kojih bi odluka asistent trebao pomagati? Koje su mu informacije potrebne? Što se događa ako je odgovor pogrešan?

Bolje je krenuti od usko definiranog postupka: pomoći djelatniku korisničke podrške da objasni trenutačni status povrata novca. Asistent bi mogao prikupiti relevantne zapise, sažeti primjenjiva pravila i predložiti odgovor. Djelatnik je i dalje odgovoran za njegovo slanje. Takav opseg timu daje koristan prvi rezultat i jasan način njegove procjene.

Prije odabira alata, tehnički voditelj trebao bi s ljudima koji poznaju postupak definirati:

• Odluku ili zadatak pri kojem proizvod pruža podršku i osobu koja za njega ostaje odgovorna.
• Mjerodavne izvore činjenica i pravila koja se primjenjuju.
• Iznimke, informacije koje nedostaju i situacije koje zahtijevaju ljudsku provjeru.
• Cijenu pogreške i dokaze potrebne za njezino istraživanje.

Ta pitanja otkrivaju je li za rješavanje problema uopće potrebna umjetna inteligencija. Nepromjenjivo pravilo za utvrđivanje prava možda je najbolje smjestiti u običan aplikacijski kod. Model može biti koristan za tumačenje korisnikova zahtjeva ili objašnjavanje rezultata jednostavnim jezikom. Razdvajanjem tih zadaća sustav postaje lakši za razumijevanje.

Jasno definirajte poslovnu logiku prije nego što je prepustite umjetnoj inteligenciji

Poslovna logika često je raspršena po softveru, dokumentima i sjećanjima ljudi. Funkcionalnost temeljena na umjetnoj inteligenciji otkriva tu rascjepkanost jer joj je potrebno dovoljno konteksta da bi dosljedno davala odgovore. Ako se dva dokumenta ne slažu oko roka za povrat novca, njihovo dodavanje u upit neće riješiti neslaganje.

Počnite s popisivanjem pravila važnih za odabrani postupak. Za svako utvrdite tko je za njega odgovoran, njegov izvor, uvjete primjene, iznimke i postupak revizije. Pravilo može propisivati da je za povrat iznad određenog iznosa potrebno odobrenje; popratni kontekst trebao bi navoditi i tko određuje taj iznos te gdje se održava njegova trenutačna vrijednost.

Gdje god je to izvedivo, determinističke odluke prepustite sustavu osmišljenom za njihovu provedbu. Asistent može objasniti da je za povrat potrebno odobrenje, ali servis za autorizaciju ili aplikacijski postupak trebao bi odrediti smije li ga korisnik odobriti. Jasne granice sprječavaju da uvjerljivo objašnjenje slučajno postane dodjela dopuštenja.

Ne može se svako pravilo odmah formalizirati. Neke odluke ovise o prosudbi, nepotpunim dokazima ili pravilima koja se još razvijaju. Ta područja izričito označite i omogućite asistentu da kaže kako ne može utvrditi odgovor. Iskrena predaja slučaja čovjeku korisno je ponašanje proizvoda.

Osmislite kontekst kao proizvod koji se održava

Timovi često kažu da asistent „uči o poslovanju”, ali taj izraz može prikrivati nekoliko različitih mehanizama. Sustav može za svaki zahtjev dohvaćati aktualne dokumente, prosljeđivati strukturirane zapise modelu ili upotrebljavati model prilagođen treniranjem. Svaki pristup ima drukčije potrebe za održavanjem. Nijedan ne uklanja potrebu za odlučivanjem o tome koje su informacije pouzdane i aktualne.

Za asistenta za povrate novca tim bi mogao osigurati relevantan status transakcije iz baze podataka aplikacije i dohvatiti trenutačna pravila za korisnikovu regiju. Odgovor zatim može uputiti djelatnika na primijenjeni odjeljak pravila. Ako zapis o transakciji nije dostupan ili dohvaćena pravila ne obuhvaćaju dani slučaj, asistent bi to trebao reći i uputiti pitanje na provjeru.

Takav dizajn ovisi o više od same kvalitete dohvaćanja. Dokumenti trebaju imati odgovorne osobe, kontrole pristupa i način povlačenja zastarjelih verzija. Asistent bi trebao primati samo informacije kojima je korisnik ovlašten pristupiti. Tim također mora odlučiti koliko popratnih dokaza djelatnik može pregledati bez nepotrebnog izlaganja osjetljivih podataka.

Postupajte s tim kontekstom kao s bilo kojom drugom komponentom o kojoj proizvod ovisi: pratite njegovo stanje, definirajte tko rješava probleme i učinite promjene vidljivima. Ažuriranje pravila promjena je proizvoda kada se korisnici oslanjaju na asistentovo objašnjenje.

Testirajte odluke i postupanje u slučaju pogreške, a ne samo tečne odgovore

Uvjerljiv odgovor nije dokaz da je primijenjeno ispravno pravilo. Zajedno s ljudima koji provode postupak izradite mali skup primjera za evaluaciju: uobičajene slučajeve, iznimke, dvosmislene zahtjeve, zastarjele informacije i slučajeve u kojima je ispravan odgovor zatražiti pomoć.

Za svaki slučaj dogovorite koje su činjenice dostupne, koja se odluka očekuje ili koji je raspon odgovora prihvatljiv te zašto. Uključite primjere u kojima su izvori proturječni ili nedostaje potreban zapis. Pregledajte i asistentov odgovor i dokaze koje je upotrijebio. Odgovor može doći do ispravnog zaključka iz pogrešnog razloga i podbaciti u sljedećem slučaju.

Zatim testirajte proizvod u kojem je asistent ugrađen. Što djelatnik vidi ako izvor nije dostupan? Može li ispraviti odgovor? Razlikuje li se predložena radnja jasno od radnje koja je već izvršena? Ako asistent pozove alat, provjerava li aplikacija samostalno ovlaštenja i obrađuje li neuspjeli zahtjev?

Pregledajte rezultate kada se promijene pravila, upiti, modeli ili integracije. Te provjere ne jamče savršeno ponašanje, ali timu daju osnovu za odluku o tome je li promjena dovoljno sigurna za namjeravanu uporabu.

Podijelite zaduženja bez gubitka odgovornosti

Umjetna inteligencija koja razumije poslovanje prelazi uobičajene granice među timovima. Produktni tim definira korisnički ishod, stručnjaci za poslovno područje objašnjavaju pravila, inženjeri izrađuju kontrole, a operativni timovi vide posljedice. Zajedničko sudjelovanje ključno je, ali sustav bez imenovane odgovorne osobe može ostati prepušten svima i nikome.

Odredite odgovornu osobu za postupak te odgovorne osobe za njegove ključne izvore i pravila. Dogovorite kako nejasni slučajevi dolaze do tih ljudi, kako se unose ispravci i kako tim komunicira promjene. U timu koji radi na daljinu zapišite te odluke ondje gdje ih ljudi koji održavaju proizvod mogu pronaći. Kratak zapis o odluci može spriječiti da tumačenje pravila ostane samo u sjećanju sudionika sastanka.

Odgovornost znači i osiguravanje vremena za održavanje. Odvojite vrijeme za pregled neuspjelih slučajeva, ažuriranje primjera, povlačenje zastarjelog sadržaja i poboljšanje predaje slučajeva. Objavljivanje prve verzije stvara odgovornost da se uči iz njezine uporabe.

Najbolji proizvodi temeljeni na umjetnoj inteligenciji čine više od ponavljanja onoga što organizacija zna. Oni važno znanje čine vidljivim, prepuštaju odluke pravim ljudima i pokazuju što učiniti kada više nema sigurnog odgovora. Vodite taj posao uz jasno preuzimanje odgovornosti i asistent će postati koristan dio poslovanja, umjesto još jednog mjesta na kojem se njegova logika može izgubiti.