Poslovanje

Building AI That Learns Your Business Needs System Ownership

Izgradnja umjetne inteligencije koja uči o vašem poslovanju zahtijeva odgovornost za sustav

AI asistent može dati izvrstan odgovor na pogrešno poslovno pitanje. Može sažeti informacije o kupcu ne znajući da je obnova ugovora ugrožena, preporučiti proizvod koji se ne može isporučiti ili sastaviti samouvjeren odgovor na temelju zastarjelih pravila. Problem je rijetko samo u modelu. Sustav oko njega nije osigurao kontekst, granice ili povratne informacije potrebne za koristan rad.

Za izgradnju AI sustava koji uči o poslovanju potrebno je da netko preuzme odgovornost za cijeli sustav. To je odgovornost za proizvod i inženjering: odlučiti u čemu asistent treba pomagati ljudima, odakle dolazi njegovo znanje, kako se provjerava njegovo ponašanje i tko ga ispravlja kada se okolnosti promijene.

Počnite od odluke, a ne od demonstracije

Uvjerljiva demonstracija može prikriti činjenicu da proizvod nije definiran. Ako od asistenta opće namjene zatražite da „pomogne prodajnom timu”, ne postoji jasan način da se procijeni uspijeva li u tome. Ako od njega zatražite da voditelju odnosa s klijentom pomogne pripremiti se za obnovu ugovora pronalaženjem relevantnih ugovornih odredbi, otvorenih problema u korisničkoj podršci i nedavnih obveza preuzetih prema klijentu, zadatak postaje konkretan.

Taj uži cilj otvara važna pitanja. Koji su izvori mjerodavni? Koliko informacije moraju biti ažurne? Što treba učiniti kada su zapisi proturječni? Priprema li asistent sažetak za osobu ili smije kontaktirati klijenta? Svaki odgovor utječe na dizajn i razinu rizika.

Uspjeh definirajte u odnosu na posao korisnika. Za sažetak pripremljen za obnovu ugovora korisna mjera može biti može li voditelj odnosa s klijentom utvrditi dokaze na kojima se temelji svaka važna tvrdnja i ispraviti propuste prije sastanka. Brzina je važna, ali brže pripremljen sažetak koji neprimjetno izostavi neriješen problem može dovesti do lošije odluke.

Učenje je više od pohrane informacija

Kada ljudi kažu da žele da AI nauči kako njihova tvrtka posluje, često misle na nekoliko različitih stvari. Možda žele da pronalazi aktualne dokumente, pamti preferencije, slijedi tijek rada ili se poboljšava na temelju ispravaka. Za sve te potrebe nije potrebno mijenjati model.

Primjerice, asistent za poslovna pravila mogao bi dohvaćati relevantne odlomke iz odobrenih dokumenata kada korisnik postavi pitanje. Tako ažurirane smjernice mogu postati dostupne bez ponovnog treniranja modela. No dohvaćanje pomaže samo ako se dokumenti održavaju, pristup kontrolira, a asistent može razlikovati važeća pravila od arhiviranog nacrta.

Memorija donosi drukčiji skup odluka. Korisno je zapamtiti preferenciju poput „koristi sažete prikaze”. Nagađanje o namjerama klijenta mnogo je manje prikladno pohraniti kao trajnu činjenicu. Timovi moraju odlučiti što se smije pohraniti, tko to može vidjeti, kako se može ispraviti i kada treba isteći.

Potrebno je osigurati i način da se ispravci vrate u sustav. Ako korisnik označi netočan odgovor, netko mora utvrditi je li izvor bio pogrešan, je li dohvaćanje propustilo pravi odlomak, jesu li upute bile dvosmislene ili je model donio neutemeljen zaključak. Samo prikupljanje broja negativnih ocjena ne uklanja nijedan od tih uzroka.

Dodijelite odgovornost za sustav preko granica timova

AI funkcionalnosti prelaze granice koje uobičajene strukture timova često održavaju odvojenima. Voditelji proizvoda razumiju tijek rada. Stručnjaci za pojedino područje znaju koje su iznimke važne. Inženjeri grade integracije i kontrolne mehanizme. Stručnjaci za sigurnost i privatnost pomažu uspostaviti odgovarajuće razine pristupa. Timovi za podršku čuju gdje korisnici gube povjerenje.

Zajednički doprinos ključan je, ali zajednička odgovornost može postati ničija odgovornost. Dodijelite osobi ili timu jasnu odgovornost za cjelokupni ishod, uključujući ovlast za usklađivanje promjena preko tih granica. Ta osoba ili tim ne mora samostalno donositi svaku odluku, ali mora osigurati da se odluke donose i ponovno razmatraju.

Praktičan dogovor o odgovornostima trebao bi odgovoriti na nekoliko pitanja:

  • Tko definira zadatak i prihvaća promjene njegova opsega?
  • Tko održava svaki izvor poslovnog znanja i razrješava proturječne informacije?
  • Tko pregledava pogreške, određuje prioritete ispravaka i može onemogućiti rizičnu funkcionalnost?
  • Tko potvrđuje da korisnici mogu pristupiti samo informacijama koje imaju pravo vidjeti?

Zapišite odgovore. U timu koji radi na daljinu jasan je zapis osobito vrijedan: omogućuje ljudima da rade u različitim vremenskim zonama bez oslanjanja na sastanak ili privatni razgovor kako bi saznali tko može donijeti odluku.

Predvidite neizvjesnost i ispravljanje

AI sustav trebao bi korisniku olakšati razlikovanje odgovora od dokaza na kojima se temelji. U istraživačkom zadatku ili zadatku vezanom uz poslovna pravila to može značiti povezivanje s korištenim izvornim odlomcima i prikaz datuma posljednjeg ažuriranja izvornog materijala, ako je taj podatak dostupan. Ako dokazi nedostaju ili su proturječni, asistent bi to trebao reći umjesto da prazninu popuni uvjerljivom pretpostavkom.

Za radnje koje imaju posljedice ugradite korak pregleda prilagođen riziku. Izrada nacrta internog sažetka obično može podnijeti više automatizacije nego promjena zapisa o klijentu ili slanje vanjske poruke. Osobi koja pregledava radnju potrebno je dovoljno konteksta da donese stvarnu odluku, a ne samo gumb „odobri” uz nejasnu preporuku.

I za pogreške treba predvidjeti postupak. Ako izvor nije dostupan, sučelje može objasniti ograničenje i ponuditi način za nastavak bez pretvaranja da je odgovor potpun. Ako integracija zakaže tijekom radnje, sustav bi trebao prijaviti što se dogodilo i izbjeći poticanje ponovnog pokušaja naslijepo koji bi mogao dovesti do dupliciranja radnje. Ti su detalji dio pouzdanosti proizvoda.

Neka poboljšavanje postane dio isporuke

Prije pokretanja s pomoću stručnjaka za pojedino područje sastavite reprezentativan skup zadataka. Uključite jednostavna pitanja, zastarjele ili proturječne materijale, informacije koje nedostaju i zahtjeve koje korisniku ne bi smjelo biti dopušteno izvršiti. Pregledajte dobivene odgovore i radnje u odnosu na očekivanja, a zatim ponovite provjere kada se promijene izvori, upute, integracije ili modeli.

Nakon pokretanja omogućite korisnicima da prijave probleme tijekom rada. Uz odgovarajuće mjere zaštite privatnosti pregledajte uzorak korištenja i pogrešaka, potražite obrasce koji se ponavljaju i na temelju nalaza uvedite promjene s imenovanim odgovornim osobama. Vodite evidenciju poznatih ograničenja kako bi timovi za podršku i proizvod mogli postaviti realna očekivanja.

Ovaj rad pruža i vrijednu priliku za razvoj karijere programera. Inženjer koji može pratiti uzrok lošeg odgovora kroz sučelje, sloj za dohvaćanje, izvorne podatke i poslovni proces donosi više od stručnog znanja o modelima. Povezuje tehničke odluke s ishodom koji je korisniku doista potreban.

Cilj nije postići da AI zvuči kao da poznaje poslovanje. Cilj je izgraditi sustav koji se može odgovorno koristiti poslovnim znanjem, pokazati kako je došao do rezultata, prihvatiti ispravke i nastaviti se poboljšavati kako se poslovanje mijenja. Za to je potreban netko tko je spreman preuzeti odgovornost i nakon završetka demonstracije.

Portret autora bloga

Mihajlo

Ja sam Mihajlo — programer vođen znatiželjom, disciplinom i stalnom željom da stvorim nešto smisleno. Dijelim uvide, tutorijale i besplatne usluge kako bih pomogao drugima da pojednostave svoj rad i rastu u svijetu softvera i umjetne inteligencije koji se neprestano razvija.