Poslovanje

System Ownership: Architecting AI Your Business Can Trust

Vlasništvo nad sustavom: Oblikovanje umjetne inteligencije kojoj vaše poduzeće može vjerovati

AI funkcionalnost može djelovati pouzdano u demonstraciji, a postati problem čim uđe u stvarni tijek rada. Uglađen odgovor može prikriti nepouzdan izvor, neuspjeli poziv alata ili radnju koju nitko nije namjeravao odobriti. Problem je rijetko samo u modelu. Problem je u sustavu koji ga okružuje i u tome preuzima li netko odgovornost za taj sustav od ulaza do ishoda.

Odgovornost za sustav znači preuzimanje odgovornosti za to kako se AI funkcionalnost ponaša u poslovanju, uključujući i dijelove koji se nalaze između timova. Ona povezuje odluke o proizvodu, tehničke kontrole, operativnu podršku i ljude pogođene pogreškama. Upravo ta odgovornost pretvara impresivnu funkcionalnost u nešto na što se poduzeće može osloniti.

Povjerenje počinje jasno omeđenim zadatkom

Prije odabira modela ili oblikovanja upita opišite zadatak koji sustav treba obavljati i odluke koje treba prepustiti ljudima. „Pomoći djelatnicima korisničke podrške da pronađu relevantne informacije o pravilima” korisnije je polazište od „automatizirati korisničku podršku”. Time tim dobiva svrhu, korisnika i granice djelovanja.

Primjerice, asistent može sažeti problem korisnika i predložiti relevantne odlomke iz pravila. Djelatnik zatim može odlučiti kako odgovoriti. Ako asistent kasnije dobije ovlast za izdavanje povrata novca, to je drukčija funkcionalnost proizvoda s drukčijim posljedicama, čak i ako sučelje izgleda gotovo jednako.

Definirajte uspjeh u odnosu na tijek rada: može li djelatnik riješiti problem uz manje pretraživanja, a pritom i dalje donositi utemeljene odluke? Zatim definirajte neprihvatljive ishode, kao što su otkrivanje podataka drugog korisnika ili predstavljanje zastarjelih pravila kao važećih. Te definicije daju inženjerskim timovima i timovima za razvoj proizvoda konkretne kriterije prema kojima mogu oblikovati i testirati sustav.

Oblikujte sustav uz uvažavanje dokaza, neizvjesnosti i radnji

AI sustav trebao bi omogućiti razumijevanje onoga na čemu se odgovor temelji. Za asistenta koji pomaže pri pronalaženju pravila to može značiti prikaz relevantnog izvora i vremena njegova posljednjeg ažuriranja. Referenca je korisna samo ako navedeni materijal doista potkrepljuje tvrdnju, pa je potrebno ocjenjivati i odabir izvora i kvalitetu odgovora.

U sučelju također treba biti mjesta za neizvjesnost. Sustav koji ne može pronaći relevantne informacije trebao bi to moći reći i uputiti korisnika na odgovarajući sljedeći korak. To je jednako odluka o proizvodu kao i tehnička odluka: korisnici trebaju znati kada se mogu osloniti na odgovor, kada ga trebaju provjeriti i kada trebaju stati.

Radnje zahtijevaju strože granice od prijedloga. Čitanje dokumenta, sastavljanje nacrta poruke i izmjena računa nose različite razine rizika. Omogućite sustavu pristup samo onome što je potrebno za njegov zadatak i uvjetujte radnje koje imaju značajne posljedice kontrolama primjerenima njihovu učinku. Ovisno o tijeku rada, te kontrole mogu uključivati ljudsku potvrdu, ograničenje potrošnje ili zasebnu provjeru ovlasti.

Postupanje s pogreškama učinite sastavnim dijelom tijeka rada

AI sustavi otkazuju na poznate i manje poznate načine. Usluga može prekoračiti vrijeme čekanja, indeks dokumenata može biti zastario ili model može proizvesti uvjerljiv odgovor koji je pogrešan. Svaki od tih slučajeva tretirajte kao scenarij koji treba riješiti, a ne samo kao iznimku koju treba zabilježiti.

Razmotrite asistenta koji priprema povrat novca kako bi ga djelatnik odobrio. Ako dohvaćanje pravila ne uspije, asistent ne bi smio neprimjetno umjesto njih upotrijebiti izmišljena pravila. Ako zahtjev za povrat novca prekorači vrijeme čekanja, sustav bi trebao utvrditi je li transakcija dovršena prije nego što ponudi ponovni pokušaj; u suprotnom bi drugi zahtjev mogao dovesti do dvostrukog povrata. Ako se taj status ne može utvrditi, tijek rada treba predvidjeti jasan način da slučaj istraži osoba.

Te odluke trebaju biti vidljive korisnicima i osoblju podrške. Korisna poruka o pogrešci opisuje što se dogodilo tako da korisnici i osoblje mogu poduzeti odgovarajuće korake: pravila nije bilo moguće dohvatiti, status povrata novca još nije poznat ili zahtjev treba pregledati. Ne bi smjela otkrivati osjetljive informacije ni stvarati dojam da je neriješena operacija uspjela.

Dodijelite odgovornost za cijeli sustav

Odgovornost ne znači da jedna osoba mora napisati svaku komponentu ili odgovoriti na svako pitanje upućeno podršci. To znači da je netko odgovoran za konačni ishod, uz jasno određene odgovornosti za dijelove koji ga omogućuju.

Praktičan prikaz odgovornosti daje odgovore na nekoliko pitanja:

  • Tko odlučuje što AI funkcionalnost smije raditi i kako izgleda njezina uspješna uporaba?
  • Tko održava njezine izvore, dopuštenja, integracije i slučajeve za evaluaciju?
  • Tko prima prijave štetnog ili pogrešnog ponašanja i tko može privremeno obustaviti funkcionalnost?
  • Tko odobrava promjenu koja proširuje pristup ili ovlasti sustava?

Ta su pitanja osobito važna za timove koji rade na daljinu, jer nejasnoće u odgovornostima mogu ostati neprimijećene među vremenskim zonama. Odgovore zabilježite na zajedničkom mjestu koje se redovito ažurira. Dopunite ih jasnim postupkom eskalacije kako osoba koja reagira na incident ne bi morala pod pritiskom utvrđivati tko je za što zadužen.

Ocjenjujte posao koji ljudi doista obavljaju

Nekoliko uspješnih demonstracija ne može dokazati pouzdanost. Izradite skup za evaluaciju od reprezentativnih zadataka, uključujući dvosmislene zahtjeve, nedostajuće informacije, proturječne izvore i pokušaje uporabe sustava izvan njegove predviđene namjene. Pri prikupljanju primjera zaštitite osjetljive podatke i u ocjenjivanje ishoda uključite ljude koji razumiju stvarni tijek rada.

Mjerite više od toga zvuči li odgovor dobro. Provjerite temelji li se na dostupnim dokazima, poštuje li granice pristupa i usmjerava li korisnika prema odgovarajućoj radnji. Za asistenta koji priprema transakcije ocijenite cijeli tijek rada, uključujući neuspjele integracije i neizvjestan status transakcije.

Ponovite te provjere kada mijenjate model, upite, izvore, alate ili dopuštenja. Svaka od tih promjena može promijeniti ponašanje sustava. Vodite evidenciju značajnih promjena i omogućite vraćanje na prethodnu verziju ili isključivanje funkcionalnosti kada je novo ponašanje neprihvatljivo. Neke će se pogreške pojaviti tek u produkciji, stoga uspostavite način na koji ih korisnici mogu prijaviti, a tim može pregledavati obrasce pogrešaka bez prikupljanja više podataka nego što mu je potrebno.

Osigurajte uvjete za trajnu odgovornost

Pouzdana isporuka ovisi o redovitom održavanju: ažuriranju izvornih materijala, pregledu pristupa, istraživanju pogrešaka i ažuriranju evaluacija kako se poslovanje mijenja. Uvrstite taj posao u plan razvoja i dodijelite odgovornu osobu. U suprotnom, funkcionalnost može nastaviti samouvjereno odgovarati dugo nakon što su se promijenili uvjeti koji su je činili korisnom.

Za razvojne inženjere to je i prilika za razvoj izvan granica jedne usluge. Važna pitanja uključuju kako odluka dolazi do korisnika, što se događa kada zakaže sustav o kojem usluga ovisi i može li kolega sigurno upravljati sustavom nakon što izvorni tim prijeđe na druge zadatke.

Poduzeće može vjerovati umjetnoj inteligenciji kada sustav uvijek iznova zaslužuje to povjerenje: jasnim granicama, vidljivim dokazima, kontroliranim radnjama i ljudima koji ostaju odgovorni za ishod. Model pruža funkcionalnost. Odgovornost je čini pouzdanom.

Portret autora bloga

Mihajlo

Ja sam Mihajlo — programer vođen znatiželjom, disciplinom i stalnom željom da stvorim nešto smisleno. Dijelim uvide, tutorijale i besplatne usluge kako bih pomogao drugima da pojednostave svoj rad i rastu u svijetu softvera i umjetne inteligencije koji se neprestano razvija.