Većina neuspjeha umjetne inteligencije nisu neuspjesi upita. To su neuspjesi znanja.

Model može u nekoliko sekundi napisati čist kod, sažeti dokument, sastaviti odgovor korisniku ili isplanirati radni tijek. No kad nema pravi kontekst, njegova sigurnost postaje obveza. Može proizvesti nešto tečno, uvjerljivo i potpuno neusklađeno sa sustavima, pravilima i odlukama koje su zapravo važne.

Trajna prednost u primijenjenoj umjetnoj inteligenciji rijetko je domišljat predložak upita. Ona je u oblikovanju pouzdanog izvora znanja koji modelima daje prave informacije, u pravo vrijeme, uz jasne granice onoga čemu trebaju vjerovati.

Upiti određuju smjer; znanje određuje stvarnost

Upit govori umjetnoj inteligenciji što želite. Izvor znanja govori joj što je istinito u vašem okruženju.

Razmotrite inženjerskog asistenta kojemu je zadano dijagnosticirati pogrešku u produkciji. Dobro napisan upit može tražiti oprez, zatražiti hipoteze i zahtijevati predloženi plan vraćanja prethodnog stanja. To je korisno. No ne može nadoknaditi povijest implementacija koja nedostaje, nedokumentirane promjene konfiguracije, zastarjele operativne priručnike ili nepotpune podatke o vlasništvu nad uslugama.

Isto vrijedi i izvan softvera. Prodajnom asistentu trebaju odobrene pojedinosti o proizvodu i aktualna komercijalna politika. Asistentu za podršku trebaju točni materijali za rješavanje problema i pravila eskalacije. Istraživačkom asistentu trebaju izvorni dokumenti s datumima, podrijetlom i opsegom.

Bez ovog temelja timovi često reagiraju produljivanjem upita. Dodaju više uputa, više iznimaka, više primjera i više upozorenja. Naposljetku upit postaje krhak dokument s pravilima koji je teško pregledati, a još teže održavati.

Stabilne činjenice smjestite u upravljani sustav znanja, a ne u rastući upit. Upiti trebaju izražavati ulogu, zadatak, format i ograničenja prosudbe. Sustavi znanja trebaju sadržavati promjenjivu stvarnost poslovanja i njegova softvera.

Što izvor znanja čini nezamjenjivim

Nezamjenjiv izvor znanja nije samo mapa dokumenata povezana s chatbotom. To je sustav koji pomaže ljudima i umjetnoj inteligenciji dohvatiti informacije s dovoljno konteksta za odgovorno djelovanje.

Za to je potrebno više od pretraživanja. Potrebno je promišljeno oblikovanje kroz nekoliko dimenzija:

• Autoritet: Svaki važan dokument trebao bi imati prepoznatljivog vlasnika ili izvor istine.
• Ažurnost: Informacije trebaju imati ritam pregleda, datum stupanja na snagu ili jasan signal da su možda zastarjele.
• Opseg: Sustav bi trebao razlikovati politiku od smjernica, trenutačnu arhitekturu od povijesnih bilješki te javne materijale od ograničenih materijala.
• Struktura: Informacije bi trebale biti podijeljene na cjeline i označene tako da dohvaćanje može očuvati značenje, umjesto vraćanja izdvojenih fragmenata.
• Kontrola pristupa: Umjetna inteligencija smije dohvatiti samo informacije koje korisnik koji ih traži smije vidjeti.
• Vidljivost: Timovi trebaju znati koji su izvori dohvaćeni, koji je odgovor generiran i gdje je nesigurnost ušla u proces.

Ove kvalitete čine sustav korisnim i ljudima. Ako čovjek ne može utvrditi koji je operativni priručnik aktualan, umjetna inteligencija neće pouzdano riješiti tu nejasnoću.

Počnite s odlukama, a ne dokumentima

Česta je pogreška početi velikim projektom unosa: uvesti svaku wiki stranicu, tiket, PDF, repozitorij i izvoz razgovora. To stvara opseg, ali ne nužno vrijednost. Također može pojačati stare odluke i proturječne savjete.

Bolje je polazište utvrditi odluke ili zadatke kod kojih pouzdan kontekst mijenja ishod.

Na primjer, tim za platformu mogao bi dati prednost ovim pitanjima:

• Koja usluga posjeduje ovu krajnju točku i tko je dežuran?
• Koji je odobreni put implementacije za ovo okruženje?
• Koje je vrijednosti konfiguracije sigurno promijeniti bez migracije?
• Koji poznati načini otkaza vrijede za ovu ovisnost?
• Kada incident treba eskalirati umjesto automatski otkloniti?

Svako pitanje otkriva zahtjev za znanjem. Podaci o vlasništvu mogu pripadati katalogu usluga. Pravila implementacije mogu pripadati dokumentaciji s verzijama. Poznati načini otkaza mogu biti povezani sa zapisima o incidentima i operativnim priručnicima. Cilj nije učiniti da umjetna inteligencija „zna sve”. Cilj je omogućiti joj da pronađe i objasni dokaze relevantne za ograničenu odluku.

Oblikujte za jedinice dohvaćanja

Dugi dokumenti često su napisani za linearno čitanje, dok dohvaćanje umjetne inteligencije najbolje funkcionira s manjim, samostalnim cjelinama. Koristan odjeljak operativnog priručnika, primjerice, trebao bi navesti uslugu, okruženje, simptom, preduvjete, sigurne radnje, korake provjere i uvjete eskalacije.

Usporedite ova dva stila:

Restart the worker if processing gets stuck.

Ta je uputa opasna jer izostavlja uvjete. Bolja jedinica za dohvaćanje objasnila bi o kojem je radniku riječ, kako provjeriti simptom, koji poslovi mogu biti prekinuti, je li ponovno pokretanje dopušteno tijekom održavanja i kada umjesto toga pozvati tim koji je vlasnik.

Vrijednost nije u opširnosti. Ona je u operativnoj potpunosti.

Dajte modelu dokaze, a ne samo odgovore

U radnim tijekovima s velikim posljedicama model bi trebao moći pokazati osnovu svoje preporuke. To ne znači izlaganje internog zaključivanja. Znači predstavljanje korisnih dokaza: naslova dokumenata, relevantnih izvadaka, datuma stupanja na snagu i poveznica na mjerodavni izvor gdje je to prikladno.

Dokazi mijenjaju interakciju iz „asistent kaže” u „ovi odobreni materijali podupiru ovu preporuku”. To ubrzava pregled i gradi primjereno povjerenje. Također otkriva praznine. Ako dohvaćanje vrati stari vodič za migraciju i noviju arhitektonsku odluku, sukob postaje vidljiv umjesto da se neprimjetno stopi u uglađen odgovor.

Kad su dokazi slabi, umjetna inteligencija to treba reći. Dobar sustav može odgovoriti: „Pronašao sam smjernice za pripremno okruženje, ali ne i za produkciju. Ovo je postupak za pripremno okruženje; prije nastavka potrebno je odobrenje za produkciju.”

To nije neuspjeh automatizacije. To je odgovorna automatizacija.

Odvojite savjet od radnje

Umjetna inteligencija utemeljena na znanju postaje osobito vrijedna kada podržava agente koji mogu poduzimati radnje. No pristup informacijama ne bi automatski trebao postati dopuštenje za mijenjanje sustava.

Praktičan obrazac jest podijeliti radni tijek u faze:

1. Dohvatite relevantno, odobreno znanje.
2. Generirajte predloženu dijagnozu ili plan s potkrepljujućim dokazima.
3. Provjerite preduvjete i ograničenja politike.
4. Zatražite odobrenje kada to zahtijevaju rizik, opseg ili nesigurnost.
5. Izvršite usko definiranu radnju.
6. Zabilježite rezultat i vratite trajne pouke u bazu znanja.

Ovaj je obrazac koristan bilo da je radnja otvaranje tiketa, promjena konfiguracijske zastavice, sastavljanje odgovora na ugovor ili pokretanje implementacije. Agent bi trebao imati najmanji praktični skup dopuštenja, a njegove bi radnje trebale biti sljedive.

Automatizacija je najjača kada smanjuje rutinsku koordinaciju, a pritom očuva ljudsku odgovornost za prosudbe s važnim posljedicama.

Mjerite sustav ondje gdje se rad odvija

Nemojte sustav umjetne inteligencije koji koristi znanje ocjenjivati samo prema tome zvuče li njegovi odgovori korisno. Ocjenjujte ga prema stvarnim zadacima.

Izradite mali skup testova reprezentativnih pitanja, uključujući nejasne slučajeve, zamke zastarjelih dokumenata, slučajeve nedostajućih informacija i zahtjeve koje treba odbiti ili eskalirati. Provjerite je li sustav dohvatio mjerodavan materijal, ispravno ga naveo, poštovao ograničenja pristupa i izbjegao neutemeljene tvrdnje.

Zatim pratite ponašanje u produkciji. Ponavljana dodatna pitanja mogu upućivati na loše dohvaćanje. Česte ispravke mogu otkriti nedostajuće vlasništvo ili zastarjeli sadržaj. Odgovori bez korisnih dokaza mogu signalizirati da se sustav previše oslanja na opće znanje modela.

Ti bi signali trebali poticati poboljšanja dokumentacije i dizajna sustava, a ne samo izmjene upita.

Izvor znanja postaje proizvod

Najsposobniji sustavi umjetne inteligencije sve će se više procjenjivati prema kvaliteti konteksta koji mogu sigurno koristiti. Modeli će se poboljšavati, sučelja će se mijenjati, a obrasci upita razvijati. No održavano tijelo pouzdanog znanja, povezano s radom kojim upravlja, kumulativno dobiva na vrijednosti.

Izgradite taj temelj s istom pažnjom koja se primjenjuje na produkcijski softver: jasnim vlasništvom, verzioniranjem, testiranjem, kontrolom pristupa i povratnim petljama. Tada umjetna inteligencija više nije impresivan generator teksta koji traži relevantnost. Postaje pouzdan sudionik u načinu na koji vaša organizacija razumije, odlučuje i napreduje.