Повеќето неуспеси на ВИ не се неуспеси на моделот. Тие се неуспеси на контекстот.

Способен модел може да сумира, класифицира, изработува нацрти и да расудува низ изненадувачки широк опсег на влезни податоци. Сепак, истиот модел станува ненадежен кога од него се бара да донесува одлуки во рамките на реален бизнис без пристап до правилата што го прават тој бизнис специфичен. Можеби знае како генерално функционираат фактурите, но не и за кои клиенти се потребни нарачки за набавка, како се одобруваат одобренијата или кога задоцнетото плаќање треба да поттикне човечка проверка.

Разликата помеѓу паметна демонстрација и сигурен ВИ-систем е деловната логика. Вградете ја добро, и моделот станува корисен учесник во работниот тек. Оставете ја имплицитна, расфрлана или недостапна, и моделот ги пополнува празнините со веродостојни претпоставки.

Деловната логика е слојот што недостига

Деловната логика е збирот од одлуки што општ процес го претвора во ваш процес. Таа вклучува политики, правила за подобност, пресметки на цени, прагови за одобрување, сопственост на податоци, патеки за ескалација и исклучоците со кои искусните вработени се справуваат речиси автоматски.

Разгледајте агент за поддршка што им помага на клиентите да ги променат претплатничките планови. Моделот може со пријателски јазик да ги објасни достапните планови. Но одлуката дали да се дозволи промена може да зависи од датумите на договорот, регионалните даночни правила, обврските за користење, неплатените салда и од тоа дали со сметката управува продажен тим.

Овие ограничувања не треба да постојат само во потсетник. Треба да бидат претставени во системи што може да се тестираат, ревидираат и намерно да се менуваат.

Јазичните модели се одлични во толкувањето на намерите и соопштувањето на одлуките. Ретко треба да бидат единствениот авторитет за спроведување на самите одлуки.

Одделете го расудувањето од спроведувањето

Практичната архитектура му дава на секој компонент работа што може сигурно да ја извршува. Нека моделот работи со неструктуриран јазик: извлекување детали од барање, препознавање веројатна намера, поставување прашања за појаснување и изготвување објаснување. Нека детерминистичките услуги се справуваат со евалуација на политики и промени на состојбата.

Ова раздвојување е особено важно кога дејството влијае врз пари, пристап, усогласеност, обврски кон клиенти или продукциски системи.

• Моделот го толкува барањето и избира соодветен работен тек.
• Деловните услуги пресметуваат подобност, цени, лимити и потребни одобрувања.
• Алатките и API-јата преземаат тековни податоци и извршуваат тесно ограничени дејства.
• Луѓето решаваат двосмислени случаи, случаи со големо влијание или чувствителни на политики.

На пример, ВИ-асистент може да прими: „Ве молам, дајте му на Acme 15% попуст за обновување.“ Може да го извлече името на клиентот и побараниот попуст, а потоа да повика услуга за цени. Услугата, а не моделот, утврдува дали сметката ги исполнува условите и дали е потребно одобрување. Потоа асистентот може да го објасни исходот со јазик соодветен за подносителот на барањето.

{
  "customer_id": "acme-1024",
  "requested_discount_percent": 15,
  "contract_term_months": 12
}

Услугата за цени може да врати одобрен попуст, потребен одобрувач или причина за одбивање. Тој одговор е структурирана деловна вистина. Задачата на моделот е јасно да ја претстави, а не повторно да ја толкува во попогоден одговор.

Претворете ги политиките во повикливи можности

Најтрајниот образец е да се изложат деловните правила преку мали, добро дефинирани можности. Наместо на агентот да му дадете широк пристап до базата на податоци и да побарате од него да „се справува со обновувања“, обезбедете алатки како get_renewal_options, validate_discount, create_approval_request и draft_customer_reply.

Секоја алатка треба да има јасен договор: прифатени влезови, вратени полиња, однесување при авторизација и режими на неуспех. Тесно наменетите алатки го олеснуваат тестирањето на агентот, проверката на неговите одлуки и ограничувањето на штетата кога барањата се погрешно форматирани или погрешно разбрани.

Тие исто така им помагаат на тимовите безбедно да се развиваат. Ако се промени правило за попуст, ажурирајте ја услугата за цени еднаш. ВИ-асистентот веднаш го користи новото правило без да е потребно секој потсетник, дефиниција на агент и документ за работен тек да се преработи.

Одржувајте ја границата на алатката намерна

Не претворајте интерфејс на алатка во тенка обвивка околу неограничен внатрешен пристап. Алатка наречена run_sql може да изгледа флексибилно за време на прототипирањето, но го прави спроведувањето на политики, авторизацијата и ревизијата многу потешки. Претпочитајте операции што одразуваат вистинско деловно дејство.

Добриот дизајн на алатка, исто така, враќа доволно детали за моделот да комуницира прецизно. Обично false го принудува агентот да шпекулира. Резултат како approval_required со причина и следен чекор му овозможува да даде корисен, заснован одговор.

Користете пребарување за знаење, не за авторитет

Внатрешните документи се вреден контекст. Прирачниците за производи, белешките за сметки, оперативните процедури и документите за политики може да му помогнат на асистентот да одговара на прашања и да ги насочува корисниците. Пребарувањето може да го направи тоа знаење достапно во моментот кога е потребно.

Но преземениот текст не е замена за трансакциската вистина. Документот може да е застарен, нецелосен или напишан за друга публика. Ако асистентот треба да знае дали клиентот во моментов ги исполнува условите за исклучок, треба да ја побара авторитативната услуга. Ако треба да ја објасни политиката за исклучоци, пребарувањето може да биде токму вистинската алатка.

Едноставно правило помага: користете документи за да објасните што луѓето вообичаено треба да прават; користете управувани системи за да одлучите што е дозволено сега.

Дизајнирајте за неизвесност и прекин

Реалните работни текови се полни со нецелосни барања. Името на клиент може да одговара на повеќе записи. Во барањето може да недостига датум на стапување во сила. API може да истече откако дејството веќе успешно завршило. Сигурен ВИ-систем ги очекува овие ситуации наместо да ги третира како невообичаени.

Изградете експлицитни патеки за:

• недостасувачки информации и прашања за појаснување;
• двосмислени совпаѓања и потврда од корисникот;
• неуспеси во авторизацијата без откривање чувствителни податоци;
• привремени неуспеси на алатките и безбедно однесување при повторен обид;
• идемпотентни дејства, така што повторните обиди не создаваат дупликат-промени;
• човечка ескалација кога сигурноста е ниска или влијанието е големо.

За операции за запишување, користете идентификатор на барање или клуч за идемпотентност каде што основниот систем го поддржува тоа. Ако дојде до мрежен неуспех по поднесувањето, агентот треба да ја провери резултирачката состојба пред повторно да се обиде. „Обиди се повторно“ не е стратегија за закрепнување кога операцијата може да издаде поврат на средства, да создаде нарачка или да ги промени дозволите за пристап.

Оценувајте работни текови, не само одговори

Традиционалната евалуација на ВИ често се фокусира на тоа дали одговорот звучи точно. Тоа е неопходно, но недоволно за деловни системи. Одговор што звучи корисно сè уште може да биде погрешен ако користел застарени информации, прескокнал потребно одобрување или повикал погрешна алатка.

Создадете евалуации засновани на сценарија околу работниот тек. Вклучете вообичаени случаи, гранични услови, спротивставени упатства, недостапни услуги, неовластени корисници и обиди да се убеди системот да ја заобиколи политиката. Проверувајте ја не само конечната порака, туку и повиците на алатките, аргументите, редоследот и одлуките за ескалација.

Дневниците треба да направат трагата на извршување разбирлива: што побарал корисникот, кои информации биле преземени, кои алатки биле извршени, што вратила секоја алатка и дали презел човек. Заштитете ги чувствителните информации во тие дневници, но не правете го системот толку нетранспарентен што инцидентите стануваат невозможни за истражување.

Почнете со ограничена одлука

Најдобрите први ВИ-проекти ретко се широки ветувања за автоматизирање на цел оддел. Почнете со чест, ограничен работен тек каде што влезовите, политиката и критериумите за успех се видливи. Асистент за тријажа, внатрешен водич за политики, работен тек за подготовка на обновување или асистент за резиме на инциденти може да создаде вистинска вредност без да добие неограничен авторитет.

Како што системот ја докажува својата сигурност, проширувајте ги неговите можности една одлука по една. Овој пристап може да изгледа помалку драматичен од автономен агент со пристап до сè. Во практика, така се стекнува доверба.

ВИ станува навистина корисна кога го зборува јазикот на бизнисот и ги почитува правилата што го одржуваат бизнисот во работа. Моделите обезбедуваат флексибилно расудување и комуникација. Вашите системи обезбедуваат факти, политики и контрола. Спојте ги овие делови намерно, и резултатот не е само ВИ што звучи информирано. Тоа е ВИ на која може да ѝ се верува дека ќе помогне.