Асистент со вештачка интелигенција може да напише уверлив одговор, а притоа да го пропушти единственото правило што го прави одговорот корисен за вашиот бизнис. Може да препорача поврат на средства за кој е потребно одобрување, да вети датум на испорака што вашиот магацин не може да го исполни или да сумира проблем на клиент без да препознае дека треба да се ескалира.

Инстинктивната реакција често е на моделот да му се дадат повеќе документи или подолг промпт. Понекогаш тоа помага. Но, на еден ефективен систем со вештачка интелигенција му е потребен повеќе од пристап до информации: му треба сигурен начин да ги применува деловните правила, да учи од резултатите и да работи во рамки што луѓето можат да ги проверат.

Почнете со дефинирање што значи „учи“

Учењето е збор со многу значења во вештачката интелигенција. Моделот не мора да ги ажурира своите параметри кога корисникот ќе исправи одговор. Системот сепак може да се подобрува без повторно тренирање на моделот: може да пронаоѓа подобри информации, да бележи корекции, да приспособува работен тек или да му понуди на проверувачот појасна одлука што треба да ја донесе.

Разграничете ги овие механизми пред да изберете имплементација:

• Инструкциите му кажуваат на моделот како да се однесува при извршување задача.
• Пребарувањето информации обезбедува релевантни, ажурни информации од надворешен извор.
• Апликациската логика ги спроведува правилата и контролира кои дејства се достапни.
• Повратните информации и евалуацијата откриваат каде системот успева или не успева и ги насочуваат промените.
• Тренирањето или дополнителното дотренирање може да го промени однесувањето на моделот, но бара соодветен процес и не ги заменува надворешните контроли.

Овие механизми работат заедно, но решаваат различни проблеми. Ако утре се промени лимитот за поврат на средства, ажурирањето на меродавната политика или конфигурација обично е подиректно отколку да се потпирате на моделот да го запомни новиот лимит.

Поставете го секое правило таму каде што може да му се верува

Разгледајте асистент што му помага на персоналот за поддршка да обработува барања за поврат на средства. Тој треба да ја протолкува пораката на клиентот, да ја пронајде соодветната нарачка, да ја примени тековната политика и да предложи одговор. За сите тие чекори не е соодветно исто ниво на слобода при одлучувањето.

Моделот е корисен за толкување на нејасно објаснување или за составување јасен одговор. Детерминистичкиот апликациски код е посоодветен за проверка дали нарачката ги исполнува условите, пресметување на износот за поврат и утврдување дали е потребно одобрување. Изворот на политиката треба да ги обезбеди тековните услови; апликацијата треба да наведе која верзија ја користела.

Таа поделба е важна затоа што инструкциите на природен јазик можат да бидат двосмислени, а излезите на моделот да варираат. Промпт што вели „никогаш не го надминувај дозволениот износ за поврат“ е корисна насока, но услугата што ги извршува повратите треба независно да го провери лимитот пред да преземе дејство.

Раздвојте ги одлуките од дејствата

Дајте му на асистентот ограничен начин да побара дејство, а потоа проверете го барањето надвор од моделот. На пример, асистентот може да предложи идентификатор на нарачка, износ и причина. Апликацијата ги проверува овластувањата на корисникот, ја потврдува тековната состојба на нарачката, ја применува политиката и потоа го одбива барањето, го упатува на одобрување или го извршува.

За дејства со значајни последици, прикажете му го на човек предложениот исход и информациите што го поткрепуваат. Потоа проверувачот може да одобри поврат на средства со увид во контекстот, наместо да се обидува да утврди зошто асистентот постапил на одреден начин. Забележете ја одлуката и релевантната верзија на политиката за исходот да може да се разгледа подоцна.

Претворете ги корекциите во циклус на учење

Само копче за повратни информации не го тера системот да учи. Корисниот циклус поврзува конкретен пропуст со одговорно лице и промена. Ако агент за поддршка уреди предложен одговор, забележете доволно контекст за да се разбере измената: задачата, предложениот одговор, конечниот одговор и соодветна причина за корекцијата. Ограничете го пристапот до тие податоци и чувајте го само она што ѝ е потребно на организацијата.

Потоа барајте обрасци. Повторливите корекции во врска со некој исклучок може да откријат нејасна политика, проблем со пребарувањето информации или недостасувачко правило за проверка. За секој од нив е потребна различна поправка. Додавањето примери во промпт нема да поправи застарен документ за политика, а ажурирањето на документот нема да помогне ако апликацијата го пронаоѓа погрешниот документ.

Пред да примените промена во поширок опсег, изградете мал сет за евалуација од репрезентативни случаи. Вклучете едноставни барања, двосмислени случаи, исклучоци од политиката и ситуации во кои правилниот одговор е да се побара помош. Споредете го постојниот систем со предложената промена и разгледајте ги влошувањата, како и подобрувањата. Заштитете ги чувствителните примери и избегнувајте еден поволен резултат да го сметате за доказ за сигурност.

Дизајнирајте за неизвесност и промени

Деловните правила ретко се непроменливи. Во политиките се појавуваат исклучоци, производите се менуваат, а различни клиенти може да имаат различни договори. Назначете јасно одговорни лица за правилата, наведете датуми на стапување во сила каде што е релевантно и обезбедете начин за разрешување противречности. Кога асистентот не може да најде применливо правило или ќе најде противречни извори, треба да го каже тоа и да го упати случајот до некој што може да одлучи.

Планирајте и за вообичаени технички дефекти. Пребарувањето на политиката може да биде недостапно, нарачката може да се промени откако ќе се преземе или барањето за дејство може да го надмине дозволеното време за одговор. Системот треба да избегнува недостасувачките информации да ги претвора во самоуверена претпоставка. Пред повторно да се обидете да извршите дејство што има споредни ефекти, проверете дали веќе успеало; во спротивно, надминувањето на времето за одговор може да доведе до дупликатна операција.

Следењето треба да ги поврзе техничките сигнали со деловните исходи. Следете работи како неуспешни пребарувања, одбиени барања за дејство, стапки на одобрување и корекции, со доволно контекст за да може да се истражат. Намалувањето на грешките е охрабрувачко, но само по себе не докажува дека клиентите го добиле вистинскиот исход. Периодичното разгледување на реални случаи и понатаму е вредно.

Направете го бизнисот попаметен, а не само асистентот

Најдобрите системи со вештачка интелигенција откриваат слабо засновани претпоставки во процесот во кој се вклучени. Ако проверувачите постојано не се согласуваат, можеби треба да се дообјасни политиката. Ако на асистентот често му недостига клучен податок, можеби треба да се назначи одговорно лице за основните податоци. Ако некое дејство бара чести рачни измени, можеби во работниот тек е вградено погрешно правило.

Тоа е практичното ветување на вградувањето деловна логика: моделот придонесува со јазични способности и расудување таму каде што помагаат, додека апликацијата обезбедува меродавни факти, граници што може да се спроведат и начин да се учи од резултатите. Воспоставете ги тие врски промислено и секоја корекција може да подобри повеќе од следниот одговор. Може да го подобри системот на кој луѓето се потпираат.