Надвор од промптовите: дизајнирајте заднински системи што ја учат вештачката интелигенција за вашиот бизнис
Промптот може да му каже на асистент со вештачка интелигенција да го „разбере нашето работење“. Не може да му каже на асистентот кој клиент има право на поврат на средства, дали нарачката е испратена или кој смее да види договор. Тие одговори се наоѓаат во системи, правила и односи што се менуваат долго откако промптот е напишан.
Затоа заднинскиот систем е повеќе од извор на податоци. Тој е слојот што може да ѝ обезбеди сигурен контекст на апликацијата со вештачка интелигенција, да спроведува ограничувања и да претвори веродостоен одговор во корисен. Инженерскиот предизвик е деловното знаење да се направи достапно во форма што асистентот може да ја користи без да мора да погодува како функционира компанијата.
Одвојте го знаењето од овластувањето
Деловното знаење постои во повеќе форми. Документ со правила може да го објаснува општиот рок за поврат на средства. Базата на податоци за нарачки ги содржи датумот на купување и статусот на исполнување на нарачката. Апликациски сервис одлучува дали одредена нарачка ги исполнува условите, вклучувајќи ги и исклучоците што можеби не се наведени во резимето на правилата.
На асистентот му се потребни различни начини на пристап за секој од нив. Пребарувањето може да пронајде релевантни извадоци од правилата. API за читање може да обезбеди тековни детали за нарачката. Наменски сервис може да ја процени подобноста. Асистентот потоа може да го објасни резултатот, но сервисот останува одговорен за одлуката.
На пример, наместо на моделот да му дадете шема на база на податоци и да побарате сам да утврди дали се исполнети условите за поврат на средства, направете достапна операција со тесно дефиниран опсег, како „провери дали оваа нарачка ги исполнува условите за поврат на средства“. Нејзиниот одговор може да содржи одлука за подобноста, код за причината и верзија на правилата. Така асистентот добива нешто конкретно што може да го соопшти, а инженерскиот тим добива стабилно место за одржување на правилата.
Дизајнирајте го контекстот како API производ
Крајните точки наменети за вештачка интелигенција заслужуваат исто внимание како и јавните API-ја. Дајте ѝ на секоја операција јасна намена, проверувајте ги нејзините влезни податоци и враќајте полиња со документирано значење. Избегнувајте одговори што мешаат необработени записи, инструкции за форматирање и неповрзани внатрешни белешки.
Корисен одговор на прашање за нарачка може да ги содржи идентификаторот на нарачката, статусот на исполнување, времето на последното ажурирање и објаснување на статусот соодветно за клиентот. Исто така, треба да прави разлика меѓу „не е пронајдено“, „нема овластување“ и „привремено недостапно“. Апликацијата може да одлучи колкав дел од таа разлика да му открие на корисникот, без да му дозволи на асистентот да измисли одговор.
Вклучете ги овие проверки во прегледот на API-то:
- Опсег: Дали операцијата одговара на едно јасно препознатливо деловно прашање?
- Ажурност: Дали одговорот кажува кога последен пат биле ажурирани основните информации?
- Потекло: Дали апликацијата може да ги утврди правилата или записот врз кои се заснова одговорот?
- Неуспех: Дали повикувачите можат да разликуваат недостасувачки информации од грешка во сервисот?
- Пристап: Дали овластувањето се проверува во однос на лицето и засегнатиот ресурс?
Во PHP апликација, овие операции може да се сместат зад вообичаени контролери и апликациски сервиси. Деловните одлуки чувајте ги во сервиси што може да се тестираат независно од разговорниот интерфејс. Така истиот сервис за утврдување подобност може да поддржува портал за клиенти, внатрешна контролна табла и асистент со вештачка интелигенција, без три меѓусебно конкурентни имплементации на правилата.
Пронаоѓајте документи без да го изгубите нивниот контекст
На некои прашања не може да се одговори преку една структурирана крајна точка. За документација за производи, процедури за поддршка и објаснувања на правила посоодветно е пребарување: пронајдете релевантни извадоци, проследете му ги на моделот и побарајте да одговори врз основа на тој материјал.
Квалитетот на пребарувањето зависи од подготовката. Поделете ги документите на извадоци што зачувуваат доволно од околниот контекст, додајте корисни метаподатоци и забележете од каде потекнува секој извадок. Пасус за исклучок е многу помалку корисен ако е одвоен од делот од правилата што дефинира кога се применува исклучокот.
Метаподатоците ѝ помагаат на апликацијата и да филтрира пред пребарувањето. Агент за поддршка и клиент може да имаат дозвола да пребаруваат во различни збирки; правилата за еден регион можеби не важат во друг. Спроведувајте ги тие ограничувања во системот за пребарување и во апликацискиот слој. Предоцна е да се бара од моделот да го игнорира неовластениот текст откако веќе го примил.
И содржината на документите може да содржи погрешни инструкции. Третирајте го пронајдениот текст како материјал за разгледување, а не како инструкција што може да ги надвладее правилата на апликацијата. Дозволените операции на асистентот и проверките на овластувањата држете ги надвор од пронајдените документи.
Направете ги дејствата јасни и овозможете закрепнување по грешка
Читањето на нарачка и нејзиното менување се различни операции. Ако асистентот може да иницира поврат на средства, да ажурира адреса или да отвори барање за поддршка, заднинскиот систем мора да го провери дејството исто како што би го направил тоа за кој било друг клиент.
Побарајте го соодветниот идентитет, проверете ја дозволата и тековната состојба и применете ги деловните правила на серверот. За дејства со значајни последици, покажете му на корисникот што ќе се случи и добијте потврда пред да го поднесете барањето. Потврдата треба да ги наведе дејството и неговите важни детали, како што се нарачката и износот за поврат.
Мрежните прекини го прават дизајнот на дејствата особено важен. Клиентот може да го изгуби одговорот откако серверот веќе го извршил барањето. Ако клиентот повтори без проверка, може да создаде дупликат на дејството. Клуч за идемпотентност, кој заднинскиот систем го зачувува и проверува за предвидената операција, му овозможува на сервисот да препознае повторено барање и да го врати првичниот резултат. Точниот период на чување и постапувањето при конфликт треба да бидат дел од договорот за API-то.
Планирајте за латентност, промени и неизвесност
Одговорот на вештачката интелигенција може да зависи од неколку сервиси: автентикација, пребарување, API за нарачки, сервис за правила и давател на модел. Секоја зависност додава латентност и уште една можност за неуспех. Поставете временски ограничувања, ограничете ги повторните обиди и направете ги делумните неуспеси видливи. Ако сервисот за правила е недостапен, асистентот може да каже дека сè уште не може да ја провери подобноста; не треба да ја замени проверката со самоуверена претпоставка.
Користете кеширање промислено. Документ со правила може да поднесе подолг период на чување во кешот од статус на нарачка, но и за двата е потребна стратегија за поништување на кешот кога точноста зависи од ажурни информации. Вклучете временски ознаки или верзии кога тие ѝ помагаат на апликацијата да одлучи дали контекстот сè уште може да се користи.
Пакувањето на апликацијата во контејнери со Docker може да ги направи зависностите и локалното поставување подоследни, но контејнерите не го решаваат квалитетот на податоците или дизајнот на сервисите. Чувајте ја конфигурацијата надвор од сликата, управувајте со тајните податоци преку соодветен механизам за управување со тајни и при тестирањето испитајте ги истите сценарија на неуспех со кои мора да се справи и пуштената апликација.
Оценувајте го целиот одговор
Традиционалното следење на API-то и понатаму е важно: следете ги грешките, латентноста и состојбата на зависностите. Додајте и оценување на однесувањето што го гледа корисникот. За репрезентативен збир прашања, проверете дали апликацијата го пронашла вистинскиот материјал, го повикала соодветниот сервис, ги почитувала ограничувањата за пристап и дала одговор поткрепен со резултатите.
Вклучете случаи во кои правилниот одговор изразува неизвесност: застарен документ, недостапен сервис, противречни записи или барање што ги надминува дозволите на корисникот. Внимателно прегледувајте ги дневничките записи, ограничувајќи ги чувствителните податоци и задржувајќи го само она што е потребно за работењето и истрагите.
Ниту најдобриот промпт на светот не може да надомести за нејасната одговорност за деловните правила. Добро дизајнираниот заднински систем му дава на асистентот поцврста основа: тековни факти, јасни одлуки, контролирани дејства и искрен приказ на состојбите при неуспех. Така апликацијата преминува од тоа да звучи како да го познава работењето на компанијата кон тоа да биде доверлива во нејзини рамки.