Најголемата промена во работата со софтвер потпомогната од ВИ не е тоа што моделите можат да пишуваат код. Туку тоа што сега можат да учествуваат во работен тек: да читаат контекст, да предлагаат план, да повикуваат алатки, да проверуваат резултати и да ја предаваат работата назад кога е потребна проценка.

Таа промена нè носи подалеку од промптирањето. Промптот е барање. Агентот е софтверска компонента што работи во рамките на дизајниран систем. Разликата е важна бидејќи корисните деловни исходи ретко произлегуваат од еден добар одговор во прозорец за разговор. Тие произлегуваат од сигурни низи на одлуки, дејства, проверка и одговорност.

За развивачите и технолошките лидери, прашањето повеќе не е „Кој промпт го дава најдобриот излез?“ Туку „Каде агентот може безбедно да придонесе вредност и како да го оркестрираме со луѓето, податоците и постојниот софтвер?“

Промптовите создаваат текст; системите создаваат исходи

Јазичниот модел може да резимира извештај за инцидент, да подготви опис за pull request или да предложи барање до база на податоци. Тоа се вредни способности, но тие се изолирани моменти. Интегрираниот агент може да преземе ограничена цел, да собере дозволен контекст, да користи одобрени алатки и да забележи што се случило по патот.

Разгледајте работен тек за тријажа на поддршка. Основен промпт може да класифицира залепена порака од клиент. Оркестриран систем може да прими тикет, да пронајде релевантна документација за производот, да го идентификува нивото на сметката од CRM, да подготви одговор, да создаде инженерско прашање кога доказите укажуваат на дефект и да ги насочи чувствителните случаи кон човек. Моделот е само еден дел од тој тек.

Слојот за оркестрација го одредува вистинскиот квалитет на системот. Тој дефинира кои информации се достапни, кои дејства се дозволени, што бара одобрување, како се постапува со неуспесите и како се оценуваат резултатите. Без тој слој, агентот често е само способен, но непредвидлив интерфејс.

Почнете со работен тек, а не со модел

Најсилните проекти со агенти почнуваат со болен, повторлив работен тек што веќе има јасен сопственик. Избегнувајте да почнувате со нејасна амбиција како „додај ВИ во операциите“. Наместо тоа, мапирајте постоечки процес од активирање до завршување.

За секој чекор, поставете четири практични прашања: Кои влезови се потребни? Каква одлука се носи? Која алатка го извршува дејството? Како ќе знаеме дека дејството било правилно?

• Влезови: тикети, промени во складиштето, документи, телеметрија, формулари или структурирани записи.
• Одлуки: класифицирај, приоритизирај, извлечи, спореди, препорачај или ескалирај.
• Дејства: создај нацрт, ажурирај запис, изврши извештај, отвори задача или извести сопственик.
• Проверка: проверки на шемата, деловни правила, тестови, човечки преглед или потврда од следниот чекор.

Ова разложување спречува вообичаен начин на неуспех: барање од моделот да „управува“ со процес чии правила и гранични случаи никој не ги има артикулирано. Агентите не ја отстрануваат потребата да се разбере работата. Тие го прават тоа разбирање поважно, бидејќи скриените претпоставки стануваат автоматизирано однесување.

Дизајнирајте ги агентите како ограничени соработници

Корисните агенти треба да имаат тесна улога, експлицитни алатки и разбирлива точка на запирање. „Решавај проблеми на клиенти“ не е соодветна инструкција. „Подготви одговор на прашања за наплата користејќи го записот за сметката и објавената политика; ескалирај сè што вклучува поврати или пристап до сметка“ е многу поблиску до улога што може да се имплементира.

Пристапот до алатки заслужува исто внимание како и дозволите на апликациите. Агент што може да чита база на знаење и да создава нацрт има многу поинаков профил на ризик од оној што може да издава поврати, да распоредува код или да менува продукциски податоци. Дајте му го најмалиот сет способности што може да ја заврши доделената задача.

Структурираните излези се уште една суштинска граница. Ако услуга во следниот чекор има потреба од приоритет, категорија, објаснување и индикатор за доверба, побарајте дефинирана структура и валидирајте ја пред да преземете дејство. Не дозволувајте слободниот текст да стане случаен API договор.

{
  "category": "billing",
  "priority": "normal",
  "recommended_action": "draft_reply",
  "needs_human_review": false,
  "reason": "Question matches published invoice guidance."
}

Валидацијата сепак треба да претпостави дека моделот може да згреши. Проверете ги задолжителните полиња, прифатените вредности, правилата за овластување и тековната состојба на целниот систем. Валиден JSON објект не е доказ дека неговиот заклучок е точен.

Градете за повторни обиди, двосмисленост и безбеден неуспех

Продукциските работни текови се соочуваат со недостапни услуги, нецелосни записи, дупликат настани, спротивставени инструкции и барања што не се вклопуваат во познатите категории. Ова не се ретки исклучоци; тие се нормалната средина околу автоматизацијата.

Одвојте го расудувањето на агентот од несаканите ефекти секогаш кога е можно. Нека најпрво подготви план или нацрт. Потоа нека конвенционалната апликациска логика ги валидира условите и ја изврши промената. За значајни дејства, додадете чекор за одобрување што ги прикажува контекстот, препораката и наменетото дејство на одговорно лице.

Повторните обиди бараат особена дисциплина. Барање за создавање тикет или испраќање порака може да успее дури и ако услугата што го повикува истече пред да добие потврда. Користете стабилни идентификатори и идемпотентни операции каде што целниот систем ги поддржува. Забележете ја состојбата на работниот тек за повторниот обид да може интелигентно да продолжи наместо да го повторува секое дејство.

Кога довербата е ниска, двосмисленоста е висока или е достигната граница на политиката, правилното однесување често е да се запре. Добро дизајнираната ескалација е успешен исход. Таа ги заштитува корисниците, додека создава повратни информации што можат да ги подобрат инструкциите, пребарувањето, правилата и интерфејсите.

Мерете го работниот тек, а не демото

Демонстрациите на агенти имаат тенденција да нагласуваат импресивни поединечни одговори. Оперативната вредност подобро се мери низ целиот работен тек. Следете колку често работата стигнува до правилната дестинација, колку човечки напор се заштедува, колку често прегледувачот ја менува препораката и каде се групираат неуспесите.

Редовно прегледувајте примероци, вклучително и случаи што изгледаат успешни. Системот може да изгледа продуктивен додека тивко применува погрешна политика или создава работа за друг тим. Евалуацијата треба да вклучува нормални случаи, недостасувачки податоци, противнички влезови, застарена документација и исклучоци со големо влијание.

Набљудливоста е подеднакво важна. Евидентирајте ја верзијата на работниот тек, достапните алатки, влезовите дозволени според политиката, повиците на алатки, резултатите од валидацијата и конечната одлука. Дневниците треба да поддржуваат дебагирање без непотребно задржување чувствителна содржина. Целта е следливост: некој треба да може да разбере зошто системот дејствувал или одбил да дејствува.

Човечката улога станува повредна, не помалку вредна

Оркестрацијата ја менува природата на стручноста. Луѓето трошат помалку време на преместување информации меѓу системи и повеќе време на дефинирање политики, прегледување исклучоци, подобрување работни текови и донесување одлуки каде што се важни вредностите или компромисите. Тоа не е мал имплементациски детал. Тоа е вистинскиот организациски редизајн зад усвојувањето агенти.

Најдобриот прв агент обично не е автономна замена за цела работа. Тој е сигурен соработник во тесен, видлив процес. Дајте му јасна цел, ограничено овластување, силни проверки и лесен пат да ја предаде работата назад.

Промптирањето нè учи како да комуницираме со модел. Оркестрирањето нè учи како да изградиме сигурен софтвер околу него. Организациите што ќе добијат трајна вредност од ВИ нема да бидат оние со најумните промптови. Туку оние што ќе ги претворат корисните способности на моделите во системи на кои луѓето можат да им веруваат.