Повеќето софтвери извршуваат инструкции. Агентите со ВИ додаваат поинаква способност: можат да интерпретираат цел, да го разгледаат достапниот контекст, да изберат следен чекор, да користат одобрени алатки и да се приспособат кога првиот обид ќе не успее. Тоа не ги прави магични колеги или автономни бизниси. Ги прави нов вид софтверски систем — таков што комбинира јазични модели со работни текови, податоци, контроли и повратни информации.

Разликата е важна бидејќи многу разочарувачки проекти со ВИ почнуваат со превисоко очекување: „Дајте му на моделот пристап до сè и оставете го да ја заврши работата.“ Сигурните агентски системи се градат во спротивна насока. Тие почнуваат со тесно дефиниран исход, јасни граници и процес што може да се набљудува и коригира.

Од промптови до системи насочени кон цели

Четботот одговара на барање во една интеракција. Агентот е дизајниран да ја продолжи работата. Тој може да го подели барањето на чекори, да повлече информации, да повика алатка, да го провери резултатот и да одлучи дали да продолжи, да побара помош или да запре.

Разгледајте внатрешен работен тек за поддршка. Едноставен асистент може да подготви одговор врз основа на база на знаење. Агентска верзија може да го класифицира барањето, да побара информации за сметката преку дозволен систем, да изготви одговор, да идентификува докази што недостигаат и да ги насочи исклучоците кон лице. Корисниот дел не е тоа што пишува текст. Корисниот дел е тоа што придвижува ограничен процес кон разрешување.

Ова го менува инженерското прашање од „Кој промпт го дава најдобриот одговор?“ во „Која е најбезбедната и најсигурната јамка за завршување на оваа задача?“

Суштинските делови на агент со ВИ

Агентот во продукција ретко е само повик до модел. Тој е мал систем со неколку одговорности што треба да останат експлицитни.

• Цел и опсег: Дефинирајте го исходот, дозволените дејства и условите што бараат ескалација.
• Контекст: Обезбедете тековни, релевантни информации наместо неселективно да додавате секој документ или запис од база на податоци.
• Алатки: Дајте му на агентот контролирани начини за пребарување, читање, пресметување, создавање нацрти или барање одобрено дејство.
• Јамка за одлучување: Овозможете му да го процени резултатот од дејство и да избере ограничен следен чекор.
• Состојба: Зачувајте ги информациите потребни за продолжување на работата без да се мешаат старите претпоставки со тековните факти.
• Евалуација и евиденција: Запишувајте што се случило за тимовите да можат да го мерат квалитетот, да истражуваат неуспеси и да го подобруваат работниот тек.

Моделот обезбедува расудување во услови на неизвесност. Традиционалниот софтвер ја обезбедува сигурната структура околу него. Ако недостига која било страна, системот станува кревок: чистите правила се борат со двосмислени барања, додека моделот во слободна форма нема заштитни механизми потребни за значајна работа.

Изберете задачи со корисни граници

Најдобрите почетни случаи за употреба на агенти не се најтеатралните. Тие се повторливи задачи богати со информации со видлива дефиниција за завршеност. Примерите вклучуваат подготовка на истражувачки бриф од одобрени извори, тријажа на пристигнати барања, проверка на документ според контролна листа на политики или составување прв нацрт на рутински извештај.

Почнете со мапирање на работата како што се одвива денес. Идентификувајте го активирачот, влезовите, одлуките, вклучените системи, патеките за исклучоци и конечниот проверувач. Ова често открива дека само еден дел од работниот тек има потреба од ВИ. Моделот може да биде одличен во извлекување намера од неуреден текст, додека детерминистичкиот код останува подобар за дозволи, пресметки, промени на статус и ажурирања на записи.

Дефинирајте „завршено“ пред да изберете автономија

На агентот му треба правило за запирање. „Помогни му на клиентот“ не е такво правило. „Изработи нацрт-одговор што цитира одобрено знаење, ги вклучува потребните полиња за сметката и означува неразрешени прашања во врска со политиките“ е многу поблиску.

За секој работен тек, одлучете кои дејства агентот смее да ги преземе самостојно и за кои е потребна потврда. Читањето документ, предлагањето ознаки или создавањето нацрт генерално носат помал ризик од испраќање пораки, менување записи или иницирање финансиски или безбедносно чувствителни дејства. Нивото на автономија треба да одговара на цената на грешката.

Дизајнирајте ги алатките како договори, а не како покани

Пристапот до алатки е местото каде што агентот станува оперативен. Тоа е и местото каде што нејасниот дизајн создава скапи неуспеси. Алатката треба да има тесна намена, валидирани влезови, предвидливи излези и дозволи соодветни за задачата.

Наместо да изложите широк административен интерфејс, изложете фокусирана операција како „преземи статус на нарачка за овој овластен клиент“ или „создај нацрт-тикет со овие полиња“. Агентот треба да добива структурирани резултати секогаш кога е можно. Јасен резултат како статус, идентификатор на запис и причина за грешка е полесно правилно да се користи отколку долг, неструктуриран одговор.

Патеките при неуспех заслужуваат исто внимание како и патеките при успех. Алатката може да истече, да не врати записи, да отфрли аргумент или да пријави привремен проблем со услугата. Агентот не треба тивко да измислува успех. Треба да се обиде повторно само кога повторниот обид е безбеден, да пријави неизвесност кога доказите се нецелосни и да предаде на човек кога работниот тек не може да продолжи.

Автономијата не е отсуство на контроли. Таа е способност да се напредува во рамки на контроли што се намерни, видливи и пропорционални.

Одржувајте го контекстот тековен и доверлив

Јазичните модели можат да создадат уверливи одговори од нецелосен контекст. Таа сила станува ризик кога агентот секоја преземена реченица ја третира како авторитативна. Направете го потеклото дел од работниот тек: идентификувајте од каде потекнува информацијата, кога е преземена и дали е одобрена за конкретната одлука.

Преземањето треба да биде селективно. Дајте му на агентот дел од политиката, записот за клиентот или проектниот документ релевантен за тековниот чекор — не неселективна архива. Намалете ги дупликатите, разликувајте инструкции од референтен материјал и одделете недоверлив надворешен текст од доверливи правила на работниот тек.

И меморијата има потреба од дисциплина. Краткотрајната состојба на задачата често е повредна од голема, трајна мемориска продавница. Зачувувајте потврдени факти, завршени дејства и преференции одобрени од корисникот. Избегнувајте да зачувувате шпекулативни заклучоци на моделот како да се проверени податоци.

Оценувајте однесување, а не само течен излез

Угладениот одговор може да прикрие лош процес. Оценувајте ги агентите според репрезентативни задачи и тешки случаи: информации што недостигаат, конфликтни инструкции, неправилно форматирани резултати од алатки, двосмислени барања и дејства што треба да бидат одбиени или ескалирани.

Корисните мерки зависат од работниот тек, но често вклучуваат квалитет на завршување, правилно насочување, точност на повиците до алатки, време до разрешување, непотребни ескалации и избегнати штетни или неповратни дејства. Прегледајте ја целата трага кога нешто ќе тргне наопаку. Дали агентот погрешно ја разбрал целта, добил слаб контекст, избрал погрешна алатка, погрешно прочитал резултат или немал безбеден услов за запирање?

Изградете сет за евалуација пред широко распоредување. Одржувајте го верзиониран како што се менува работниот тек. Тестирајте ги одделно промените во промптовите, алатките, моделите и преземањето кога е можно, бидејќи мало подобрување во еден слој може да воведе регресии на друго место.

Воведувајте агенти како продуктна работа

Успешното усвојување не е премин од рачна работа кон автономна работа. Тоа е итеративна продуктна практика. Почнете со ограничена публика, повратно дејство и јасен сопственик на исходите. Дајте им на корисниците начин да ги прегледаат артефактите од расудувањето на агентот, да ги коригираат нацртите и да пријавуваат неуспеси. Тие корекции се вреден дизајнерски влез, а не доказ дека проектот не успеал.

Тимовите треба да бидат искрени и за економиката и латентноста. Агент што прави повеќе барања до модел, пребарува неколку системи и чека на алатки може да биде поспособен од единечен одговор, но може и да чини повеќе и да трае подолго. Користете го наједноставниот работен тек што го исполнува прагот за квалитет. Додавајте планирање, меморија или поголем пристап до алатки само кога измерен проблем го бара тоа.

На софтверот што мисли сè уште му треба софтвер што се грижи

Агентите со ВИ се привлечни бидејќи можат да работат низ неуредната средина: двосмисленото барање, нецелосниот документ, рутинскиот исклучок и следното разумно дејство. Но нивната вредност не доаѓа од преправањето дека неизвесноста исчезнала. Таа доаѓа од тоа што ја прават неизвесноста управлива.

Трајниот образец е едноставен: дајте му на агентот вредна цел, доверлив контекст, ограничени алатки, експлицитни услови за запирање и човечки пат за значајни одлуки. Изградете ја таа основа добро и ВИ престанува да биде новина наслоена врз софтверот. Таа станува практичен начин софтверот да учествува во работа што претходно барала постојана рачна интерпретација.