Агент со ВИ не е само прозорец за разговор со подобра функција за автоматско дополнување. Во својата најкорисна форма, тој е софтверска компонента што може да интерпретира цел, да го собере потребниот контекст, да избере меѓу ограничени дејства и да извести што се случило. Таа промена го пренасочува разговорот од „Како да користиме ВИ за побрзо да ги завршиме задачите?“ кон „Кои одлуки и работни текови заслужуваат сигурен дигитален партнер?“

Разликата е важна. Асистент што прима задачи чека поттик и враќа одговор. Стратешки софтверски партнер учествува во работен тек: следи редица, истражува проблем, подготвува промена, бара одобрување каде што е соодветно и остава трага што може да се ревидира. Технологијата може да го користи истиот основен модел, но дизајнот на системот е многу поважен од самиот модел.

Почнете со работен тек, не со агент

Тимовите често почнуваат со прашањето што би можел да направи агентот. Подобра појдовна точка е да се идентификува повторлив работен тек со јасни влезови, корисни излези и прифатлив начин на откажување. Најдобрите рани кандидати обично се доволно здодевни за да бидат важни, доволно структурирани за да се ограничат и доволно видливи за да се оценат.

Разгледајте работен тек за тријажа на поддршка. Агентот може да прочита пристигнат проблем, да ја извлече областа на производот и итноста, да пребара одобрена документација и познати инциденти, да подготви нацрт-одговор и да го насочи тикетот до вистинскиот тим. Не треба тивко да ветува поправка, да затвора пријава од клиент или да менува продукциски податоци. Тие граници претвораат впечатлива демонстрација во сигурен систем.

Добри почетни случаи на употреба вклучуваат:

• Сумирање и класифицирање пристигнати барања.
• Подготовка на контекст за преглед на код од pull request и поврзаните тикети.
• Претворање белешки од инцидент во нацрт-временска линија и контролна листа за следни чекори.
• Споредување промени во конфигурацијата со документирани стандарди.
• Собирање докази за човечка одлука, како што е подготвеноста за издание.

Забележете го заедничкиот образец: агентот го намалува когнитивниот товар пред човек да донесе значајна одлука. Тоа често е повредно и многу побезбедно од обидот за целосна автономија уште од првиот ден.

Дизајнирајте го агентот како ограничен систем

Јазичните модели се флексибилни, но продукциските работни текови имаат потреба од ограничувања. Дајте му на агентот тесна улога, дефиниран сет алатки, експлицитни инструкции за тоа што смее да го смета за авторитетно и јасен услов за запирање. „Помагај со распоредувања“ е нејасно. „Прочитај ја контролната листа за издание, провери го статусот на распоредувањето, идентификувај ги незавршените задолжителни чекори и подготви ажурирање за статусот“ е оперативно.

Пристапот до алатки заслужува посебна грижа. Агент што може да пребарува база на знаење и да создава нацрт е многу различен од оној што може да спојува код, да ротира акредитиви или да издава поврати на средства. Одделете го пристапот за читање, создавањето предлози и неповратните дејства. Барајте човечко одобрување за последната категорија сè додека не постојат силни докази дека автоматизацијата е соодветна.

Направете ја состојбата експлицитна

На корисен агент му треба повеќе од историја на разговор. Му треба трајна состојба: барањето на кое работи, изворниот материјал што го користел, веќе направените дејства, добиените одобрувања и конечниот исход. Без тоа, повторните обиди може да ја дуплираат работата, а предавањата стануваат тешки за разбирање.

На пример, агент што обработува неуспешно извршување на build треба да го евидентира идентификаторот на build-от, грешките што ги забележал, сите дијагностички команди што ги извршил и дали отворил нацрт-поправка. Ако процесот се рестартира, може да продолжи од тие докази наместо да го третира неуспехот како нов.

{
  "job_id": "build-triage-1842",
  "status": "awaiting_review",
  "evidence": ["build-log-reference", "test-result-reference"],
  "proposed_action": "open_draft_change",
  "approval_required": true
}

Точната технологија за складирање е помалку важна од дисциплината: важните факти треба да постојат надвор од привремениот контекст на моделот.

Градете за неизвесност и неуспех

На агентот треба да му биде дозволено да каже дека не знае. Всушност, системите стануваат подоверливи кога неизвесноста е вообичаен излез наместо исклучок. Побарајте од агентот да прави разлика меѓу докази, заклучоци и информации што недостигаат. Ако потребниот извор не е достапен, правилното дејство може да биде ескалација, а не создавање одговор што изгледа веродостојно.

Постапувањето со неуспеси треба да се дизајнира пред распоредувањето. Надворешните алатки истекуваат, дозволите се менуваат, документите си противречат, а излезите од моделот повремено ги нарушуваат очекуваните формати. Валидирајте го структурираниот излез пред да го користите. Поставете ограничувања за време и трошоци. Внимателно повторувајте ги привремените неуспеси на алатките, но избегнувајте да повторувате дејства што можеби веќе успеале. Евидентирајте доволно контекст за инженер да може да ја реконструира патеката на одлучување.

Едноставно правило за ескалација може да биде моќно: ако агентот не може да наведе одобрен извор за суштинско тврдење, мора да го означи тврдењето како неизвесно или да побара човечки преглед. Така се спречува сигурниот јазик да се помеша со потврдено знаење.

Мерете го работниот тек, не новитетот

Проектите со агенти може да изгледаат успешни затоа што првите демонстрации се убедливи. Вистинската вредност се појавува во оперативните мерки: време до првиот корисен одговор, процент на правилно насочени случаи, напор за преглед, стапки на грешки, преработка и доверба на корисниците. Изберете почетна основа пред да воведете автоматизација, а потоа споредете го потпомогнатиот работен тек со претходниот.

И квалитативните повратни информации се важни. Инженер за поддршка може да прифати малку несовршено резиме ако тоа сигурно ги истакнува релевантните логови. Менаџер за изданија може да одбие инаку точен агент ако тој го замаглува изворот на своите заклучоци. Усвојувањето зависи од тоа дали луѓето можат да го разберат, поправат и надгласат системот.

Редовно прегледувајте примерок од исходите, особено граничните случаи. Така тимовите откриваат дека агентот е одличен во рутинска класификација, но слаб кога терминологијата се разликува меѓу производите, или дека описот на алатката ненамерно поттикнува ризични дејства. Евалуацијата не е еднократна порта за пуштање во употреба; таа е дел од управувањето со системот.

Намерно променете ја човечката улога

Целта на агентот не е неселективно да ги отстрани луѓето од работата. Таа е да го насочи човечкото внимание кон расудување, исклучоци, управување со односи и подобрување на системот. Кога агентот подготвува прв нацрт, човекот треба да знае што да провери. Кога препорачува дејство, човекот треба да ги види доказите и алтернативите.

Ова исто така го менува начинот на кој градат софтверските тимови. Производот, инженерството, безбедноста, операциите и доменските експерти треба да се согласат за границите на работниот тек. Формулацијата на поттикот е важна, но важни се и дозволите, квалитетот на податоците, дизајнот на интерфејсот, набљудливоста и сопственоста по пуштањето во употреба. Третирањето на агентот како компонента на производот создава поздрави очекувања отколку третирањето како магичен соиграч.

Од помошник до партнер

Најтрајните интеграции со ВИ нема да бидат оние што изгледаат најавтономно. Тоа ќе бидат оние што стекнуваат доверба преку корисно, повторливо однесување. Почнете со вистинско тесно грло. Дајте му на системот јасни алатки и ограничувања. Зачувајте докази, поканете на преглед и учете од неуспесите.

Кога е добро направен, агентот со ВИ станува повеќе од побрз извршител на задачи. Тој станува стратешки софтверски партнер: таков што ја одржува рутинската работа во движење, ја прави сложената работа полесна за проверка и им дава на луѓето повеќе простор да ги донесуваат одлуките што навистина ги бараат.