Повеќето софтверски алатки чекаат човек да одлучи што ќе се случи следно. Агент со вештачка интелигенција е поинаков: може да интерпретира цел, да го испита контекстот, да избере меѓу дозволените дејства и да продолжи низ работниот тек сè додека не стигне до точка за запирање. Тоа ги прави агентите повеќе од интерфејси за разговор со дополнителни копчиња. Кога се правилно интегрирани, тие стануваат архитекти на работните текови.

Разликата е важна бидејќи многу разочарувачки проекти со вештачка интелигенција започнуваат со погрешен ментален модел. Тимовите додаваат модел за да сумира текст или да одговара на прашања, а потоа очекуваат широк оперативен ефект. Може да произлезат корисни функции, но околниот процес останува непроменет. Наместо тоа, агентскиот систем може да го преобликува начинот на кој работата се насочува, проверува, ескалира и завршува.

Од изолирана способност до координирана работа

Моделот може да класифицира тикет за поддршка, да состави одговор или да извлече полиња од фактура. Тоа се вредни способности. Агентот ги комбинира способностите со контролиран циклус: ја разбира тековната состојба, избира дејство, го набљудува резултатот и одлучува дали да продолжи, да се обиде повторно, да побара помош или да запре.

Разгледајте работен тек за инженерски инцидент. Конвенционалната автоматизација може да отвори тикет кога ќе се активира предупредување. Агентскиот работен тек би можел да собере информации за неодамнешните распоредувања, да преземе релевантни оперативни упатства, да ги сумира симптомите на услугата, да провери дали е исполнет одобрен услов за враќање на претходна верзија и да подготви ажурирање за инцидентот за човечки оператор. Не треба тивко да ја извршува секоја промена во продукција. Неговата вредност произлегува од намалувањето на напорот за истрага, притоа зачувувајќи јасни граници на одлучување.

Тоа е архитектура, а не само помош. Агентот поврзува системи и претвора низа рачни предавања на задачите во намерен процес.

Почнете со ограничен работен тек

Најдобриот прв агент ретко е оној со најамбициозниот промпт. Обично е тесно дефиниран работен тек што веќе има препознатлив почеток, корисен контекст, повторливи одлуки и безбеден крај.

• Почеток: Пристигнува ново барање, не успева изработка, се поднесува документ или клиент пријавува проблем.
• Контекст: Агентот може да пристапи до записите, политиките, логовите или алатките потребни за расудување за задачата.
• Одлука: Може да класифицира, да приоритизира, да предлага, да валидира или да насочува работа користејќи експлицитни правила и проценка на моделот.
• Крај: Создава нацрт, ажурира запис, назначува одговорно лице или предава одлука за одобрување.

На пример, асистентот за pull request не треба да почне со обид да ја замени проверката на кодот. Практичната прва верзија би можела да ги идентификува изменетите услуги, да ги преземе релевантните насоки за кодирање, да означи тестови што недостигаат и да изработи концизна контролна листа за преглед. Развивачите ја задржуваат овластеноста за спојувањето, додека системот го прави процесот на преглед поконзистентен и полесен за започнување.

Дизајнирајте го агентот околу состојба, алатки и овластување

На сигурните агенти им треба повеќе од силен модел. Ним им треба експлицитна оперативна средина. Третирајте го моделот како една компонента во систем со состојба, интерфејси за алатки, дозволи и набљудливост.

Одржувајте ја состојбата на работниот тек видлива

Запишете што примил агентот, што презел, кои дејства ги испробал, што вратиле тие дејства и зошто застанал. Само транскрипт од разговор не е доволен. Оперативните работни текови имаат корист од структурирана состојба, како што се идентификатори на задачи, тековна фаза, број на повторни обиди, статус на одобрување и врски до засегнатите записи.

Ова го прави извршувањето продолжливо и полесно за дебагирање. Ако надворешен API не успее откако агентот собрал докази, но пред да создаде тикет, системот треба да знае дека е во фазата „create ticket“, наместо повторно да го започне целиот работен тек.

Направете ги договорите за алатките тесно дефинирани

Алатките се местото каде што агентот влијае врз светот, па нивните интерфејси треба да бидат прецизни. Претпочитајте фокусирана операција како create_draft_incident_update наместо широка алатка што може да запишува произволна содржина на произволни одредишта. Барајте структурирани влезови, валидирајте ги на серверската страна и враќајте корисни пораки за грешки.

{
  "service": "billing-api",
  "severity": "high",
  "summary": "Elevated request failures after deployment",
  "approval_required": true
}

Моделот може да одлучи кои валидни вредности да ги предложи, но апликацијата мора да спроведе што е дозволено. Никогаш не потпирајте се на инструкции на природен јазик како единствена заштита за ингеренции, промени во продукција, финансиски дејства или чувствителни податоци.

Усогласете го овластувањето со ризикот

Автономијата треба да се зголемува постепено. Читањето документација или подготовката на нацрт е нискоризично. Промената на контроли за пристап, распоредувањето враќање на претходна верзија или испраќањето порака наменета за клиенти е поризично. Користете експлицитни точки за одобрување кога последицата од погрешно дејство е значајна или тешко обратлива.

Корисно правило е едноставно: дозволете им на агентите да ја забрзаат подготовката пред да го автоматизираат обврзувањето. Ова сепак заштедува значително време, бидејќи подготовката често ги вклучува најповторливите пребарувања, форматирање и координација меѓу системи.

Планирајте за двосмисленост и неуспех

Вистинските работни текови се неуредни. Барањата може да изостават клучни детали, записите може да се противречат, алатките може да истечат по време и корисниците може нејасно да ги формулираат целите. Агент што секогаш произведува одговор може да изгледа самоуверено, а притоа да создава скриен ризик.

Изградете јасни излезни патеки. Кога доказите се недоволни, агентот треба да постави насочено прашање или да ја насочи задачата до човек. Кога повикот на алатка не успее, треба да разликува привремен неуспех што може повторно да се проба од невалидно барање. Кога ќе наиде на содржина чувствителна на политики, треба да запре и да го прикаже релевантниот контекст наместо да импровизира.

И повторните обиди бараат дисциплина. Повторувањето операција за читање може да биде безопасно; повторувањето плаќање, испраќање е-пошта или создавање запис може да предизвика дупликати. Користете клучеви за идемпотентност или експлицитни проверки за завршување за дејства со надворешни ефекти. Работниот тек треба да може да одговори: „Дали ова дејство веќе се случи?“ пред повторно да го изврши.

Мерете го работниот тек, а не демонстрацијата

Дотераната демонстрација може да ги сокрие прашањата што се важни во продукција. Дали агентот го намалува времето на циклусот? Дали го подобрува квалитетот на предавањето на задачите? Колку често му е потребна човечка корекција? Кои неуспеси на алатките или извори на податоци што недостигаат го спречуваат завршувањето?

Прегледувајте извршувања со репрезентативни случаи, вклучително и нецелосни барања и невообичаени гранични случаи. Следете ги исходите на ниво на работен тек, а потоа подобрете ја најслабата фаза. Ако преземањето враќа застарени насоки, подобар промпт нема да го реши основниот проблем. Ако корисниците одбиваат нацрти бидејќи на агентот му недостига контекст за сметката, вистинското подобрување може да биде внимателно управувана интеграција на податоци, наместо поинаков модел.

Евалуацијата треба да ги вклучува безбедноста и употребливоста. Работен тек што е технички точен, но невозможно е да се ревидира, тешко ќе стекне доверба. Таков што бара одобрување на секој тривијален чекор ќе создаде повеќе триење отколку што отстранува.

Архитектурата е предноста

Агентите со вештачка интелигенција често се опишуваат како дигитални соработници. Метафората е корисна, но нецелосна. Нивната трајна вредност не произлегува од имитирање човек пред тастатура. Таа произлегува од експлицитното дефинирање на работните текови: кои информации се потребни, кои одлуки се обратливи, кој го има конечното овластување и како се постапува со исклучоци.

Најсилните интеграции нема да бидат оние што на моделот му даваат најширок можен пристап. Ќе бидат оние што комбинираат способни модели со добар дизајн на процеси, тесно дефинирани алатки, трајна состојба и човечка проценка во вистинските моменти. Изградете ја таа основа, и агент со вештачка интелигенција ќе стане нешто многу покорисно од паметна алатка: сигурен учесник во начинот на кој се завршува работата.