Агентите со вештачка интелигенција често се опишуваат како автономни соработници. Таа слика е привлечна, но може и да доведе во заблуда. Корисното прашање не е дали агентот може да замени програмер, аналитичар или инженер за операции. Туку дали може да преземе јасно ограничен дел од работата, да ги користи соодветните контекст и алатки и да врати резултат што човек може да го прегледа со доверба.

Тоа ги прави агентите со вештачка интелигенција проблем на софтверска архитектура исто колку што се и проблем на вештачка интелигенција. Квалитетот на моделот е важен, но важни се и границите на работниот тек, дозволите, влезовите, набљудливоста и предавањето на работата меѓу луѓето и автоматизацијата. Тимовите што намерно ги дизајнираат овие елементи можат да ги претворат агентите во сигурни соработници. Тимовите што не го прават тоа може едноставно да ја автоматизираат збунетоста со поголема брзина.

Почнете со работни текови, а не со импресивни демонстрации

Способен агент може да прочита тикет, да пребара складиште, да предложи закрпа, да изврши проверки и да ја сумира својата работа. Ништо од тоа не значи дека треба да му се додели секој тикет или неограничен пристап до продукцијата. Најсилните почетни примени се повторливи задачи со многу информации и јасна дефиниција за завршеност.

Разгледајте работен тек за тријажа на поддршката. Агентот може да ги класифицира пристигнатите пријави, да ја идентификува засегнатата област на производот, да пребарува одобрена внатрешна документација, да состави одговор и да креира структуриран проблем за човечки преглед. Тој не одлучува за политика ниту му ветува на клиент поправка. Тој го намалува времето потрошено за претворање расфрлани информации во предавање на работа што може да се преземе.

Разликата е важна. Агентот е највреден кога го подобрува текот на работата околу човечкото расудување, наместо да се преправа дека расудувањето повеќе не е потребно.

Дајте му на секој агент тесна, експлицитна улога

„Помогни со инженерството“ не е употреблива спецификација. На продуктивен агент му се потребни улога, збир на дозволени дејства, доверлив извор на контекст и услов за запирање. Овие ограничувања го прават неговото однесување полесно за оценување и побезбедно за менување.

• Улога: Дефинирајте ја работата во оперативни поими, како на пример „подготви нацрт за белешки за издание од споените промени“.
• Контекст: Наведете што смее да користи: полиња од системот за следење проблеми, одобрена документација, избрани патеки во складиштето или излез од тестови.
• Алатки: Доделете ги само потребните дејства, како пребарување само за читање, создавање нацрт или извршување недеструктивна команда за тестирање.
• Излез: Барајте формат што луѓето и системите подолу во процесот можат доследно да го користат.
• Ескалација: Наведете кога мора да запре и да побара човек, особено кога информациите се во конфликт или дејството има надворешно влијание.

Ова не е бирократија. Тоа е дизајн на интерфејс. Агент со тесен опсег е полесно да се довери, бидејќи прегледувачот знае што требало да направи и што не смеел да направи.

Дизајнирајте го предавањето на работата, не само промптот

Повеќето вистински работни текови се синџири на соработка. Продукт-менаџерот ја појаснува намерата, програмерот го менува кодот, континуираната интеграција го проверува, прегледувачот го оценува ризикот, а операторот го следи изданието. Агентот треба да се вклопи во тој синџир со јасни влезови и излези.

На пример, помошник за преглед на код може да подготви краток преглед пред човек да отвори барање за спојување. Може да ги идентификува изменетите модули, да ја сумира наведената намера, да ги наведе релевантните тестови и да означи области што можеби заслужуваат внимание. Човечкиот прегледувач останува одговорен за одобрување на промената, но започнува со концизна мапа на работата наместо со празен екран.

Корисното предавање на работата зачувува докази. Наместо да каже „тестовите изгледаат добро“, агентот треба да пријави кои проверки ги извршил, дали поминале, што не можел да изврши и какви претпоставки направил. Тоа го забрзува прегледот и ги прави неуспесите полесни за дијагностицирање.

Користете структурирани излези каде што е можно

Резимеата на природен јазик се корисни, но стануваат кревки кога друга алатка мора да дејствува според нив. Кога агентот создава тикет, барање за распоредување или план за тестирање, користете полиња со предвидливи значења. Едноставна структура може да ја намали двосмисленоста:

{
  "summary": "Add validation for empty display names",
  "risk_level": "medium",
  "tests_run": ["unit: profile validation"],
  "tests_not_run": ["end-to-end suite"],
  "requires_human_approval": true
}

Точната шема ќе се разликува, но принципот е стабилен: одделете ги фактите, претпоставките, предложените дејства и неразрешените прашања. Системот не треба да мора да заклучува што е што од убедлива проза.

Одржувајте ја овластеноста пропорционална на ризикот

Агентите можат да дејствуваат преку алатки, а пристапот до алатки е местото каде што корисниот помошник станува оперативен систем. Однесувајте се кон дозволите исто толку сериозно како кон нова услужна сметка. Пристапот за читање може да биде доволен за откривање и анализа. Пристапот за запишување може да биде соодветен за нацрти, гранки или изолирани редици. Дејствата што влијаат врз клиенти, пари, безбедносни поставки или продукциски системи генерално заслужуваат експлицитни точки за одобрување.

Исто така е мудро да се дизајнира за делумен неуспех. Алатката може да истече по време, складиштето може да содржи противречни инструкции или тестната околина може да биде недостапна. Точниот одговор обично не е измислен успех. Агентот треба да ја зачува својата делумна работа, да го пријави неуспешниот чекор и да го направи јасно следното безбедно дејство.

Сигурноста не значи дека агентот никогаш не се соочува со неизвесност. Таа значи дека неизвесноста станува видлива пред да се претвори во дејство без преглед.

Оценувајте го однесувањето во вистинскиот работен тек

Угладена демонстрација може да ги скрие тешките случаи: нецелосни тикети, застарени документи, невообичаени распореди на складиштата, грешки со дозволи и барања што треба да бидат одбиени или ескалирани. Оценувањето треба да користи репрезентативна работа, вклучувајќи ги и неуредните примери со кои луѓето навистина се среќаваат.

Дефинирајте успех пред пуштањето во употреба. За агент за документација, успехот може да значи точни цитати од одобрен материјал, целосна структура на нацрт и јасни ознаки за информации што недостигаат. За инженерски помошник, тоа може да вклучува зачувување на постојните конвенции, извршување само на овластени команди и правилно препознавање кога промената бара човечки преглед.

Прегледајте ги и конечниот резултат и трагата на работата. Ако агентот дојде до точниот одговор преку небезбеден процес, не е подготвен за поширока овластеност. Спротивно на тоа, корисен агент понекогаш може да запре без да заврши задача ако даде прецизно објаснување за тоа што го блокирало.

Направете го усвојувањето тимска практика

Агентите го менуваат начинот на кој се распределува работата. Тие можат да ја намалат рутинската координација, но создаваат и нови одговорности: одржување инструкции, курирање доверлив контекст, прегледување излези и подобрување на заштитните механизми по неуспеси. Ова се одговорности за производ и инженерство, а не само задачи за пишување промптови.

Почнете со еден работен тек каде што основната состојба е разбирлива. Задржете човек во патеката за одобрување, собирајте примери за добри и лоши исходи и подобрувајте го работниот тек пред да ја проширите неговата овластеност. Целта не е да се максимизира колку работи агентот. Таа е да се подобри квалитетот, брзината и јасноста на работата што ја испорачува целиот тим.

Затоа, најтрајниот поглед на агентите со вештачка интелигенција е скромен и моќен: тие се соработници вградени во систем. Дајте им ограничени улоги, сигурен контекст, видливи докази и пропорционална овластеност. Направете го тоа добро и автоматизацијата престанува да биде спектакл. Таа станува дел од вештината на одговорното градење софтвер.