Агентите со вештачка интелигенција менуваат едно познато прашање во софтверот: не „Може ли оваа задача да се автоматизира?“, туку „Кој е сопственик на резултатот кога автоматизацијата презема дејство?“ Таа разлика е важна. Алатка што предлага код лесно се третира како асистент. Агент што чита тикет, уредува датотеки, отвора pull request и одговара на барање од клиент станува дел од оперативниот модел.

Најкорисниот начин да се пристапи кон агентите не е како кон замена за софтверските тимови. Туку како кон нов вид учесник во системот: брз, неуморен, пробабилистички и способен да дејствува низ различни алатки. Таа комбинација може да создаде вистинска предност, но и да ја направи нејасната сопственост скапа.

Сопственоста не исчезнува; таа станува поексплицитна

Традиционалната сопственост на софтверот веќе опфаќа неколку слоеви. Една услуга има технички сопственик, патека за дежурство, процес на распоредување, контроли за пристап и некој што одговара за нејзиното однесување. На агент со вештачка интелигенција му е потребна истата дисциплина, со неколку дополнителни прашања.

Кој е одговорен за целта на агентот? Кој ги одобрува дозволите што ги добива? Кој ги прегледува промените во неговите промптови, модели, алатки и критериуми за евалуација? Кој истражува погрешно дејство? Ако тие одговори не се јасни, агентот може да работи импресивно во демо, а сепак да остане небезбеден или ненадежен во продукција.

Корисна рамка е агентот да се третира како производ со оперативна површина, а не како паметна скрипта. Неговиот „код“ вклучува инструкции, дефиниции на алатки, конфигурација на моделот, заштитни механизми, податоци за преземање и логика на работниот тек. Промените на кој било од тие елементи можат да го променат однесувањето.

Почнете со ограничена работа, а не со широка автономија

Тимовите често постигнуваат подобри резултати со избор на тесен работен тек со јасен услов за завршување. Агентот треба да има доволно контекст за да врши корисна работа, но не и доволно овластување за да создаде скапо изненадување.

Добрите почетни кандидати обично имаат структурирани влезни податоци, повторливи чекори и лесна точка за човечки преглед. На пример:

• Тријажа на пристигнати пријави во однапред дефинирани категории и предлагање ознаки.
• Сумирање временски линии на инциденти од постојни тикети, логови и извези од разговори до кои системот има овластен пристап.
• Изготвување белешки за изданието од одобрени pull requests и описи на пријави.
• Прегледување ажурирање на зависност и подготовка контролна листа на датотеки и тестови на кои можеби им е потребно внимание.
• Одговарање на внатрешни прашања со преземање информации од куриран сет документација и поврзување назад до основниот материјал.

Забележете ја шемата: агентот подготвува, препорачува или извршува ограничено дејство во видлив работен тек. Тој не почнува со одлучување за стратегија, менување продукциски системи или испраќање неповратни пораки без преглед.

Намерно дизајнирајте го предавањето

Човечкиот преглед не треба да биде церемонијално копче за одобрување. Олеснете му на прегледувачот да види што користел агентот, до каков заклучок дошол, какво дејство предлага и каде останува неизвесност. Кратко образложение и врски до изворниот материјал се повредни од самоуверен пасус без трага.

За агент што создава pull requests, предавањето може да вклучува резиме на промените, засегнати датотеки, извршени тестови, неизвршени тестови и експлицитни претпоставки. За работен тек за поддршка, може да вклучува предложен одговор, цитиран текст од политиката и јасна назнака дека пораката сѐ уште не е испратена.

Дозволите се одлуки за производот

Алатките на агентот ја дефинираат неговата практична моќ. Пристапот за читање до база на знаење е многу различен од пристапот за пишување во репозиториум, а пристапот до репозиториум повторно е различен од способноста за распоредување или менување податоци на клиенти.

Применувајте го принципот на најмалку привилегии со истата сериозност што се користи за услужни сметки. Дајте му на агентот само алатки и опсези потребни за конкретен работен тек. Раздвојте ги можностите за читање и пишување каде што е можно. Претпочитајте повратни дејства и барајте потврда за дејства што се надворешни, скапи или тешки за поништување.

Тоа исто така значи инструкциите да се третираат како недоверлив влез кога доаѓаат надвор од доверливиот работен тек. Веб-страница, тикет, документ или вметнат текст може да содржи јазик што се обидува да го пренасочи агентот. Системот треба да разликува податоци за анализа од инструкции што е овластен да ги следи.

Изградете за набљудување пред оптимизација

Однесувањето на агентот може да варира бидејќи јазичните модели создаваат излези врз основа на контекст, наместо според фиксна низа гранки. Тоа не ги прави неупотребливи; тоа значи дека на тимовите им требаат докази за тоа како работниот тек функционира.

Пред да го проширите опсегот, дефинирајте како изгледа „добро“. За работен тек за класификација, тоа може да значи правилно насочување и корисни објаснувања. За промени во кодот, може да значи успешни тестови, ограничени разлики и прифаќање од прегледувачот. За одговори на документи, може да значи одговори засновани на изворите што правилно наведуваат кога достапниот материјал е недоволен.

Одржувајте репрезентативен сет за евалуација. Вклучете вообичаени случаи, двосмислени случаи, случаи со недостасувачки информации и влезови што треба да бидат одбиени или ескалирани. Извршувајте ги истите случаи при менување на промптови, алатки, однесување на преземањето информации или моделот. Без оваа дисциплина, привидното подобрување може тивко да наруши работен тек што претходно функционирал.

Направете го неуспехот исход од прв ред

На сигурен агент му е дозволено да запре. Тој треба да може да каже дека потребниот систем не е достапен, изворот недостасува, барањето ги надминува неговите овластувања или доказите се премногу слаби за да поддржат дејство.

Дизајнирајте експлицитни резервни патеки:

• Повторувајте само неуспеси што веројатно се привремени, со ограничувања што спречуваат циклуси.
• Ескалирајте двосмислени одлуки или одлуки со големо влијание до именувана човечка редица.
• Запишувајте ги влезовите, повиците на алатки, излезите и конечната акција потребни за истражување инцидент.
• Не дозволувајте дејство кога не може да се завршат проверките за овластување, валидација или политика.

Овие практики не се знаци дека агентот е слаб. Тие се она што го прави погоден за вистинска работа.

Одржувајте ја архитектурата едноставна таму каде што е важно

Моделот обично треба да биде сместен во конвенционална архитектура на апликација. Деловните правила, дозволите, ревизорските записи, ограничувањата на стапката и валидацијата припаѓаат во детерминистички код или контроли на платформата, а не само во промпт. Агентот може да толкува јазик и да избира меѓу дозволените опции; околниот систем треба да го спроведува она што навистина е дозволено.

На пример, агентот може да предложи план за распоредување, но услугата за распоредување сепак може да бара правилна околина, одобрена промена и човечка потврда. Агентот може да извлече полиња од договор, додека слојот за валидација ги проверува форматите и задолжителните вредности пред што било да стигне до последователен систем.

Ова раздвојување ги прави системите полесни за тестирање и полесни за објаснување. Исто така го намалува искушението секој проблем со сигурноста да се решава со подолги инструкции.

Трајната предност е подобар системски дизајн

Интегрирањето агенти на крајот е вежба за сопственост. Тоа ги принудува тимовите да ги разјаснат работните текови, да ги документираат одлуките, да изложат сигурни интерфејси и да одлучат каде припаѓа расудувањето. Тие подобрувања остануваат вредни дури и кога се менуваат конкретен модел, добавувач или пристап за оркестрација.

Најсилните агентски системи нема да бидат оние на кои им е дадена најголема слобода. Тие ќе бидат оние на кои им е дадена јасна задача, ограничено овластување, корисен контекст, набљудливо однесување и одговорен човечки сопственик. Тоа не е ограничување на усвојувањето на вештачката интелигенција. Така автоматизацијата стекнува доверба — и станува дел од софтверот на кој луѓето можат со сигурност да се потпрат.