Повеќето софтвери го прават точно она за што се програмирани. Агентите со вештачка интелигенција воведуваат поинтересна можност: софтвер што може да набљудува цел, да избере следен чекор, да користи алатки, да го провери резултатот и да се приспособи кога првиот обид не успее.

Тоа не ги прави агентите магични, автономни вработени. Тоа ги прави нов вид софтверска компонента — таква што е корисна кога фиксниот работен тек станува премногу кревок, прескап за одржување или премногу зависен од човечко расудување. Практичното прашање не е дали агентот може да „размислува“. Туку дали агентот може сигурно да подобри реален процес, притоа останувајќи во јасни технички и деловни граници.

Од извршување до насочено учење

Конвенционалната програма следи однапред дефинирана патека. Со даден влез, таа применува правила и произведува излез. Токму тоа го сакате за плаќања, проверки на авторизација, миграции на податоци и друга работа каде што предвидливоста е поважна од флексибилноста.

Агентот е посоодветен за работа со нејаснотии. Тој може да преведе широка цел во помали задачи, да избере од одобрени алатки, да ги толкува резултатите од алатките и да одлучи дали има доволно докази за да продолжи. Во многу системи, „учење“ не треба да значи менување на тежините на моделот во продукција. Тоа значи учење од тековниот контекст: неуспешен тест, непозната структура на складиште, појаснување од клиент или предупредување од мониторинг.

Разгледајте систем за тријажа на поддршка. Мотор со правила може да насочува тикети врз основа на клучни зборови. Агентот може да го прочита тикетот, да ги провери релевантните метаподатоци за сметката преку ограничена алатка, да утврди кои информации недостигаат, да подготви нацрт-одговор и да ескалира случаи што ја надминуваат неговата сигурност или овластувања. Агентот не го заменува процесот на поддршка; тој го прави процесот поодзивен на варијации.

Агентот е систем, а не промпт

Честиот начин на неуспех е агентот со вештачка интелигенција да се третира како долг промпт поврзан со моќни ингеренции. Таквиот пристап може да изгледа импресивно во демо, но да стане ризичен во продукција. Корисните агенти се инженерски системи со неколку намерно осмислени делови.

• Ограничена цел: дефинирајте го исходот доволно прецизно за да може да се оцени.
• Релевантен контекст: обезбедете тековни, овластени информации наместо да очекувате моделот да заклучи сè.
• Алатки со тесни овластувања: изложете ги само дејствата што се потребни за задачата.
• Состојба и следливост: зачувајте што се обидел агентот, што забележал и зошто го избрал следното дејство.
• Евалуација и ескалација: проверувајте ги важните резултати и предавајте им ги несигурните одлуки или одлуките со големо влијание на луѓето.

Корисен ментален модел е контролиран циклус: планирај, дејствувај, набљудувај, оцени, а потоа продолжи, обиди се повторно или запре. Моделот придонесува со расудување во тој циклус. Околниот софтвер ги обезбедува заштитните механизми.

Ограничете ја површината за дејствување

Започнете со алатки само за читање секогаш кога е можно. Агент што може да пребарува документација, да провери тикет, да направи барање во база на податоци за известување или да изврши тест-пакет веќе може да создаде значителна вредност. Операциите за запишување треба да се воведуваат поединечно и со изрични ограничувања.

На пример, асистент за распоредување не треба да добие неограничен пристап до школката. Може да му биде дозволено да преземе статус на распоредување, да спореди верзија со одобрено издание и да создаде барање за промена. Ако подоцна треба да активира распоредување, барајте изричен чекор за одобрување и проследете непроменлив идентификатор на изданието, наместо да барате од агентот да конструира команда.

Цел: сумирај неуспешно распоредување и предложи следни чекори

Дозволени алатки:
- get_deployment_status(deployment_id)
- get_build_logs(build_id)
- search_runbook(query)
- create_incident_draft(summary, evidence)

Не е дозволено:
- deploy()
- rollback()
- modify_production_configuration()

Овој дизајн не ја намалува интелигенцијата. Тој ја претвора интелигенцијата во сигурен учесник во поширок оперативен процес.

Градете за неуспех пред да градите за автономија

Моделите можат погрешно да ги разберат упатствата, да произведат веродостојни, но неточни објаснувања, да повикаат алатки со нецелосни параметри или да заглават повторувајќи непродуктивен пристап. Надворешните услуги може да истечат по време. Податоците може да се застарени. Робусниот дизајн на агент претпоставува дека овие настани ќе се случат.

На секој повик на алатка му е потребна дефинирана патека при неуспех. Одлучете што се случува ако пребарувањето не врати записи, барањето е ограничено по стапка, одговорот е двосмислен или последователниот систем не е достапен. Повторниот обид може да биде соодветен за привремени неуспеси, но повторните обиди имаат потреба од ограничувања и одложување. Повторувањето на истото семантичко дејство по грешка при авторизација не е закрепнување; тоа е шум.

Користете структурирани влезови и излези на алатките наместо да барате од моделот да анализира проза секогаш кога ја контролирате интеграцијата. Проверете ги полињата пред извршување. Запишувајте ги резултатите од алатките одделно од наративот на моделот. Ако задачата има трошок, безбедносна последица или неповратен ефект, барајте детерминистичко правило за потврда надвор од моделот.

Агентот треба да знае и како да запре. „Не можам да го потврдам ова со достапните податоци“ често е успешен исход. Тоа е многу побезбедно од одговор што звучи целосно, но се темели на недостасувачки докази.

Избирајте работни текови каде што расудувањето е тесното грло

Не му е потребен агент на секој вид автоматизација. Ако процесот има стабилни влезови, јасни деловни правила и предвидливи исклучоци, конвенционалниот код обично е поевтин за работа и полесен за тестирање. Агентите ја оправдуваат својата сложеност таму каде што луѓето во моментов трошат време на толкување неструктурирани информации и навигација низ многу мали одлуки.

Добрите рани кандидати често вклучуваат:

• Претворање белешки за инциденти, логови и оперативни прирачници во нацрт за истрага поврзан со докази.
• Извлекување барања од документи и идентификување неодговорени прашања пред да почне имплементацијата.
• Подготвување резиме за преглед на код што ги упатува прегледувачите кон веројатните области на ризик, без самото да одобрува промени.
• Класифицирање пристигнати барања, собирање контекст што недостига и нивно насочување до соодветниот тим.
• Помагање на аналитичарите да истражуваат интерно знаење, со наведување на преземениот материјал употребен во одговорот.

Овие случаи имаат заедничко корисно својство: агентот може да ја олесни работата без да стане конечен авторитет. Тоа создава простор постепено да се мери квалитетот, да се усовршува работниот тек и да се гради доверба.

Мерете го целиот работен тек

Агентот треба да се оценува како систем, а не само според тоа дали неговата проза звучи убедливо. Дефинирајте го успехот во оперативни услови: дали правилно го насочи барањето, ги идентификуваше релевантните докази, го намали времето на обработка, избегна забранети дејства или ескалираше кога беше потребно?

Создадете репрезентативен сет за евалуација што вклучува вообичаени случаи, нецелосни влезови, спротивставени информации, противнички упатства и неуспеси на алатки. Прегледувајте ги и исходите и трагите. Точен одговор до кој се дошло преку небезбедна употреба на алатки не е продукциски успех.

Набљудливоста е подеднакво важна и по пуштањето во употреба. Евидентирајте ја задачата, понудените алатки, направените повици на алатки, резултатите од валидацијата, предавањата и конечниот исход. Заштитете ги чувствителните податоци во тие логови и намерно донесувајте одлуки за задржување. Без траги, тимовите не можат да разликуваат проблем со моделот од проблем со контекстот, проблем со интеграцијата или нејасно правило на производот.

Трајната промена е архитектонска

Агентите со вештачка интелигенција нема да ја елиминираат потребата од внимателно софтверско инженерство. Ќе ја направат уште поважна. Некој мора да ги дефинира границите, да ги моделира овластувањата, да дизајнира интерфејси, да го оценува однесувањето, да се справува со неуспесите и да одлучи каде човечкото расудување останува суштинско.

Највредните агенти нема да бидат оние на кои им е дадена најголема слобода. Ќе бидат оние дизајнирани со најјасна цел, најдобар контекст и најбезбедна патека до корисно дејство. Градете софтвер што може да учи од ситуацијата пред себе — но осигурете се дека системот околу него знае кога да има доверба, да проверува, да паузира и да побара помош.