Повеќето софтверски работни текови сè уште зависат од познат образец: човек забележува проблем, отвора неколку алатки, собира контекст, донесува одлука и го евидентира резултатот. Агентите со вештачка интелигенција можат да го променат тој образец. Тие не се само интерфејси за разговор што одговараат на прашања; тие се системи што можат да интерпретираат цел, да користат одобрени алатки, да набљудуваат резултати и да продолжат сè додека не стигнат до корисна точка за запирање.

Таа разлика е важна. Барањето може да создаде корисен нацрт. Агентот може да преземе ограничен дел од работата—тријажа на инцидент, подготовка на контролна листа за издание, истражување неуспешна изградба или ажурирање тикет за поддршка—и да го придвижи низ работен тек. Можноста е реална, но исто така е реална и инженерската дисциплина потребна за овие системи да бидат доверливи.

Што го прави AI агентот различен?

Агентот комбинира јазичен модел со инструкции, контекст, алатки и контролна јамка. Моделот предлага дејство, системот го извршува тоа дејство, а резултатот станува нов контекст за следната одлука. Една едноставна јамка може да биде: прегледај задача, пребарај база на знаење, создај нацрт-одговор, побарај одобрување, па поднеси го одговорот.

Автономијата не е бинарна одлика. Корисен агент може да биде целосно автономен само во чекори со низок ризик, како што се класифицирање на пристигнати барања или составување извештај. За чекори со значајни последици—менување конфигурација во продукција, испраќање пораки наменети за клиенти, одобрување плаќања или бришење податоци—треба да запре за човек или да следи строго дефинирани проверки на политики.

Почнете со работни текови, а не со импресивни демоа

Најсилните проекти со агенти почнуваат со работен тек што веќе е разбран. Ако тимот не може да ги објасни тековните чекори, потребните влезови, очекуваниот излез и вообичаените исклучоци, агентот само ќе ја скрие збунетоста зад течен јазик.

Барајте работа со повторлива структура и значајно триење. Добрите почетни кандидати обично ги имаат овие особини:

• Јасен активатор, како нов тикет, неуспешно распоредување или закажан преглед.
• Достапен и авторитетен изворен материјал.
• Дејства што можат да се ограничат на мал сет алатки.
• Излези што лесно може да ги прегледа или измери човек.
• Безбедна резервна опција кога агентот е несигурен или блокиран.

Разгледајте асистент за тријажа на изградби. Наместо да му дадете широк пристап до складиште и систем за распоредување, почнете со тесна задача: прочитај ги дневниците од неуспешната задача, идентификувај ја фазата што не успеала, спореди ја со познати обрасци на неуспех и создај концизно резиме на проблемот. Тој може да вклучи врски или референци обезбедени од околниот систем, да предложи веројатни сопственици и да означи докази што недостигаат. Развивачот сè уште одлучува дали да измени код или повторно да ја изврши цевководната обработка.

Ова е помалку театрално од агент што „поправа каква било грешка“, но е многу поверојатно да стане доверлив дел од секојдневната работа.

Осмислете ја контролната јамка намерно

Доверливоста на агентот помалку произлегува од паметно барање, а повеќе од обликот на системот околу моделот. Третирајте го моделот како една компонента во механизам за работен тек, а не како самиот механизам за работен тек.

Дајте им на алатките тесни, експлицитни договори

Алатката треба да прави една разбирлива работа: да преземе тикет, да пребара одобрена документација, да создаде нацрт или да побара распоредување. Нејзините влезови и излези треба да бидат структурирани каде што е можно. Наместо да барате од моделот да состави произволно барање до база на податоци, изложете алатка што презема запис по идентификатор или пребарува дефиниран сет полиња.

Тесните алатки го намалуваат случајниот опфат, ги олеснуваат ревизиите и обезбедуваат појасни неуспеси. Грешка како „записот не е пронајден“ е корисна повратна информација за следниот чекор. Нејасна алатка што може да „управува со податоци за клиенти“ остава премногу простор за двосмисленост.

Одделете го планирањето од извршувањето

За работа во повеќе чекори, често е корисно агентот да предложи план пред да дејствува. Околната апликација може да го потврди планот во однос на политиката, задолжителните полиња, дозволените алатки или ограничувањата на трошоците. Потоа извршувањето може да продолжи едно дејство по едно, со евидентирани резултати по секој чекор.

Ова не значи дека на секој агент му е потребен сложен планер. Едноставна состојбена машина често е подобра. На пример: собери контекст, класифицирај го барањето, состави нацрт-одговор, потврди ги задолжителните детали, побарај одобрување, па поднеси. Експлицитните состојби многу го олеснуваат расудувањето за повторни обиди и предавања.

Дефинирајте услови за запирање

На агентот му треба јасна дефиниција за завршеност и јасни причини да запре. Корисни ограничувања вклучуваат максимален број повици на алатки, временски буџет, максимален број повторни обиди и правило што бара ескалација кога недостигаат докази. Без овие граници, агентот може да повторува неефективни пребарувања или да продолжи да следи невозможна задача.

Повторните обиди заслужуваат особено внимание. Повторен обид по привремен мрежен неуспех може да биде разумен. Повторен обид за грешка при валидација со истиот влез обично не е. Евидентирајте ја категоријата на неуспех, зачувајте доволно контекст за човек да истражи и направете го следното дејство намерно.

Градете за неизвесност, не за сигурност

Јазичните модели можат да создадат веродостојни, но неточни интерпретации. Резултатите од алатките може да бидат нецелосни. Дозволите може да се променат. Дизајнот на агентот треба да претпостави дека овие услови ќе се појават.

Користете авторитетен контекст таму каде што одлуките се важни и означете го неговото потекло во работниот тек. Побарајте од агентот да прави разлика помеѓу доказите што ги презел и заклучоците што ги извел. Барајте од него да каже кога достапните информации не поддржуваат заклучок. Ова е особено важно кога агентот резимира дневници, политики, договори или разговори со клиенти.

Валидацијата треба да се случува надвор од моделот кога правилото може да се изрази детерминистички. Проверувајте шеми, дозволи, потребни одобрувања, датуми, идентификатори и дозволени премини на состојби во обичен апликациски код. Моделите се корисни за интерпретирање неуреден јазик; тие не се замена за доверливи ограничувања.

if not request.has_required_fields():
    return escalate("Missing required information")

if action.name not in allowed_actions:
    return escalate("Action is not permitted")

result = run_tool(action)

if result.is_temporary_failure and retries < 2:
    retry_later()
elif not result.ok:
    return escalate(result.message)

Поентата не е во синтаксата. Поентата е дека моделот треба да работи во заштитни огради што апликацијата може да ги спроведе.

Задржете ги луѓето на вистинските места

Човечкиот преглед треба да се заснова на влијание, обратливост и доверба—а не на нејасна желба некој да се задржи „во јамката“. Дејствата со низок ризик што се обратливи често може автоматски да продолжат со евидентирање. Дејствата со повисок ризик бараат јасен момент за одобрување, корисен контекст за прегледувачот и лесен начин да се отфрли или ревидира предложеното дејство.

Добар екран за одобрување не прашува само: „Да продолжам?“ Тој покажува што пронашол агентот, што планира да направи, кои системи ќе бидат засегнати и какви претпоставки направил. Тоа го претвора прегледот во информирано расудување, наместо во формално потврдување.

Мерете ја оперативната вредност

Успехот не е бројот на разговори со агентот или должината на неговата трага на расудување. Мерете ги резултатите од работниот тек: време до решавање, процент на задачи завршени без преработка, стапка на ескалација, стапка на одбиени одобрувања и квалитетот на записите создадени понатаму во процесот. Редовно прегледувајте ги неуспесите, особено случаите во кои агентот изгледал уверен, но избрал погрешно дејство.

Почнете со мала група корисници и вистинска работа. Соберете претставителни гранични случаи. Подобрувајте ги инструкциите, договорите за алатки и валидациите врз основа на забележаните неуспеси. Проширувањето на опфатот пред основниот работен тек да биде стабилен обично ја умножува бучавата побрзо отколку вредноста.

Трајната предност се подобрите системи

AI агентите нема да ја отстранат потребата од софтверски дизајн, оперативно расудување или одговорна сопственост. Тие ги прават овие дисциплини повидливи. Слаб процес станува побрз слаб процес; добро осмислен работен тек станува поодзивен, поконзистентен и поскалабилен.

Практичниот пат е едноставен: изберете ограничен работен тек, поврзете ги само алатките што му се потребни, направете политиката спроводлива во код, зачувајте патека за ескалација и учете од вистинските резултати. Кога автономијата се заслужува чекор по чекор, AI агентите престануваат да бидат новитет и стануваат нешто повредно: доверливи системи што им даваат на луѓето повеќе време за одлуките што навистина ги бараат.