Агентите за вештачка интелигенција често се претставуваат како алатки: побрзо автоматско довршување, прозорец за разговор, копче за работен тек што извршува повторлива задача. Тој опис е уреден, но ја пропушта оперативната реалност.

Штом агентот може да прегледува база на код, да изготвува план, да повикува одобрени системи, да ја памети состојбата на задачата и да се враќа со прашања, тој почнува да се однесува помалку како чекан, а повеќе како помлад колега. Сè уште му е потребна насока. Сè уште може да греши. Но начинот на кој тимовите добиваат вредност од него целосно се менува.

Корисното прашање повеќе не е: „Која задача може ВИ да ја направи за нас?“ Туку: „Која одговорност можеме безбедно да ја делегираме и како ќе го прегледаме резултатот?“

На колегите им е потребен контекст, не само поттикнувања

Традиционалната алатка успева кога нејзиниот влез е прецизен. На компајлерот не му треба да знае зошто постои некоја функционалност; му треба валиден изворен код. Агентот работи подобро кога ја разбира пошироката цел, ограничувањата и дефиницијата за завршеност.

Разгледајте барање да се „поправи неуспешниот тест за наплата“. Слабото предавање му дава на агентот само порака за грешка. Посилното предавање објаснува дека вкупните износи при наплата мора да останат детерминистички, дека повиците кон давателот на плаќања не смеат да се случуваат во тестовите и дека засегнатото однесување е покриено со постоечки пакет регресиски тестови. Разликата не е во опширноста сама по себе. Тоа е разликата меѓу локално нагаѓање и расудување во рамките на систем.

Ова е позната практика во управувањето. На добрите колеги не им се доделуваат изолирани тикети без граници; им се дава доволно контекст за да донесат разумни одлуки и доволно ограничувања за да избегнат скапи грешки.

Запишете ја оперативната рамка

За повторлива работа, обезбедете компактна оперативна рамка што агентот може да ја користи секојпат:

• Кој исход е важен и како ќе се провери успехот.
• Кои датотеки, услуги, околини или податоци се во опфатот.
• Што не смее да се промени, вклучувајќи ги границите на безбедноста, компатибилноста и сопственоста.
• Кои дејства бараат одобрување, како распоредување, менување дозволи или контактирање клиенти.
• Како агентот треба да извести за неизвесност, неуспешни обиди и претпоставки.

Ова не е бирократија. Ја намалува скриената работа околу коригирање на веродостоен, но неусогласен резултат.

Делегирајте работа по слоеви

Не секоја задача заслужува иста автономија. Третирањето на сите агенти или како целосно доверливи или само како соговорници создава непотребен ризик на двата краја. Практичниот пристап е да се делегира по слоеви.

Започнете со набљудување. Агентот може да сумира дневници, да мапира патека на зависности, да споредува конфигурациски датотеки или да идентификува тестови што проверуваат компонента. Овие задачи создаваат информации за човечка одлука.

Потоа следува предлогот. Агентот може да препорача низа за миграција, да состави опис за pull request, да генерира тест-матрица или да ги изложи веројатните причини за инцидент. На ова ниво, вредниот излез не е овластување; тоа е гледиште што може да се прегледа.

Потоа следува ограничено извршување. Агентот може да ажурира мал сет датотеки, да создаде гранка, да изврши дефинирана тест-команда или да отвори интерен тикет, под услов опфатот и патеката за враќање да се јасни. Дејствата со големо влијание треба да останат зад експлицитни контроли.

Цел: Додај валидација за празни имиња за прикажување.
Опфат: само валидацијата на профилот и нејзините единечни тестови.
Не: менувај шема на база на податоци или облици на API одговори.
Потврди: изврши го пакетот тестови за профилот.
Ескалирај ако: постоечките клиенти се потпираат на празни имиња.

Таквото предавање е покорисно од долг поттик полн со стилски упатства. Тоа ги наведува одговорноста, границата и моментот во кој е потребна човечка проценка.

Прегледувајте ја трагата на расудувањето, не само конечниот одговор

Колегите стекнуваат доверба преку видлива работа. Агентите за ВИ треба да го прават истото. Чиста конечна закрпа сè уште може да крие лоша претпоставка, нетестирана патека или промена што случајно го задоволува успешниот случај.

Побарајте од агентите да пријават што прегледале, што промениле, што потврдиле и што останува неизвесно. Ова го забрзува прегледот бидејќи развивачот може да се фокусира на ризичните одлуки наместо да ја реконструира целата патека.

На пример, корисен извештај за имплементација може да каже дека влезот бил валидиран на границата на услугата, дека постоечките тестови биле проширени за празни и вредности составени само од празни места и дека интеграциското однесување не било проверено бидејќи локалната околина ја немала потребната зависност. Тоа е далеку поупотребливо од „завршено“.

Транспарентноста исто така спречува чест начин на неуспех: агентот самоуверено да продолжи по блокирано дејство. Способен систем треба да прави разлика меѓу „Не можев да пристапам до ова“, „Го заклучив ова од блискиот код“ и „Го потврдив ова со извршување на тестот“. Тоа се суштински различни тврдења.

Дизајнирајте работни текови околу предавања

Најсилните работни текови со агенти наликуваат на добри инженерски предавања. Една улога собира докази, друга предлага промена, а човек или контролирана порта го одобрува неповратниот чекор. Поделбата на одговорностите може да биде побезбедна отколку да се бара од еден агент да истражува, менува, тестира, распоредува и објаснува сè во едно извршување.

Практичен работен тек за инцидент ја илустрира идејата:

1. Агент собира релевантни предупредувања, неодамнешни промени и дневници во концизна временска линија.
2. Човек го идентификува сопственикот на инцидентот и одлучува дали е потребна ублажувачка мерка.
3. Агент подготвува повратни опции, како враќање на конфигурација или целно оневозможување функционалност.
4. Човекот го одобрува дејството, а системот бележи што се променило.
5. Агент составува последователни задачи и истакнува докази што сè уште бараат истрага.

Агентот додава брзина и покриеност. Луѓето ја задржуваат одговорноста за компромисите, влијанието врз клиентите и одлуките што зависат од нецелосни информации.

Довербата треба да се заслужи по домен

„Можеме ли да му веруваме на агентот?“ е премногу широко прашање за да биде корисно. Довербата е специфична за способност, околина и последица.

Агентот може да биде доверлив во класифицирањето неуспеси на тестови, но ненадежен во дијагностицирање однесување на дистрибуиран систем од делумна телеметрија. Може безбедно да уредува генерирана документација, но да бара строг преглед пред да допре логика за контрола на пристап. Тимот треба да ја следи таа разлика, наместо да го третира минатиот успех во една област како општа дозвола во друга.

Добрите контроли се вообичаени инженерски контроли: пристап со најмалку привилегии, изолирани околини, пробни извршувања, контрола на верзии, тест-порти, ревизорски дневници, ограничувања на стапката и лесно враќање. Овие не го прават агентот интелигентен. Ги прават грешките поевтини и полесни за откривање.

Вистинската промена е управувачка

Агентите за ВИ нема да ја отстранат потребата од техничка проценка. Тие ја прават проценката поцентрална. Некој сè уште мора да го дефинира проблемот, да постави ограничувања, да ги процени доказите и да одлучи кога локалната оптимизација му штети на поширокиот систем.

Тимовите што ќе го направат ова правилно ќе престанат да ги мерат агентите според тоа колку човечки делува нивниот разговор. Ќе ги мерат според тоа дали ја прават работата појасна, побезбедна и полесно повратна. Ќе им дадат на агентите вистински одговорности, но никогаш нејасно овластување.

Тоа е начинот на размислување за колега: обезбедете контекст, поставете граници, прегледајте ја работата и задржете ја одговорноста таму каде што припаѓа. Агентот станува вреден не кога заменува човек, туку кога му помага на човек и на тим да работат со поголем фокус отколку што би можеле сами.