Работата со софтвер ретко пропаѓа затоа што тимот не може да создаде резултати. Пропаѓа затоа што резултатите се неповрзани со намерата: тикетот е завршен, скриптата се извршува, контролната табла се освежува, а сепак одлуката што стои во основата останува бавна, нејасна или кревка. Агентите со вештачка интелигенција се интересни затоа што можат да го намалат тој јаз. Кога се користат добро, тие не само што ги забрзуваат поединечните задачи. Тие помагаат расфрланите алатки, контекст и правила да се претворат во систем што може да следи дефиниран исход.

Таа разлика е важна. Чет-бот одговара на поттик. Агент со вештачка интелигенција може да протолкува цел, да собере релевантен контекст, да избере меѓу одобрени алатки, да преземе ограничени дејства, да ги провери резултатите и да побара помош кога неизвесноста или ризикот ги надминуваат неговите граници. Практичната вредност не е автономен софтвер сам по себе. Таа е подобар тек низ реалната работа.

Од завршување задачи до одговорност за исходот

Традиционалната автоматизација е одлична кога патеката е позната. Закажаната задача може да ротира дневници. Конвеерот за распоредување може да изгради, тестира и објави артефакт. Механизмот за работни текови може да насочи одобрено барање. Овие системи се детерминистички по дизајн, а таа предвидливост е вредна.

Агентите припаѓаат таму каде што целта е јасна, но патеката варира. Разгледајте инженер што истражува предупредување во продукција. Истражувањето може да бара читање на предупредувањето, проверка на неодамнешно распоредување, преглед на здравјето на услугата, споредба на обрасците на грешки, пронаоѓање одговорно лице и изготвување концизно ажурирање за инцидентот. Редоследот се менува според доказите. Агентот може да ги координира тие чекори, додека одлуките со големо влијание остануваат кај луѓето.

Затоа, најсилните дизајни на агенти комбинираат два вида интелигенција:

• Детерминистички системи за дозволи, распоредувања, промени во податоци, валидација и повторливи операции.
• Веројатносно расудување за толкување јазик, сумирање докази, предлагање следни чекори и справување со двосмислени барања.

Обидот јазичниот модел да ја замени секоја работна постапка е кревок. Ако се третира само како генератор на текст, голем дел од неговата вредност останува неискористен. Корисната средина е агент што расудува во внимателно проектирани граници.

Почнете со тесен, вреден работен тек

Иницијативата за агент треба да почне со работен тек што е чест, одзема многу време и лесно се оценува. „Подобрување на инженерската продуктивност“ е премногу широко. „Подгответе резиме за подготвеноста за објавување од одобрени извори и означете проверки што недостигаат“ е доволно конкретно за да се дизајнира, тестира и подобри.

Добрите почетни кандидати обично имаат три карактеристики. Тие вклучуваат повторливо собирање информации, бараат проценка што може да се прегледа и завршуваат со ограничено дејство или препорака. Примери се тријажа на пристигнати извештаи за поддршка, составување резимеа за промени, одговарање на прашања за внатрешна документација, идентификување полиња што недостигаат во барање или подготовка на прв нацрт на план за тестирање.

Пред да изберете модел или рамка, запишете го оперативниот договор на агентот:

• Која цел се обидува да ја постигне?
• Кои информации смее да ги чита?
• Кои алатки смее да ги користи и за кои дејства е потребно одобрување?
• Како изгледа успешен резултат?
• Кога мора да запре и да ескалира до лице?

Ова не е бирократија. Тоа е дизајнерскиот артефакт што спречува импресивната демонстрација да стане непредвидлива зависност во продукција.

Направете ги алатките експлицитни, а дејствата повратни

Агентот станува корисен кога може да дејствува во системите каде што се одвива работата. Може да пребарува база на знаење, да бара информации во следач на задачи, да ги провери резултатите од изградбата, да создаде нацрт или да отвори тикет. Секоја способност треба да биде изложена како тесно дефинирана алатка со јасни влезови, излези и проверки на овластување.

На пример, „ажурирај задача“ е премногу широко. Одделни алатки за читање задача, додавање коментар како нацрт, менување ознака и преместување тикет во нова состојба се полесни за овластување и ревизија. Алатката треба да враќа структурирани резултати каде што е можно, наместо да се потпира на моделот да анализира произволна страница со текст.

Повратноста е подеднакво важна. Дозволете му на агентот да подготви барање за повлекување наместо директно да испраќа во заштитена гранка. Дозволете му да изготви одговор до клиент наместо да го испрати. Дозволете му да препорача промена во базата на податоци наместо да ја изврши. Агентот и понатаму може да отстрани значителен рачен напор, додека конечната обврска останува видлива и прегледлива.

Користете порти за одобрување што одговараат на ризикот

Не секое дејство заслужува исто ниво на триење. Читањето јавна документација може да биде автоматско. Создавањето внатрешен нацрт може да биде автоматско со евидентирање. Менувањето продукциска конфигурација, испраќањето надворешни комуникации или ракувањето со чувствителни податоци треба да бараат посилни контроли и често изречно човечко одобрување.

Практичното правило е едноставно: колку е потешко да се поништи едно дејство, толку попромислена треба да биде портата. Ова ги избегнува двете крајности — агент што е премногу ограничен за да помогне и агент што може да создаде скапи изненадувања.

Проектирајте за неизвесност, не само за идеалниот тек

Моделите може да разберат погрешно барање, да добијат нецелосен контекст или да создадат веродостоен, но неточен одговор. Повиците кон алатки може да истечат. Резултатите од пребарувањето може да се застарени. Дозволите може да се променат во текот на работниот тек. Дизајнот за продукција мора да претпостави дека овие услови ќе се појават.

Дајте му на агентот мал сет безбедни одговори на неизвесноста: да побара појаснување, да наведе дека нема доволно докази, да повтори идемпотентна операција за читање во рамки на дефинирано ограничување или да ескалира со контекстот што го собрал. Не дозволувајте повторувањата да станат јамка што постојано извршува несакан ефект. За секое дејство што ја менува состојбата, користете контроли за идемпотентност или проверки за потврда во основниот систем.

Оценувањето треба да ја одразува реалната работа. Угланцаниот одговор не е доволен. Мерете дали агентот избрал соодветни алатки, ги навел точните внатрешни записи кога тоа е потребно, ги почитувал дозволите, ескалирал ризични случаи и создал резултат што прегледувачот може да го користи со минимална корекција. Чувајте репрезентативни тест-случаи, вклучително и нецелосни барања, спротивставени докази, недостапни алатки и поттици што се обидуваат да ги надминат правилата на агентот.

Контекстот е продуктна одлука

Многу неуспеси на агенти се претставуваат како неуспеси на моделот, кога вистинскиот проблем е контекстот. Агентот не може сигурно да одговори на прашање за политика ако добива застарени документи, дупликатни упатства или нефилтрирана колекција од нерелевантен материјал. Исто така, не треба да му се дава секој достапен запис само затоа што може да ги пребарува.

Дизајнирајте го контекстот намерно. Идентификувајте авторитетни извори, дефинирајте очекувања за свежина, зачувајте ја сопственоста на документите и преземајте само она што е релевантно за барањето. Каде што точноста е важна, нека агентот ги прикаже доказите зад својата препорака за лицето брзо да може да ја потврди.

Подеднакво важно, држете ги упатствата одвоени од недоверлива содржина. Документ преземен од складиште или барање за поддршка може да содржи текст што личи на команда. Тој е доказ, а не авторитет. Системските правила на агентот, дозволите за алатки и барањата за одобрување мора да останат со повисок приоритет од сè што чита.

Новата вештина е оркестрација

Агентите со вештачка интелигенција нема да ја елиминираат потребата од здраво инженерство. Тие го прават здравото инженерство повидливо. На тимовите им се потребни јасни интерфејси, сигурни изворни системи, контроли на пристап, набљудливост, тестови и промислени продуктни одлуки. Исто така, им се потребни луѓе што можат двосмислената деловна потреба да ја претворат во работен тек со значајни граници.

Најпродуктивното прашање не е: „Што можеме да автоматизираме со агент?“ Наместо тоа, прашајте: „Каде способната помош го намалува доцнењето, притоа зачувувајќи ги расудувањето и одговорноста?“ Почнете таму, направете го работниот тек набљудлив и проширувајте само откако доказите ќе го поддржат тоа.

Така агентите со вештачка интелигенција ја издигнуваат работата со софтвер: не со замена на одговорноста, туку со давање повеќе простор на вештите луѓе за работата што навистина ја бара нивната интелигенција.