Асистентите со вештачка интелигенција ја променија природата на софтверската работа. Тие можат да објаснат непозната функција, да нацртаат тест, да претворат барање во прва верзија на имплементација или да ја посочат веројатната причина за грешка. Тоа е корисно, но сè уште е главно разговор: човек прашува, проценува и одлучува што ќе се случи понатаму.

Агентите со вештачка интелигенција прават значаен чекор надвор од тој модел. Агентот може да следи ограничена цел преку низа дејства: да го испита достапниот контекст, да избере алатка, да изврши работа, да го провери резултатот и или да продолжи или да побара помош. Важната промена не е тоа што софтверот може независно да „мисли“. Туку дека ВИ може да учествува во работни процеси кои претходно бараа човек да координира многу мали одлуки.

За развојните тимови, ова создава вистински придобивки — и нов сет инженерски одговорности. Најуспешните агентски системи нема да бидат оние што ветуваат автономија насекаде. Ќе бидат оние дизајнирани со јасни граници, доверливи повратни јамки и искрено разбирање за тоа каде човечката проценка останува суштинска.

Од корисни одговори до одговорни работни процеси

Копилотот генерално е реактивен. Тој одговара на поттик и следното дејство му го остава на корисникот. Агентот е дизајниран околу цел и јамка. Со одобрена задача, тој може да собере релевантни влезни податоци, да направи план, да повика алатки, да ги потврди меѓурезултатите и да врати исход со докази.

Разгледајте работен процес во инженерингот за поддршка. Конвенционален асистент може да сумира тикет кога ќе биде побарано. Внимателно ограничен агент би можел да ги класифицира дојдовните пријави, да ги идентификува недостасувачките дијагностички детали, да пребарува одобрена внатрешна документација, да подготви одговор и да ги насочи невообичаените случаи кон точниот тим. Не треба тивко да затвора чувствителни инциденти или да им дава ветувања на клиентите. Но може да ја отстрани повторливата координација што ги забавува искусните луѓе.

Разликата е важна бидејќи дејствата носат последици. На агент што може да создаде pull request, да промени конфигурациска вредност, да закаже задача или да испрати порака му треба повеќе од добар поттик. Му требаат дозволи, контроли, набљудливост и сигурен начин за опоравување кога неговите претпоставки се погрешни.

Практичната анатомија на еден агент

Најкорисните агенти не се еден единствен повик до модел. Тие се мали системи. Јазичниот модел обезбедува флексибилно расудување и разбирање на јазикот, додека конвенционалниот софтвер обезбедува структура околу него.

• Цел: Тесна, мерлива задача, како подготовка на pull request за ажурирање зависности или тријажа на позната класа предупредувања.
• Контекст: Документите, податоците од складиштето, политиките и корисничките влезови потребни за одговорно дејствување.
• Алатки: Експлицитни интерфејси за пребарување, читање, пишување, извршување одобрени проверки или интеракција со деловни системи.
• Заштитни механизми: Ограничувања на дозволите, правила за валидација, буџети за трошоци и време и услови за ескалација.
• Евалуација: Проверки што одредуваат дали резултатот е доволно точен за продолжување, повторен обид или предавање на друг.

Вреди да се зачува оваа поделба на трудот. Моделот може да биде добар во толкување нејасен извештај за грешка, но детерминистички валидатор е подобар во потврдување дека постои задолжително поле. Моделот може да предложи shell команда, но ограничениот слој за извршување треба да одлучи дали таа команда е дозволена. Доверливоста доаѓа од комбинирање на пробабилистичка интелигенција со предвидливи контроли.

Каде агентите можат да создадат непосредна вредност

Најсилните рани употреби обично се повторливи, богати со информации и ограничени со јасна дефиниција за завршеност. Испораката на софтвер нуди многу примери.

Одржување на складиште

Агентот може да ги испита известувањата за зависности, да идентификува компатибилни патеки за ажурирање според правилата на складиштето, да направи фокусирана промена, да го изврши постојниот тест-пакет и да отвори pull request со концизно резиме. Развивачот сè уште ја прегледува разликата и одлучува дали промената е соодветна. Агентот ја намалува механичката работа без да стане авторитет за продукциски ризик.

Подготовка за инциденти

За време на оперативен инцидент, тимовите губат време составувајќи заедничка слика. Агентот може да собере одобрени врски до телеметрија, да сумира неодамнешни распоредувања, да групира слични грешки и да одржува временска линија за одговорните лица. Ова не е исто што и да му се дозволи на агентот да примени продукциска поправка. Во ситуации под висок притисок, побрзиот контекст е вреден; непрегледаното дејство може да биде опасно.

Знаење што останува употребливо

Документацијата често постои, но тешко се навигира. Внатрешен агент може да одговара на прашања со преземање релевантен, тековен материјал и со поврзување на своите тврдења назад со изворните документи што ги користел. Ако одговорот влијае на безбедноста, усогласеноста или обврска кон клиент, работниот процес треба да бара човечки преглед. Целта не е да се замени експертизата; туку да се направи експертизата полесна за наоѓање и примена.

Дизајнирајте за неизвесност, не за беспрекорна демонстрација

Демонстрациите на агенти често изгледаат мазно затоа што задачата е чиста, а алатките се однесуваат совршено. Продукциската работа е понеуредна. Влезовите се нецелосни, документацијата е противречна, надворешните услуги откажуваат, а корисниците бараат цели што не можат безбедно да се заклучат.

Зрел дизајн на агент ја прави неизвесноста видлива. Тој разликува факти преземени од доверлив систем, заклучоци извлечени од контекст и претпоставки за кои е потребна потврда. Треба да запре кога му недостигаат потребни информации, наместо да ја пополнува празнината со самоуверен текст.

Повторните обиди заслужуваат исто внимание. Повторувањето пребарување само за читање по минлив неуспех може да биде разумно. Повторувањето операција што создава тикет, испраќа е-пошта или менува податоци може да создаде дупликати. Интерфејсите на алатките треба да поддржуваат идемпотентни операции каде што е можно, а агентот треба да евидентира што се обидел пред да одлучи да се обиде повторно.

1. Прочитајте ја задачата и потребните ограничувања
2. Соберете само овластен контекст
3. Предложете или извршете дозволено дејство
4. Потврдете го набљудливиот резултат
5. Обидете се повторно само кога дејството е безбедно за повторување
6. Ескалирајте кога довербата, дозволите или валидацијата се недоволни

Таа јамка можеби звучи помалку магично од неограничената автономија. Но многу е поверојатно да стекне доверба.

Човечкиот надзор е функционалност на производот

„Човек во јамката“ не треба да значи додавање нејасно копче за одобрување на крајот од процесот. На прегледувачот му се потребни доволно информации за да донесе вистинска одлука: целта, преземените дејства, консултираните извори, предложените промени, резултатите од валидацијата и нерешената неизвесност.

Усогласете го надзорот со влијанието. Агент со низок ризик што форматира ознаки за проблеми може да работи со лесен преглед. Агент што менува контроли за пристап, распоредува код или комуницира надворешно треба да има построги дозволи и експлицитни точки за одобрување. Ова не е ограничување на ВИ. Тоа е основен системски дизајн: колку е поскапа грешката, толку посилни треба да бидат контролите околу неа.

Почнете помало од амбицијата

Тимовите често почнуваат со барање за агент со општа намена што може да се справи со сè. Подобра почетна точка е еден фрустрирачки работен процес со познат сопственик, достапни податоци и мерлив исход. Дефинирајте како изгледа успехот пред да изберете модел или рамка.

Корисни прашања вклучуваат: Какви одлуки може да донесува агентот? До кои системи смее да пристапи? Што никогаш не смее да направи? Како луѓето ќе ја прегледуваат неговата работа? Што се случува кога алатката откажува? Кои докази покажуваат дека помогнал, наместо само да создал повеќе активност?

Вградете го одговорот во работниот процес, па евалуирајте го со реалистични случаи — вклучително и двосмислени барања и патеки на неуспех. Целта не е да се докаже дека агентот може да заврши една идеална задача. Таа е да се разбере како се однесува кога работата наликува на реалниот свет.

Следното поглавје е подобра оркестрација

Агентите со вештачка интелигенција ќе ја преобликуваат софтверската работа помалку со елиминирање на секоја задача, а повеќе со менување на начинот на кој задачите се составуваат. Рутинското истражување, координација и извршување на прв чекор може да станат побрзи и поконтинуирани. За возврат, развивачите и техничките лидери ќе посветуваат повеќе внимание на дефинирање цели, дизајнирање ограничувања, прегледување одлуки со големо влијание и подобрување на системите околу моделите.

Тоа е ветувачка размена. Иднината не им припаѓа ниту на слепата автоматизација ниту на ВИ што останува заробена во прозорец за разговор. Таа им припаѓа на тимовите што ги претвораат способните модели во одговорни соработници: доволно корисни за да дејствуваат, доволно ограничени за да им се верува и доволно транспарентни за луѓето да останат одговорни за исходот.