Бизнис

System Ownership: Architecting AI Your Business Can Trust

Сопственост врз системот: Архитектура на вештачка интелигенција на која вашиот бизнис може да ѝ верува

Функција заснована на вештачка интелигенција може да изгледа доверлива во демонстрација, а да стане извор на ризик во моментот кога ќе влезе во реален работен процес. Зад убедливо срочен одговор може да се крие несигурен извор, неуспешен повик до алатка или дејство што никој немал намера да го одобри. Проблемот ретко е само во моделот. Тој е и во системот околу него и во тоа дали некој е одговорен за тој систем од влезните податоци до исходот.

Одговорноста за системот значи преземање одговорност за тоа како една можност заснована на вештачка интелигенција функционира во работењето, вклучително и за деловите што се наоѓаат меѓу тимовите. Таа ги поврзува одлуките за производот, техничките контроли, оперативната поддршка и луѓето погодени од грешките. Токму таа одговорност претвора импресивна можност во нешто на кое бизнисот може да се потпре.

Довербата започнува со јасно ограничена задача

Пред да изберете модел или да осмислите промпт, опишете ја задачата што системот треба да ја извршува и одлуките што треба да им ги препушти на луѓето. „Да им помогне на агентите за поддршка да најдат релевантни информации за политиките“ е покорисна почетна точка од „да ја автоматизира корисничката поддршка“. Таа му дава на тимот цел, корисник и граница.

На пример, асистентот може да го сумира проблемот на клиентот и да предложи релевантни делови од политиките. Потоа агентот може да одлучи како да одговори. Ако асистентот подоцна добие дозвола да извршува поврат на средства, тоа е различна можност на производот со различни последици, дури и ако интерфејсот изгледа речиси исто.

Дефинирајте го успехот преку работниот процес: дали агентот може да реши проблем со помалку пребарување, а притоа и понатаму да носи добри одлуки? Потоа дефинирајте ги неприфатливите исходи, како откривање информации за друг клиент или претставување застарена политика како актуелна. Овие дефиниции им даваат на инженерските и продуктните тимови нешто конкретно според кое ќе го осмислуваат и тестираат системот.

Дизајнирајте за докази, неизвесност и дејствување

Системот со вештачка интелигенција треба да овозможи да се разбере на што се заснова одговорот. За асистент за политики, тоа може да значи прикажување на релевантниот извор и датумот на неговото последно ажурирање. Наводот е корисен само ако наведениот материјал навистина го поткрепува тврдењето, па затоа треба да се оценуваат и изборот на извор и квалитетот на одговорот.

И неизвесноста треба да има свое место во интерфејсот. Систем што не може да најде релевантни информации треба да може да го соопшти тоа и да го насочи корисникот кон соодветен следен чекор. Ова е подеднакво одлука за производот колку што е и техничка одлука: корисниците треба да знаат кога да се потпрат на одговорот, кога да го проверат и кога да запрат.

Дејствата бараат построги граници од предлозите. Читањето документ, составувањето нацрт-порака и менувањето корисничка сметка носат различни ризици. Дајте му на системот пристап само до она што му е потребно за задачата и ставете ги дејствата со значајни последици зад контроли соодветни на нивното влијание. Во зависност од работниот процес, тие контроли може да вклучуваат потврда од човек, ограничување на трошењето или посебна проверка на овластувањето.

Направете го справувањето со неуспеси составен дел од работниот процес

Системите со вештачка интелигенција откажуваат на познати, но и на помалку познати начини. Услуга може да го надмине времето за одговор, индексот на документи може да биде застарен или моделот може да создаде веројатен одговор што е погрешен. Третирајте го секој од овие случаи како сценарио со кое треба да се справите, а не само како исклучок што треба да се евидентира.

Разгледајте асистент што подготвува поврат на средства за агентот да го одобри. Ако пребарувањето на политиката не успее, асистентот не треба премолчено да ја замени со измислена политика. Ако барањето за поврат на средства го надмине времето за одговор, системот треба да утврди дали трансакцијата е завршена пред да понуди повторен обид; во спротивно, второто барање може да предизвика двоен поврат на средства. Ако тој статус не може да се утврди, работниот процес треба да предвиди јасен начин случајот да го испита човек.

Овие одлуки треба да им бидат видливи на корисниците и на персоналот за поддршка. Корисна порака за грешка објаснува што се случило на начин што им овозможува да преземат соодветен чекор: политиката не можела да се преземе, статусот на повратот на средства сè уште се утврдува или барањето треба да се разгледа. Таа не треба да открива чувствителни информации или да остава впечаток дека операција со неутврден исход успеала.

Доделете одговорност за целиот систем

Одговорноста не значи дека едно лице мора да ја напише секоја компонента или да одговори на секое прашање до поддршката. Таа значи дека некој одговара за конечниот исход од почеток до крај, со јасно утврдени одговорности за деловите што го овозможуваат.

Практичен преглед на одговорностите дава одговор на неколку прашања:

  • Кој одлучува што смее да прави функцијата заснована на вештачка интелигенција и како изгледа нејзината успешна употреба?
  • Кој ги одржува нејзините извори, дозволи, интеграции и тестни случаи за оценување?
  • Кој ги прима пријавите за штетно или погрешно однесување и кој може да ја запре функцијата?
  • Кој одобрува промена кога таа го проширува пристапот или овластувањата на системот?

Овие прашања се особено важни за тимовите што работат на далечина, каде што празнината во одговорностите може да остане незабележана поради различните временски зони. Ставете ги одговорите на заедничко место што редовно се ажурира. Дополнете ги со јасна постапка за ескалација, за лицето што реагира на инцидент да не мора под притисок да утврдува кој во организацијата е надлежен.

Оценувајте ја работата што луѓето навистина ја вршат

Неколку успешни демонстрации не можат да ја утврдат доверливоста. Изградете збир за оценување од репрезентативни задачи, вклучувајќи двосмислени барања, информации што недостигаат, спротивставени извори и обиди за користење на системот надвор од неговиот предвиден опсег. Заштитете ги чувствителните податоци при собирањето примери и вклучете луѓе што го разбираат реалниот работен процес во оценувањето на исходите.

Мерете повеќе од тоа дали одговорот звучи добро. Проверете дали е поткрепен со достапните докази, дали ги почитува ограничувањата на пристапот и дали го насочува корисникот кон соодветно дејство. Кај асистент што подготвува трансакции, оценете го целиот работен процес, вклучително и неуспешните интеграции и неизвесниот статус на трансакциите.

Повторете ги тие проверки кога ги менувате моделот, промптовите, изворите, алатките или дозволите. Секоја од овие промени може да го измени однесувањето на системот. Водете евиденција за значајните промени и овозможете враќање на претходна верзија или оневозможување на одредена можност кога новото однесување е неприфатливо. Некои неуспеси ќе се појават дури во продукција, па затоа воспоставете начин корисниците да ги пријавуваат, а тимот да ги разгледува повторливите обрасци без да собира повеќе податоци отколку што му се потребни.

Овозможете одговорноста да опстане

Доверливото функционирање зависи од редовното одржување: освежување на изворните материјали, проверка на пристапот, испитување грешки и ажурирање на оценувањата како што се менува работењето. Вклучете ја таа работа во планот и доделете ѝ одговорно лице. Во спротивно, функцијата може да продолжи самоуверено да одговара долго откако ќе се променат условите што ја правеле корисна.

За програмерите, ова е и можност да се развијат надвор од границите на една услуга. Важни се прашањата како одлуката стигнува до клиентот, што се случува кога ќе откаже систем од кој се зависи и дали колега може безбедно да управува со системот откако првичниот тим ќе премине на друга работа.

Бизнисот може да ѝ верува на вештачката интелигенција кога системот постојано ја заслужува таа доверба: преку јасни граници, видливи докази, контролирани дејства и луѓе што остануваат одговорни за исходот. Моделот обезбедува можност. Одговорноста ја прави таа можност доверлива.

Портрет на автор на блогот

Mihajlo

Јас сум Михајло - развивач поттикнат од љубопитност, дисциплина и постојаната желба да создадам нешто значајно. Споделувам увиди, упатства и бесплатни услуги за да им помогнам на другите да ја поедностават својата работа и да растат во постојано развивачкиот свет на софтверот и вештачката интелигенција.