За изградба на вештачка интелигенција што ги учи потребите на вашиот бизнис потребна е одговорност за системот
Асистент со вештачка интелигенција може да даде одличен одговор на погрешно деловно прашање. Може да сумира информации за клиент без да знае дека продолжувањето на договорот е загрозено, да препорача производ што не може да се испорача или да состави самоуверен одговор врз основа на застарена политика. Проблемот ретко е само во моделот. Системот околу него не успеал да ги обезбеди контекстот, границите или повратните информации потребни за корисна работа.
За да се изгради вештачка интелигенција што го учи работењето на една компанија, некој треба да преземе одговорност за целиот тој систем. Ова е одговорност и за производот и за инженерството: да се одлучи во што асистентот треба да им помага на луѓето, од каде доаѓа неговото знаење, како се проверува неговото однесување и кој ги поправа проблемите кога околностите се менуваат.
Почнете со одлука, а не со демонстрација
Убедлива демонстрација може да прикрие недефиниран производ. Ако побарате од асистент за општа намена да „му помогне на продажниот тим“, нема јасен начин да се процени дали успева. Ако побарате од него да му помогне на менаџер за клиенти да се подготви за продолжување на договорот така што ќе ги пронајде релевантните договорни услови, отворените проблеми пријавени до поддршката и неодамнешните обврски преземени кон клиентот, задачата станува конкретна.
Таа потесна цел отвора корисни прашања. Кои извори се меродавни? Колку ажурни мора да бидат информациите? Што треба да се случи кога записите се противречни? Дали асистентот подготвува преглед за човек или му е дозволено да го контактира клиентот? Секој одговор го обликува дизајнот и нивото на ризик.
Дефинирајте го успехот според работата на корисникот. За преглед за продолжување на договорот, корисно мерило би можело да биде дали менаџерот за клиенти може да ги утврди доказите зад секое суштинско тврдење и да ги исправи пропустите пред состанокот. Брзината е важна, но побрз преглед што незабележливо испушта нерешен проблем може да доведе до полоша одлука.
Учењето е повеќе од зачувување информации
Кога луѓето велат дека сакаат вештачката интелигенција да го научи нивното работење, често мислат на неколку различни работи. Можеби сакаат таа да пронаоѓа актуелни документи, да помни претпочитани поставки, да следи работен процес или да се подобрува врз основа на исправки. Не е потребна промена на моделот за секоја од тие потреби.
На пример, асистент за политики може да пронајде релевантни извадоци од одобрени документи кога корисникот поставува прашање. Така ажурираните насоки може да бидат достапни без повторно обучување на моделот. Но пронаоѓањето помага само ако документите се одржуваат, пристапот е контролиран и асистентот може да разликува актуелна политика од архивиран нацрт.
Меморијата отвора поинакви избори. Може да биде корисно да се зачува претпочитана поставка како „користи концизни резимеа“. Шпекулативен заклучок за намерите на клиентот е многу помалку соодветен како траен факт. Тимовите треба да одлучат што може да се зачува, кој може да го види, како може да се исправи и кога треба да истече.
И исправките треба да најдат пат назад до системот. Ако корисник означи неточен одговор, некој мора да утврди дали изворот бил погрешен, дали пребарувањето го пропуштило вистинскиот извадок, дали упатствата биле двосмислени или моделот извел непоткрепен заклучок. Самото броење негативни оценки не решава ниту една од тие причини.
Назначете одговорен за системот преку границите меѓу тимовите
Функциите со вештачка интелигенција ги преминуваат границите што вообичаената организација на тимовите често ги држи одвоени. Менаџерите на производи го разбираат работниот процес. Експертите во областа знаат кои исклучоци се важни. Инженерите ги градат интеграциите и контролите. Специјалистите за безбедност и приватност помагаат да се воспостави соодветен пристап. Тимовите за поддршка дознаваат каде корисниците ја губат довербата.
Заедничкиот придонес е неопходен, но заедничката одговорност може да стане ничија задача. Доделете му на едно лице или еден тим јасна одговорност за целокупниот резултат, вклучувајќи и овластување да ги координира промените меѓу тие тимови. Одговорното лице не мора самостојно да ја носи секоја одлука; но мора да обезбеди одлуките да се носат и повторно да се разгледуваат.
Практичен договор за одговорностите треба да одговори на неколку прашања:
- Кој ја дефинира задачата и ги прифаќа промените во нејзиниот опсег?
- Кој го одржува секој извор на деловно знаење и ги разрешува противречните информации?
- Кој ги разгледува грешките, ги одредува приоритетите за нивно поправање и може да оневозможи ризична функција?
- Кој потврдува дека корисниците можат да пристапат само до информациите што имаат право да ги видат?
Запишете ги одговорите. Во тим што работи на далечина, јасната писмена евиденција е особено вредна: таа им овозможува на луѓето да работат низ различни временски зони без да зависат од состанок или приватен разговор за да дознаат кој може да донесе одлука.
Дизајнирајте имајќи ги предвид неизвесноста и исправките
Системот со вештачка интелигенција треба да му овозможи на корисникот лесно да го разликува одговорот од доказите врз кои тој се темели. За задача поврзана со истражување или политики, тоа може да значи поврзување до користените извадоци од изворите и прикажување кога изворниот материјал последен пат бил ажуриран, доколку таа информација е достапна. Ако доказите недостигаат или се противречни, асистентот треба да го каже тоа наместо да ја пополнува празнината со веродостојна претпоставка.
За дејства што имаат последици, вградете чекор за преглед соодветен на ризикот. Подготвувањето нацрт на внатрешно резиме обично дозволува поголем степен на автоматизација отколку менувањето запис за клиент или испраќањето надворешна порака. На лицето што прегледува дејство му е потребен доволно контекст за да донесе вистинска одлука, а не само копче „одобри“ придружено со нејасна препорака.
И за грешките е потребна оперативна постапка. Ако изворот не е достапен, интерфејсот може да го објасни ограничувањето и да понуди начин да се продолжи без да се преправа дека одговорот е целосен. Ако интеграцијата откаже при извршување дејство, системот треба да пријави што се случило и да избегне да поттикне повторен обид без проверка, кој би можел да го дуплира дејството. Овие детали се дел од доверливоста на производот.
Направете го подобрувањето навика во испораката
Пред пуштањето во употреба, составете репрезентативен сет задачи со експерти во областа. Вклучете едноставни прашања, застарени или противречни материјали, информации што недостигаат и барања што на корисникот не треба да му биде дозволено да ги изврши. Проверете ги добиените одговори и дејства во однос на очекувањата, а потоа повторувајте ги проверките кога ќе се променат изворите, упатствата, интеграциите или моделите.
По пуштањето во употреба, овозможете им на корисниците да пријавуваат проблеми во текот на работата. Прегледувајте примерок од употребата и грешките со соодветни заштитни мерки за приватноста, барајте повторливи обрасци и претворајте ги наодите во промени со назначени одговорни лица. Водете евиденција за познатите ограничувања за тимовите за поддршка и производ да можат да постават реални очекувања.
Оваа работа создава и вредна можност за развој на кариерата на програмерите. Инженерот што може да ја проследи причината за слаб одговор низ интерфејсот, слојот за пронаоѓање информации, изворните податоци и деловниот процес придонесува со повеќе од експертиза за модели. Тој ги поврзува техничките избори со резултатот што навистина му е потребен на корисникот.
Целта не е вештачката интелигенција да звучи како да го познава работењето на компанијата. Целта е да се изгради систем што може одговорно да го користи деловното знаење, да покаже како дошол до одговорот, да прифати исправки и постојано да се подобрува како што се менува работењето. За тоа е потребно одговорно лице подготвено да остане одговорно и по завршувањето на демонстрацијата.