För att AI-agenter ska kunna sättas i produktion krävs först att företagets dataförvaltning är på plats. Datakvalitet, åtkomstkontroll och registrering av agentens utdata är avgörande för framgångsrika och försvarbara AI-tillämpningar.
Chefer lägger mycket tid på att ifrågasätta om AI-agenter är redo för produktion, men det är inte där startpunkten ligger. Agenterna verkar nämligen inte i ett vakuum. Kvaliteten på deras beslut beror till stor del på kvaliteten på den data de använder.
Modellsäkerhet och prestanda är förstås viktiga, men de kan inte kompensera för svag kontroll över den information agenten har tillgång till. Innan en agent tas i produktion behöver organisationen hanterade indata, lämplig åtkomst och ett tillförlitligt register över vad agenten producerar.
Om du ger en agent inaktuell kundinformation, dubbletter av poster eller material som inte alls är ordentligt klassificerat, arbetar den med det den har och fattar snabbt beslut baserade på otillräcklig information i tusentals transaktioner.
Tyvärr växer klyftan mellan införande och styrning snabbt. I brådskan att införa AI sätter många organisationer agenter i produktion utan att lösa det grundläggande dataproblemet. Därför är det inte förvånande att en stor majoritet av AI-projekten visar noll avkastning på investeringen.
Dessutom är AI-agentstyrning inte begränsad till den data agenten kan komma åt. Den omfattar också den data agenten producerar: beslut, givna instruktioner och dokument den skapar. I takt med att AI i allt högre grad bidrar till företagsbeslut har AI-spårbarhet och försvarbarhet blivit kritiska förmågor.
Organisationer som bygger en stark datagrund kan gå från pilotfas till produktion med tillförsikt att agenterna inte förvandlar dåligt hanterad data till en företagsövergripande kris.
Dataproblemet kommer först
Problemet med dataförvaltning är förstås inte nytt. De flesta stora organisationer har tillbringat år med att hantera information utspridd över operativa plattformar, fildelningar, arkiv och applikationer som borde ha avvecklats för länge sedan. Men eftersom agentbaserad AI snabbt kan aktivera dessa svagheter i skala har frågan blivit mer akut.
Innan en agent ges dataåtkomst måste IT identifiera känslig och reglerad information, konsekvent tillämpa klassificerings- och lagringspolicyer och avgöra vilka källor som är aktuella och tillförlitliga. Äldre data kräver särskild omsorg.
Avvecklade applikationer innehåller ofta värdefull affärshistorik, men rymmer också dubbletter av poster, ogiltig information och data som omfattas av juridiska lagrings- eller bevarandekrav.
Organisationer måste också bevara det sammanhang och de relationer som ger äldre data mening, och sedan tillgängliggöra utvalda, policykontrollerade datamängder. AI verkar inte i ett vakuum över data, och utan omgivande sammanhang kan agenter antingen inte slutföra sina uppgifter eller, ännu värre, fatta och genomföra felaktiga beslut.
Åtkomst är ett affärsbeslut
Ett annat misstag organisationer gör är att ge sina agenter tillgång till mer data än de behöver. I själva verket bör agenter endast ha tillgång till den data som krävs för att slutföra de uppgifter de tilldelats. Att ett system kan ansluta till en agent betyder inte att det bör göra det.
Betrakta agenter som anställda och följ principen om minsta behörighet. En kundtjänstagent kan till exempel behöva aktuell konto- och transaktionsinformation, men behöver troligen inte juridiska akter eller tidigare anställdas register. Åtkomsten bör nära följa agentens definierade syfte.
Källans ursprung är också viktigt. En agent bör inte se ett aktuellt registersystem och ett decennier gammalt arkiv som lika auktoritativa. Agenter måste veta var informationen kommer ifrån, när den uppdaterades och vilka policyer som gäller. Återigen är sammanhanget viktigt. Utan lämpligt sammanhang gör agenter kostsamma misstag.
Registrera vad agenten gör
Styrningen slutar inte efter att agenten har fått godkänd data. Data relaterad till AI blir snabbt viktig för rättsliga processer, efterlevnadsgranskningar och kundklagomål. För att vara förberedd måste en organisation kunna visa vad agenten ombads göra, vilken information den kom åt, vilka policyer som tillämpades och vad som hände därefter.
Prompter, hämtat innehåll, utdata och de beslut som följer bör bevaras som affärsregister. En granskare bör kunna återskapa AI:ns beslut och spåra det både till källdata och till den person eller enhet som auktoriserade aktiviteten.
Slutligen kan ansvarsskyldigheten inte enbart ligga hos teknikteamet. Ledare inom säkerhet, data, integritet, juridik och efterlevnad spelar alla en roll, men en affärsägare måste utses som ansvarar för resultatet. Automation kan utföra en handling, men den kan inte ta på sig ansvaret för den.
Dataförberedelse är inte ett sekundärt arbetsflöde som ska hanteras efter att en AI-pilot lyckats. Det är en del av beslutet att flytta piloten till produktion. Om en organisation inte kan lita på informationen, inte kan kontrollera åtkomsten och inte tydligt kan förklara de beslut som uppstår, är agenten inte redo för mer autonomi.
