For at sætte AI-agenter i produktion skal virksomhedens datastyring først være på plads. Datakvalitet, adgangskontrol og registrering af agenters output er afgørende for vellykkede og forsvarlige AI-anvendelser.
Ledelsesfolk bruger meget tid på at spørge, om AI-agenter er klar til produktion, men udgangspunktet er ikke her. For agenter opererer ikke i et vakuum. Kvaliteten af deres beslutninger afhænger i høj grad af kvaliteten af de data, de bruger.
Modelsikkerhed og ydeevne er naturligvis vigtige, men de kan ikke kompensere for svag kontrol over de oplysninger, som agenten har adgang til. Før en agent sættes i produktion, har organisationen brug for styrede input, passende adgang og en pålidelig registrering af, hvad agenten producerer.
Hvis man giver en agent forældede kundeoplysninger, dublerede poster eller materiale, der aldrig er blevet ordentligt klassificeret, arbejder den med det, den har, og træffer hurtigt beslutninger baseret på utilstrækkelig information i tusindvis af transaktioner.
Desværre vokser kløften mellem adoption og styring hurtigt. I hastværket med at tage AI i brug sætter mange organisationer agenter i produktion uden at løse det underliggende dataproblem. Derfor er det ikke overraskende, at langt størstedelen af AI-projekter viser nul afkast på investeringen.
Desuden er AI-agentstyring ikke begrænset til de data, som agenten kan få adgang til. Den omfatter også de data, som agenten producerer: beslutninger, givne instrukser og dokumenter, den opretter. I takt med at AI i stigende grad bidrager væsentligt til virksomhedens beslutninger, er AI-sporbarhed og forsvarlighed blevet kritiske kompetencer.
Organisationer, der opbygger et stærkt datagrundlag, kan bevæge sig fra pilotfasen til produktion med tillid til, at agenter ikke vil forvandle dårligt styrede data til en virksomhedsomspændende krise.
Dataproblemet kommer først
Problemet med datastyring er naturligvis ikke nyt. De fleste store organisationer har brugt år på at håndtere information spredt mellem operationelle platforme, filshare, arkiver og applikationer, der for længst burde være udfaset. Men fordi agentbaseret AI hurtigt kan aktivere disse svagheder i stor skala, er emnet blevet mere presserende.
Før en agent får dataadgang, skal IT identificere følsomme og regulerede oplysninger, konsekvent håndhæve klassificerings- og opbevaringspolitikker og fastslå, hvilke kilder der er aktuelle og pålidelige. Ældre data kræver særlig omhu.
Udfasede applikationer indeholder ofte værdifuld forretningshistorik, men rummer også dublerede poster, ugyldige oplysninger og data, der er underlagt juridiske opbevarings- eller tilbageholdelseskrav.
Organisationer skal også bevare den kontekst og de relationer, der giver ældre data mening, og derefter stille udvalgte, politikstyrede datasæt til rådighed. AI opererer ikke på data i et vakuum, og uden den omgivende kontekst kan agenter enten ikke fuldføre deres opgaver eller – endnu værre – træffe og implementere fejlagtige beslutninger.
Adgang er en forretningsbeslutning
En anden fejl, som organisationer begår, er at give deres agenter adgang til mere data, end de har brug for. Agenter bør faktisk kun have adgang til de data, der er nødvendige for at fuldføre de opgaver, de er tildelt. At et system kan forbindes til en agent, betyder ikke, at det bør.
Betragt agenter som medarbejdere, og følg princippet om mindste privilegium. For eksempel kan en kundeserviceagent have brug for aktuelle konto- og transaktionsoplysninger, men har sandsynligvis ikke brug for juridiske sagsakter eller tidligere medarbejderregistre. Adgang bør nøje følge agentens definerede formål.
Kildeproveniens er også vigtig. En agent bør ikke betragte et aktuelt registersystem og et årtier gammelt arkiv som lige autoritative. Agenter skal vide, hvor information kommer fra, hvornår den blev opdateret, og hvilke politikker der gælder. Igen er kontekst afgørende. Uden passende kontekst begår agenter kostbare fejl.
Registrer, hvad agenten gør
Styring slutter ikke, når agenten har modtaget godkendte data. Data relateret til AI bliver hurtigt vigtige for retssager, compliance-gennemgange og kundeklager. For at være forberedt skal en organisation kunne vise, hvad agenten blev bedt om at gøre, hvilke oplysninger den tilgik, hvilke politikker der blev anvendt, og hvad der skete bagefter.
Prompter, modtaget indhold, output og de beslutninger, der følger, bør opbevares som forretningsregistreringer. En gennemgående person skal kunne genskabe AI'ens beslutning og spore den tilbage til både kildedataene og den person eller enhed, der autoriserede aktiviteten.
Endelig kan ansvarlighed ikke alene ligge hos teknologiteamet. Sikkerheds-, data-, privatlivs-, juridisk- og compliance-ledere spiller alle en rolle, men der skal udpeges en forretningsejer, som er ansvarlig for resultatet. Automatisering kan udføre en handling, men kan ikke påtage sig ansvaret for den.
Dataforberedelse er ikke en sekundær arbejdsgang, der tages op, efter at en AI-pilot er lykkedes. Det er en del af beslutningen om at flytte piloten til produktion. Hvis en organisation ikke kan stole på informationen, ikke kan kontrollere adgangen og ikke klart kan redegøre for de beslutninger, der opstår, er agenten ikke klar til mere autonomi.
