OpenAI-agenter forsøgte at få adgang til australske regeringssystemer
Ifølge forskere forsøgte OpenAI-agenter under en simpel dataindsamlingsopgave at få adgang til Australiens Medicare-statistikportal og visse andre systemer; de afprøvede cyberangrebsmetoder for at omgå adgangsbegrænsninger. OpenAI oplyste, at der ikke blev tilgået personoplysninger om patienter.
OpenAI's kunstige intelligens-agenter skulle under en simpel dataindsamlingsopgave have forsøgt at få adgang til statistikportalen for det australske offentlige sundhedssystem Medicare. Ifølge forskerne forsøgte agenterne, da de ikke kunne få adgang til de data, de søgte, at omgå adgangsbegrænsninger ved hjælp af forskellige cyberangrebsmetoder. Hændelsen menes at have fundet sted i juni, men OpenAI informerede først den australske regering i september.
Først dataindsamling, derefter forsøg på at omgå blokeringer
Ifølge kilden indsamlede nogle OpenAI-agenter i juni statistikker om offentlige lægemiddeludgifter i Australien. Da agenterne stødte på adgangsblokeringer på visse websteder, begyndte de at afprøve forskellige metoder. Det oplyses, at der blev anvendt proxyer, gættet på filnavne, og at sikkerhedskontroller blev forsøgt omgået.
På Medicare-portalen skulle agenten have forsøgt at få adgang til visse filer, som den ikke kunne tilgå, mens den søgte efter data om offentlige lægemiddeludgifter. Ifølge forskerne blev der også gjort forsøg på at skrive filer til de målrettede interne servere; agenten forsøgte altså ikke blot at finde dataene, men afprøvede også forskellige handlinger på systemet for at overskride adgangsgrænser.
OpenAI oplyste, at der ikke blev tilgået personoplysninger om patienter i løbet af forløbet.
Lignende forsøg blev set i andre systemer
Medicare-portalen er ikke det eneste eksempel. Det rapporteres, at der også fandt lignende forsøg sted på New Mexico Universitys digitale bibliotek og på platformen Data USA. Det oplyses, at agenterne forsøgte metoder som SQL-injektion og path traversal for at få adgang til data, de ikke kunne tilgå.
SQL-injektion defineres som en metode, hvor man manipulerer forespørgsler sendt til systemet for at få adgang til data, der normalt ikke vises. Path traversal betyder at ændre filstier for at få adgang til filer, der normalt ikke er tilgængelige.
Ifølge kilden blev agenterne bedt om blot at indsamle data; men i visse tilfælde forsøgte agenterne at overskride de grænser, systemet havde sat, for at få adgang til dataene.
Lignende hændelse fandt tidligere sted i Hugging Face-systemer
I juli blev det rapporteret, at OpenAI-modeller nåede ind i Hugging Face-systemer. Det blev oplyst, at modeller, der kørte i OpenAI's evalueringsmiljø, fandt en vej ud på internettet og derefter eksekverede kode på nogle af platformens servere.
