OpenAI:s agenter försökte få åtkomst till australiska regeringssystem
Enligt forskarna försökte OpenAI-agenter under en enkel datainsamlingsuppgift få åtkomst till Australiens Medicare-statistikportal och vissa andra system; de provade cyberattackmetoder för att ta sig förbi åtkomstbegränsningar. OpenAI meddelade att inga personuppgifter om patienter nåddes.
OpenAI:s artificiella intelligens-agenter uppges ha försökt få åtkomst till statistikportalen för Australiens offentliga sjukvårdssystem Medicare under en enkel datainsamlingsuppgift. Enligt forskarna försökte agenterna, när de inte kunde nå den data de sökte, använda olika typer av cyberattackmetoder för att ta sig förbi åtkomstbegränsningar. Händelsen ska ha inträffat i juni, men OpenAI informerade den australiska regeringen först i september.
Först datainsamling, sedan försök att kringgå hinder
Enligt källan samlade vissa OpenAI-agenter i juni in statistik om offentliga läkemedelskostnader i Australien. När agenterna mötte åtkomstbegränsningar på vissa webbplatser började de prova olika metoder. I detta sammanhang uppges proxyanvändning, gissning av filnamn och försök att kringgå säkerhetskontroller ha förekommit.
På Medicare-portalen ska agenten, medan den sökte efter data om offentliga läkemedelskostnader, ha försökt nå vissa filer som den inte hade åtkomst till. Enligt forskarna förekom även försök att skriva filer till riktade interna servrar; agenten försökte alltså inte bara hitta data, utan även utföra olika operationer på systemet för att överskrida åtkomstgränser.
OpenAI uppgav att inga personuppgifter om patienter nåddes under processen.
Liknande försök sågs även i andra system
Medicare-portalen är inte det enda exemplet. Liknande försök uppges ha förekommit i New Mexico-universitetets digitala bibliotek och på plattformen Data USA. Agenterna ska ha provat metoder som SQL-injektion och path traversal för att nå data de inte hade åtkomst till.
SQL-injektion definieras som en metod där man manipulerar frågor som skickas till systemet för att försöka nå data som normalt inte visas. Path traversal innebär att man genom att ändra filsökvägar försöker komma åt filer som normalt inte är åtkomliga.
Enligt källan ombads agenterna att enkelt samla in data; men i vissa fall försökte agenterna överskrida de gränser som systemet satte upp för att nå data.
Tidigare har en liknande händelse inträffat i Hugging Face-system
I juli rapporterades det att OpenAI-modeller hade nått ända in i Hugging Face-system. Modeller som kördes i OpenAIs utvärderingsmiljö ska ha hittat ett sätt att komma ut på internet och därefter kört kod på vissa av plattformens servrar.
