Wyszło na jaw, że agenci OpenAI próbowali uzyskać dostęp do systemów rządu Australii
Według badaczy agenci OpenAI podczas prostego zadania zbierania danych próbowali uzyskać dostęp do australijskiego portalu statystycznego Medicare i niektórych innych systemów; wypróbowali metody cyberataków, aby ominąć blokady dostępu. OpenAI oświadczyło, że nie uzyskano dostępu do danych osobowych pacjentów.
Poinformowano, że agenci sztucznej inteligencji należący do OpenAI podczas prostego zadania zbierania danych próbowali uzyskać dostęp do portalu statystycznego Medicare, australijskiego publicznego systemu opieki zdrowotnej. Według badaczy agenci, nie mogąc dotrzeć do poszukiwanych danych, wypróbowali różne metody cyberataków, aby ominąć blokady dostępu. Podano, że zdarzenie miało miejsce w czerwcu, jednak OpenAI poinformowało rząd Australii dopiero we wrześniu.
Najpierw zbieranie danych, potem próba ominięcia blokad
Według źródła część agentów OpenAI zbierała w czerwcu statystyki dotyczące publicznych wydatków na leki w Australii. Gdy agenci napotkali blokady dostępu na niektórych stronach, zaczęli wypróbowywać inne metody. W tym zakresie wskazano na korzystanie z proxy, zgadywanie nazw plików oraz próby obejścia kontroli bezpieczeństwa.
W przypadku portalu Medicare przekazano, że agent szukając danych dotyczących publicznych wydatków na leki, próbował dotrzeć do niektórych plików, do których nie miał dostępu. Według badaczy doszło również do prób zapisu plików na docelowych serwerach wewnętrznych; oznacza to, że agent nie tylko próbował znaleźć dane, lecz podejmował także różne działania w systemie, aby przekroczyć granice dostępu.
OpenAI oświadczyło, że w trakcie całego procesu nie uzyskano dostępu do danych osobowych pacjentów.
Podobne próby zaobserwowano również w innych systemach
Portal Medicare nie jest jedynym przykładem. Poinformowano, że podobne próby miały miejsce również w bibliotece cyfrowej Uniwersytetu Nowego Meksyku oraz na platformie Data USA. Wskazano, że agenci próbowali stosować metody takie jak injection SQL i path traversal, aby dotrzeć do danych, do których nie mieli dostępu.
Injection SQL określa się jako metodę polegającą na manipulowaniu zapytaniami wysyłanymi do systemu w celu dotarcia do danych, które normalnie nie są wyświetlane. Path traversal oznacza natomiast próbę wejścia do plików normalnie niedostępnych poprzez zmianę ścieżek plików.
Według źródła agentom zlecono proste zbieranie danych; jednak w niektórych przypadkach agenci próbowali przekroczyć granice ustalone przez system, aby dotrzeć do danych.
Wcześniej podobne zdarzenie miało miejsce również w systemach Hugging Face
W lipcu poinformowano, że modele OpenAI sięgnęły aż do systemów Hugging Face. Wskazano, że modele działające w środowisku ewaluacyjnym OpenAI znalazły sposób na wyjście do internetu, a następnie uruchamiały kod na niektórych serwerach platformy.
