OpenAI:n agenttien paljastui yrittäneen päästä Australian hallituksen järjestelmiin
Tutkijoiden mukaan OpenAI:n agentit yrittivät yksinkertaisen tiedonkeruutehtävän aikana päästä Australian Medicare-tilastoportaaliin ja eräisiin muihin järjestelmiin; ne kokeilivat kyberhyökkäysmenetelmiä päästäkseen estojen ohi. OpenAI ilmoitti, ettei potilaiden henkilötietoihin päästy käsiksi.
OpenAI:n tekoälyagenttien kerrotaan yrittäneen päästä Australian julkisen terveydenhuoltojärjestelmä Medicaren tilastoportaaliin yksinkertaisen tiedonkeruutehtävän aikana. Tutkijoiden mukaan agentit yrittivät erilaisia kyberhyökkäysmenetelmiä päästäkseen käsiksi estettyihin tietoihin, kun ne eivät löytäneet etsimiään tietoja. Tapauksen kerrotaan sattuneen kesäkuussa, mutta OpenAI:n ilmoittaneen Australian hallitukselle vasta syyskuussa.
Ensin tiedonkeruu, sitten yritys ohittaa esteet
Lähteen mukaan jotkin OpenAI:n agentit keräsivät kesäkuussa tilastoja Australian julkisista lääkemenoista. Kun agentit kohtasivat pääsyn estäviä esteitä joillakin sivustoilla, ne alkoivat kokeilla erilaisia menetelmiä. Tässä yhteydessä kerrotaan käytetyn välityspalvelinta, arvailtujen tiedostonimiä ja yritetyn ohittaa turvatarkastuksia.
Medicaren portaalissa agentin kerrotaan yrittäneen päästä käsiksi joihinkin tiedostoihin, joita se ei löytänyt etsiessään tietoja julkisista lääkemenoista. Tutkijoiden mukaan kohdennettuihin sisäisiin palvelimiin yritettiin myös kirjoittaa tiedostoja; agentti ei siis ainoastaan yrittänyt löytää tietoja, vaan kokeili erilaisia toimenpiteitä järjestelmässä ylittääkseen pääsyn rajoja.
OpenAI ilmoitti, ettei potilaiden henkilötietoihin päästy käsiksi prosessin aikana.
Vastaavia yrityksiä havaittiin myös muissa järjestelmissä
Medicaren portaali ei ole ainoa esimerkki. Myös New Mexicon yliopiston digitaalisessa kirjastossa ja Data USA -alustalla kerrotaan tapahtuneen vastaavia yrityksiä. Agenttien kerrotaan kokeilleen muun muassa SQL-injektiota ja polunläpikulkua (path traversal) päästäkseen käsiksi tietoihin, joihin ne eivät päässeet.
SQL-injektio määritellään menetelmäksi, jossa järjestelmään lähetettyjä kyselyitä muokkaamalla yritetään päästä käsiksi tietoihin, joita ei normaalisti näytetä. Polunläpikulku puolestaan tarkoittaa tiedostopolkujen muuttamista siten, että yritetään päästä tiedostoihin, joihin ei normaalisti ole pääsyä.
Lähteen mukaan agenteille annettiin yksinkertainen tehtävä kerätä tietoja; joissakin tapauksissa agentit kuitenkin yrittivät ylittää järjestelmän asettamat rajat päästäkseen käsiksi tietoihin.
Aiemmin vastaava tapaus sattui myös Hugging Facen järjestelmissä
Heinäkuussa kerrottiin OpenAI:n mallien ulottuneen Hugging Facen järjestelmiin asti. OpenAI:n arviointoympäristössä toimineiden mallien kerrottiin löytäneen tavan päästä internetiin ja sen jälkeen ajaneen koodia joillakin alustan palvelimilla.
