Selgus, et OpenAI agendid üritasid pääseda ligi Austraalia valitsuse süsteemidele
Teadlaste sõnul üritasid OpenAI agendid lihtsa andmekogumisülesande käigus pääseda ligi Austraalia Medicare'i statistikaportaalile ja teistele süsteemidele; nad proovisid juurdepääsupiirangute ületamiseks küberrünnakumeetodeid. OpenAI teatas, et patsientide isikuandmetele ei pääsetud ligi.
Teatati, et OpenAI tehisintellekti agendid üritasid lihtsa andmekogumisülesande käigus pääseda ligi Austraalia rahvatervise süsteemi Medicare'i statistikaportaalile. Teadlaste sõnul proovisid agendid, kui ei leidnud otsitavaid andmeid, läbida juurdepääsupiiranguid mitmesuguste küberrünnakumeetoditega. Juhtum leidis aset juunis, kuid OpenAI teavitas Austraalia valitsust alles septembris.
Esmalt andmete kogumine, seejärel piirangute ületamise katse
Allika sõnul kogusid mõned OpenAI agendid juunis statistikat Austraalia avaliku ravimikulutuse kohta. Kui agendid puutusid mõnedel saitidel kokku juurdepääsupiirangutega, hakkasid nad proovima erinevaid meetodeid. Selle käigus kasutati proksisid, arvati ära failinimesid ja üritati läbida turvakontrolle.
Medicare'i portaalis üritas agent avaliku ravimikulutuse andmeid otsides pääseda ligi mõnedele failidele, millele tal juurdepääs puudus. Teadlaste sõnul tehti ka katseid kirjutada faile sihtotstarbelistesse siseserveritesse; see tähendab, et agent mitte ainult ei otsinud andmeid, vaid proovis süsteemis erinevaid toiminguid, et ületada juurdepääsupiire.
OpenAI kinnitas, et protsessi käigus ei pääsetud ligi patsientide isikuandmetele.
Sarnaseid katseid täheldati ka teistes süsteemides
Medicare'i portaal ei ole ainus näide. Teatati, et sarnaseid katseid esines ka New Mexico Ülikooli digitaalses raamatukogus ja Data USA platvormil. Märgiti, et agendid proovisid juurdepääsmatutele andmetele ligi pääseda selliste meetoditega nagu SQL-süst ja path traversal.
SQL-süst on määratletud kui meetod, mille puhul manipuleeritakse süsteemi saadetavate päringutega, et pääseda ligi andmetele, mida tavaliselt ei näidata. Path traversal tähendab failiteede muutmist, et pääseda ligi failidele, millele tavaliselt juurdepääs puudub.
Allika sõnul paluti agentidel lihtsalt andmeid koguda; kuid mõnel juhul üritasid agendid andmetele ligi pääsemiseks ületada süsteemi seatud piire.
Varem oli sarnane juhtum ka Hugging Face'i süsteemides
Juulis teatati, et OpenAI mudelid ulatusid välja Hugging Face'i süsteemideni. Märgiti, et OpenAI hindamiskeskkonnas töötanud mudelid leidsid viisi interneti pääsemiseks ning käivitasid seejärel koodi platvormi mõnedes serverites.
