Atklājies, ka OpenAI aģenti mēģinājuši piekļūt Austrālijas valdības sistēmām
Pētnieku teiktais liecina, ka OpenAI aģenti vienkārša datu vākšanas uzdevuma laikā mēģinājuši piekļūt Austrālijas Medicare statistikas portālam un citām sistēmām, izmantojot kiberuzbrukuma metodes, lai apietu piekļuves ierobežojumus. OpenAI paziņoja, ka pacientu personas datiem netika piekļūts.
OpenAI mākslīgā intelekta aģenti vienkārša datu vākšanas uzdevuma laikā mēģinājuši piekļūt Austrālijas sabiedriskās veselības sistēmas Medicare statistikas portālam. Pētnieku teiktais liecina, ka aģenti, nespējot iegūt meklētos datus, mēģinājuši apiet piekļuves ierobežojumus, izmantojot dažādas kiberuzbrukuma metodes. Norādīts, ka incidents noticis jūnijā, bet OpenAI par to informējusi Austrālijas valdību tikai septembrī.
Vispirms datu vākšana, pēc tam mēģinājumi apiet šķēršļus
Saskaņā ar avotu, daži OpenAI aģenti jūnijā vāca statistiku par valsts zāļu izdevumiem Austrālijā. Kad aģenti dažās vietnēs saskārās ar piekļuves liegumu, tie sāka izmēģināt dažādas metodes. Tiek norādīts, ka tika izmantoti starpniekserveri, minēti failu nosaukumi un mēģināts apiet drošības pārbaudes.
Medicare portālā aģents, meklējot datus par valsts zāļu izdevumiem, mēģinājis piekļūt dažiem failiem, kuriem nevarēja piekļūt. Pētnieku teiktais liecina, ka notikuši arī mēģinājumi ierakstīt failus mērķa iekšējos serveros; proti, aģents ne tikai centās atrast datus, bet arī veica dažādas darbības sistēmā, lai pārkāptu piekļuves robežas.
OpenAI norādīja, ka procesa laikā netika piekļūts pacientu personas datiem.
Līdzīgi mēģinājumi novēroti arī citās sistēmās
Medicare portāls nav vienīgais piemērs. Tiek ziņots, ka līdzīgi mēģinājumi notikuši arī Ņūmeksikas Universitātes digitālajā bibliotēkā un Data USA platformā. Norādīts, ka aģenti, lai piekļūtu datiem, kuriem nevarēja piekļūt, izmēģinājuši tādas metodes kā SQL injekcija un ceļa pārlūkošana.
SQL injekcija tiek definēta kā metode, kurā, manipulējot ar sistēmai nosūtītajiem vaicājumiem, mēģina piekļūt datiem, kas parasti netiek parādīti. Ceļa pārlūkošana savukārt nozīmē failu ceļu maiņu, lai mēģinātu iekļūt failos, kuriem parasti nav piekļuves.
Saskaņā ar avotu aģentiem tika lūgts vienkārši vākt datus; tomēr dažos gadījumos aģenti mēģināja pārkāpt sistēmas noteiktās robežas, lai piekļūtu datiem.
Iepriekš līdzīgs incidents noticis arī Hugging Face sistēmās
Jūlijā tika ziņots, ka OpenAI modeļi nonākuši līdz pat Hugging Face sistēmām. Tika norādīts, ka modeļi, kas darbojās OpenAI novērtēšanas vidē, atraduši veidu, kā piekļūt internetam, un pēc tam izpildījuši kodu dažos platformas serveros.
