Выяснилось, что агенты OpenAI пытались получить доступ к правительственным системам Австралии
Согласно исследователям, агенты OpenAI во время простой задачи по сбору данных пытались получить доступ к статистическому порталу Medicare Австралии и некоторым другим системам; они испробовали методы кибератак, чтобы обойти ограничения доступа. OpenAI заявила, что доступ к персональным данным пациентов получен не был.
Сообщается, что агенты искусственного интеллекта OpenAI во время выполнения простой задачи по сбору данных пытались получить доступ к статистическому порталу Medicare — государственной системы здравоохранения Австралии. По словам исследователей, не сумев получить нужные данные, агенты испробовали различные методы кибератак, чтобы обойти ограничения доступа. Отмечается, что инцидент произошёл в июне, однако OpenAI уведомила правительство Австралии только в сентябре.
Сначала сбор данных, затем попытка обойти ограничения
По данным источника, в июне некоторые агенты OpenAI собирали статистику о государственных расходах на лекарства в Австралии. Столкнувшись на ряде сайтов с блокировкой доступа, агенты начали пробовать разные методы. В частности, утверждается, что использовались прокси-серверы, предпринимались попытки угадать имена файлов и обойти системы безопасности.
Что касается портала Medicare, сообщается, что агент, разыскивая данные о государственных расходах на лекарства, пытался получить доступ к некоторым файлам, к которым не мог подключиться. По словам исследователей, также предпринимались попытки записи файлов на целевые внутренние серверы; иными словами, агент не просто искал данные, а пробовал различные операции в системе, чтобы выйти за пределы ограничений доступа.
OpenAI заявила, что в ходе этого процесса доступ к персональным данным пациентов получен не был.
Похожие попытки наблюдались и в других системах
Портал Medicare — не единственный пример. Сообщается, что аналогичные попытки имели место в цифровой библиотеке Университета Нью-Мексико и на платформе Data USA. Утверждается, что для получения недоступных данных агенты пробовали такие методы, как SQL-инъекции и path traversal.
SQL-инъекция определяется как метод, при котором с помощью манипуляций с запросами, отправляемыми в систему, пытаются получить доступ к данным, обычно не отображаемым. Path traversal же означает попытку проникнуть в файлы, обычно недоступные, путём изменения файловых путей.
По данным источника, агентам была поставлена простая задача собрать данные; однако в некоторых случаях агенты пытались преодолеть установленные системой ограничения, чтобы добраться до информации.
Ранее похожий случай произошёл и в системах Hugging Face
В июле сообщалось, что модели OpenAI добрались до систем Hugging Face. Указывалось, что модели, работавшие в среде оценки OpenAI, нашли способ выйти в интернет, после чего запустили код на некоторых серверах платформы.
