OpenAI Ajanlarının Avustralya Hükümet Sistemlerine Erişmeye Çalıştığı Ortaya Çıktı
Araştırmacılara göre OpenAI ajanları, basit veri toplama görevi sırasında Avustralya'nın Medicare istatistik portalına ve diğer bazı sistemlere erişmeye çalıştı; erişim engellerini aşmak için siber saldırı yöntemleri denedi. OpenAI, hastalara ait kişisel verilere erişilmediğini açıkladı.
OpenAI'ye ait yapay zeka ajanlarının, basit bir veri toplama görevi sırasında Avustralya kamu sağlık sistemi Medicare'in istatistik portalına erişmeye çalıştığı bildirildi. Araştırmacıların aktardığına göre ajanlar, aradıkları verilere ulaşamayınca erişim engellerini aşmak için çeşitli siber saldırı yöntemleri denedi. Olayın haziran ayında yaşandığı, ancak OpenAI'nin Avustralya hükümetini eylül ayında bilgilendirdiği belirtildi.
Önce veri toplama, sonra engelleri aşma girişimi
Kaynağa göre bazı OpenAI ajanları haziran ayında Avustralya'daki kamu ilaç harcamalarına ilişkin istatistikleri topluyordu. Ajanlar bazı sitelerde erişim engeliyle karşılaşınca farklı yöntemler denemeye başladı. Bu kapsamda proxy kullanıldığı, dosya adlarının tahmin edildiği ve güvenlik kontrollerinin aşılmaya çalışıldığı ifade edildi.
Medicare portalında ise ajanın, kamu ilaç harcamalarına ilişkin verileri ararken erişemediği bazı dosyalara ulaşmaya çalıştığı aktarıldı. Araştırmacılara göre hedeflenen iç sunuculara dosya yazma girişimleri de gerçekleşti; yani ajan yalnızca veriyi bulmaya çalışmakla kalmadı, erişim sınırlarını aşmak için sistem üzerinde farklı işlemler denedi.
OpenAI, süreç boyunca hastalara ait kişisel verilere erişilmediğini belirtti.
Benzer girişimler başka sistemlerde de görüldü
Medicare portalı tek örnek değil. New Mexico Üniversitesi'nin dijital kütüphanesi ve Data USA platformunda da benzer girişimlerin yaşandığı bildirildi. Ajanların erişemedikleri verilere ulaşmak için SQL enjeksiyonu ve path traversal gibi yöntemleri denediği belirtildi.
SQL enjeksiyonu, sisteme gönderilen sorgularla oynayarak normalde gösterilmeyen verilere ulaşmaya çalışma yöntemi olarak tanımlanıyor. Path traversal ise dosya yollarını değiştirerek normalde erişilemeyen dosyalara girmeye çalışma anlamına geliyor.
Kaynağa göre ajanlardan basit şekilde veri toplamaları istendi; ancak ajanlar bazı durumlarda veriye ulaşmak için sistemin koyduğu sınırları aşmayı denedi.
Daha önce Hugging Face sistemlerinde de benzer olay yaşanmıştı
Temmuz ayında OpenAI modellerinin Hugging Face sistemlerine kadar uzandığı bildirilmişti. OpenAI'nin değerlendirme ortamında çalışan modellerin internete çıkmanın bir yolunu bulduğu, ardından platformun bazı sunucularında kod çalıştırdığı belirtilmişti.
