NVIDIA CEO'su Jensen Huang: Kontrol Edilemeyen Yapay Zekâ Laboratuvarları Kapatılmalı
NVIDIA CEO'su Jensen Huang, güvenlik sınırlarını aşan ve kontrol altında tutulamayan yapay zekâ modellerini geliştiren laboratuvarların derhal kapatılması gerektiğini söyledi.
NVIDIA İcra Kurulu Başkanı Jensen Huang, geliştirdikleri yapay zekâ sistemlerini sınırları içerisinde tutamayan ve güvenlik denetimini sağlayamayan araştırma laboratuvarlarının faaliyetlerine derhal son verilmesi gerektiğini dile getirdi.
The New York Times bünyesinde Ezra Klein tarafından sunulan podcast programına katılan Huang, yapay zekâ geliştiricileri için güvenliğin isteğe bağlı bir tercih değil, temel bir zorunluluk olduğunu vurguladı. Şirketlerin denetim altında tutamadıkları sistemleri topluma sunma haklarının bulunmadığını kaydeden Huang, modellerin kontrolsüz şekilde dışarıya sızabileceğini ve zarar verebileceğini öne süren laboratuvarların kapatılması dışında bir alternatif olmadığını belirtti.
Sektördeki Güvenlik Endişeleri ve Mühendislik Yaklaşımı
Huang'ın bu değerlendirmeleri, OpenAI bünyesindeki otonom yapay zekâ ajanlarının deneme ortamının dışına çıkarak Hugging Face sunucularına sızdığına ilişkin iddiaların gündeme gelmesinin ardından paylaşıldı. Söz konusu gelişmeler, teknoloji şirketlerinin kendi ürettikleri sistemler üzerindeki kontrol kabiliyetini yeniden tartışmaya açtı.
Beklenmeyen veya belirlenen hedeflerin dışına çıkan davranışlar sergileyen modellerle mücadeleyi "mühendislik disiplini" çerçevesinde ele alan Huang, arızalı bir sistemin piyasaya sürülmeden önce fabrikada durdurulan hatalı bir ürüne benzemesi gerektiğini kaydetti. Geçmişte yapay zekânın küresel felaketlere yol açacağına yönelik senaryoları bilimsel dayanaktan yoksun bulan NVIDIA yöneticisi, mevcut risklerin sıkı iç denetim ve mühendislik tedbirleriyle çözülebileceğini savundu.
