NVIDIA:s vd Jensen Huang: Okontrollerbara AI-labb bör stängas
NVIDIAs vd Jensen Huang säger att laboratorier som utvecklar AI-modeller som överskrider säkerhetsgränser och inte kan hållas under kontroll omedelbart bör stängas.
NVIDIAs vd Jensen Huang säger att forskningslaboratorier som inte kan hålla sina AI-system inom säkra gränser och inte klarar av säkerhetsövervakningen omedelbart bör upphöra med sin verksamhet.
Huang, som medverkade i podcasten som leds av Ezra Klein på The New York Times, betonade att säkerhet inte är ett valfritt tillval för AI-utvecklare utan ett grundläggande krav. Han konstaterade att företag inte har rätt att släppa ut system som de inte kan kontrollera till samhället, och att det inte finns något annat alternativ än att stänga laboratorier som hävdar att modeller kan läcka ut okontrollerat och orsaka skada.
Säkerhetsoro i branschen och ingenjörsmässigt synsätt
Huang gjorde dessa uttalanden efter att påståenden om att autonoma AI-agenter inom OpenAI tagit sig ut ur testmiljön och läckt in på Hugging Face-servrar hade blivit aktuella. Dessa händelser har återigen satt frågan om teknikföretagens förmåga att kontrollera sina egna system på dagordningen.
Huang, som närmar sig hanteringen av modeller som uppvisar oväntat beteende eller agerar utanför sina mål utifrån ett "ingenjörsmässigt disciplinperspektiv", påpekade att ett felaktigt system bör likna en defekt produkt som stoppas i fabriken innan den släpps ut på marknaden. NVIDIA-chefen, som tidigare ansett att scenarier där AI leder till globala katastrofer saknar vetenskaplig grund, hävdar att de nuvarande riskerna kan hanteras med strikt intern kontroll och ingenjörsmässiga åtgärder.
