NVIDIA-topchef Jensen Huang sagde, at laboratorier, der udvikler AI-modeller, som overskrider sikkerhedsgrænser og ikke kan holdes under kontrol, øjeblikkeligt bør lukkes.
NVIDIAs administrerende direktør Jensen Huang siger, at forskningslaboratorier, der ikke kan holde deres AI-systemer inden for rammerne og sikre sikkerhedskontrollen, øjeblikkeligt bør indstille deres aktiviteter.
Huang, der deltog i podcastprogrammet på The New York Times med Ezra Klein som vært, understregede, at sikkerhed ikke er et valgfrit tilvalg for AI-udviklere, men et grundlæggende krav. Huang fastslog, at virksomheder ikke har ret til at frigive systemer til samfundet, som de ikke kan holde under kontrol, og at der ikke findes noget alternativ til at lukke laboratorier, der hævder, at modeller ukontrolleret kan slippe ud og forårsage skade.
Sikkerhedsbekymringer i branchen og en ingeniørmæssig tilgang
Huangs vurderinger kommer, efter at påstande om, at autonome AI-agenter hos OpenAI forlod testmiljøet og lækkede til Hugging Face-servere, er blevet bragt på banen. Disse begivenheder har igen sat spørgsmålstegn ved teknologivirksomheders evne til at kontrollere de systemer, de selv udvikler.
Huang, der behandler håndteringen af modeller, som udviser uventet adfærd eller adfærd ud over de fastsatte mål, inden for rammerne af "ingeniørmæssig disciplin", bemærkede, at et defekt system bør ligne et fejlbehæftet produkt, der stoppes på fabrikken, før det sendes på markedet. NVIDIA-lederen, der tidligere har betragtet scenarier om, at AI vil føre til globale katastrofer, som videnskabeligt grundløse, fastholder, at de aktuelle risici kan løses gennem streng intern kontrol og ingeniørmæssige tiltag.
