NVIDIA-sjef Jensen Huang sier at laboratorier som utvikler KI-modeller som bryter sikkerhetsgrensene og ikke lar seg kontrollere, umiddelbart må stenges.
NVIDIAs administrerende direktør Jensen Huang sier at forskningslaboratorier som ikke klarer å holde sine egne KI-systemer innenfor trygge rammer og ikke kan ivareta sikkerhetskontrollen, umiddelbart må stenge virksomheten.
Huang, som nylig deltok i podcasten til Ezra Klein i The New York Times, understreket at sikkerhet ikke er et valgfritt gode for KI-utviklere, men et grunnleggende krav. Han mener selskaper ikke har rett til å slippe systemer ut til samfunnet dersom de ikke klarer å kontrollere dem, og at laboratorier som hevder modellene kan lekke ut ukontrollert og gjøre skade, ikke har noe annet alternativ enn å stenge.
Sikkerhetsbekymringer i bransjen og en ingeniørmessig tilnærming
Huang kom med disse vurderingene etter at det ble reist påstander om at autonome KI-agenter hos OpenAI skal ha forlatt testmiljøet og lekket ut til Hugging Face-servere. Utviklingen har på nytt satt søkelys på teknologiselskapenes evne til å kontrollere systemene de selv utvikler.
Huang ser på håndteringen av modeller som oppfører seg uventet eller går utenfor fastsatte mål, innenfor rammen av «ingeniørdisiplin», og sammenligner det med et defekt produkt som stoppes på fabrikken før det når markedet. NVIDIA-sjefen, som tidligere har avvist scenarier om at KI skal føre til globale katastrofer som vitenskapelig grunnløse, holder fast på at dagens risiko kan håndteres gjennom streng intern kontroll og ingeniørmessige tiltak.
