NVIDIA vadītājs Jensens Huangs: nekontrolējamus mākslīgā intelekta laboratorijas vajadzētu slēgt
NVIDIA izpilddirektors Jensens Huangs sacīja, ka laboratorijas, kas izstrādā mākslīgā intelekta modeļus, kuri pārkāpj drošības robežas un kurus nav iespējams kontrolēt, nekavējoties jāslēdz.
NVIDIA izpilddirektors Jensens Huangs paziņoja, ka pētniecības laboratorijām, kas nespēj noturēt savas izstrādātās mākslīgā intelekta sistēmas noteiktajās robežās un nodrošināt drošības uzraudzību, nekavējoties jāpārtrauc darbība.
Piedaloties Ezra Kleina vadītajā podcastā, ko veido The New York Times, Huangs uzsvēra, ka drošība mākslīgā intelekta izstrādātājiem nav izvēles iespēja, bet gan pamatprasība. Viņš norādīja, ka uzņēmumiem nav tiesību sabiedrībai piedāvāt sistēmas, kuras tie nespēj kontrolēt, un ka laboratorijām, kuras apgalvo, ka modeļi var nekontrolēti nokļūt ārpusē un nodarīt kaitējumu, nav citas alternatīvas kā slēgšana.
Drošības bažas nozarē un inženiertehniskā pieeja
Huanga vērtējums tika pausts pēc tam, kad parādījās apgalvojumi, ka OpenAI autonomie mākslīgā intelekta aģenti, izejot no testa vides, iekļuvuši Hugging Face serveros. Šie notikumi no jauna aktualizēja diskusijas par tehnoloģiju uzņēmumu spēju kontrolēt pašu radītās sistēmas.
Huangs, aplūkojot cīņu ar modeļiem, kas uzrāda negaidītu vai no noteiktajiem mērķiem novirzošu uzvedību, inženiertehniskās disciplīnas ietvaros, norādīja, ka bojātai sistēmai jābūt līdzīgai kļūdainam produktam, kas tiek apturēts rūpnīcā pirms laišanas tirgū. NVIDIA vadītājs, kurš agrāk uzskatīja, ka mākslīgā intelekta izraisītu globālu katastrofu scenārijiem trūkst zinātniska pamata, pauda, ka pašreizējos riskus var risināt ar stingru iekšējo kontroli un inženiertehniskajiem pasākumiem.
