NVIDIA tegevjuht Jensen Huang: kontrollimatud tehisintellekti laborid tuleb sulgeda
NVIDIA tegevjuht Jensen Huang ütles, et laborid, mis arendavad turvapiire ületavaid ja kontrolli all mitte hoitavaid tehisintellekti mudeleid, tuleks viivitamatult sulgeda.
NVIDIA tegevjuht Jensen Huang ütles, et teaduslaborid, mis ei suuda oma tehisintellektisüsteeme piirides hoida ega turvakontrolli tagada, tuleb viivitamatult sulgeda.
The New York Timesi poolt Ezra Kleini juhitavas podcast-programmis osaledes rõhutas Huang, et turvalisus ei ole tehisintellekti arendajate jaoks valikuline, vaid põhiline kohustus. Huang märkis, et ettevõtetel ei ole õigust tuua ühiskonda süsteeme, mida nad ei suuda kontrolli all hoida, ning lisas, et laboritel, mis väidavad, et mudelid võivad kontrollimatult välja pääseda ja kahju tekitada, ei ole muud valikut kui sulgeda.
Turvamured sektoris ja insenertehniline lähenemine
Huangi need hinnangud avaldati pärast seda, kui tõstatati väited, et OpenAI autonoomsed tehisintellekti agendid väljusid katsetuskeskkonnast ja lekkisid Hugging Face'i serveritesse. Need sündmused on taas tõstatanud küsimuse tehnoloogiaettevõtete suutlikkusest oma loodud süsteeme kontrollida.
Huang käsitleb ootamatute või seatud eesmärkidest kõrvalekalduvate käitumiste vastu võitlemist "inseneridistsipliini" raames ning märkis, et vigane süsteem peaks sarnanema defektse tootega, mis peatatakse tehases enne turule laskmist. NVIDIA juht, kes on varem pidanud tehisintellekti ülemaailmsete katastroofideni viimise stsenaariume teadusliku aluseta, väitis, et olemasolevaid riske saab lahendada range sisekontrolli ja insenertehniliste meetmetega.
