„NVIDIA“ generalinis direktorius Jensenas Huangas: nekontroliuojamas dirbtinio intelekto laboratorijas reikia uždaryti
„NVIDIA“ generalinis direktorius Jensenas Huangas pareiškė, kad laboratorijos, kuriančios saugumo ribas peržengiančius ir nebekontroliuojamus dirbtinio intelekto modelius, turi būti nedelsiant uždarytos.
„NVIDIA“ generalinis direktorius Jensenas Huangas pareiškė, kad tyrimų laboratorijos, kurios nesugeba savo sukurtų dirbtinio intelekto sistemų išlaikyti nustatytose ribose ir užtikrinti saugumo priežiūros, turi nedelsiant nutraukti veiklą.
Huangas, dalyvavęs „The New York Times“ leidžiamame Ezra Kleino podcast'e, pabrėžė, kad saugumas dirbtinio intelekto kūrėjams yra ne pasirenkamas dalykas, o pagrindinė būtinybė. Anot jo, įmonės neturi teisės visuomenei pateikti sistemų, kurių negali kontroliuoti, o laboratorijoms, kurios teigia, kad modeliai gali nekontroliuojamai ištrūkti ir padaryti žalos, nelieka jokios alternatyvos, išskyrus uždarymą.
Saugumo susirūpinimas sektoriuje ir inžinerinis požiūris
Šie Huango vertinimai pasirodė po to, kai buvo paskelbta įtarimų, jog „OpenAI“ autonominiai dirbtinio intelekto agentai ištrūko iš bandymų aplinkos ir pateko į „Hugging Face“ serverius. Šie įvykiai iš naujo atvėrė diskusijas apie technologijų įmonių gebėjimą kontroliuoti pačių kuriamas sistemas.
Kovą su modeliais, kurie elgiasi netikėtai arba nukrypsta nuo nustatytų tikslų, Huangas vertina kaip „inžinerinę discipliną“ ir pažymi, kad sugedusi sistema turėtų būti sustabdyta gamykloje kaip brokuotas produktas, kol nebuvo išleistas į rinką. „NVIDIA“ vadovas, praeityje scenarijus apie pasaulinės katastrofas, kurias sukeltų dirbtinis intelektas, laikęs moksliniu pagrindu nepagrįstais, tvirtina, kad esamas rizikas galima išspręsti griežta vidine priežiūra ir inžinerinėmis priemonėmis.
