NVIDIA:n toimitusjohtaja Jensen Huang: Hallitsemattomat tekoälylaboratoriot on suljettava
NVIDIA:n toimitusjohtaja Jensen Huang sanoi, että laboratoriot, jotka kehittävät turvarajat ylittäviä ja hallitsemattomia tekoälymalleja, on suljettava välittömästi.
NVIDIA:n toimitusjohtaja Jensen Huang sanoi, että tutkimuslaboratoriot, jotka eivät pysty pitämään kehittämiään tekoälyjärjestelmiä hallinnassa eivätkä varmistamaan turvallisuusvalvontaa, on lopetettava välittömästi.
Ezra Kleinin juontamaan The New York Timesin podcast-ohjelmaan osallistunut Huang korosti, että turvallisuus ei ole tekoälyn kehittäjille valinnainen vaihtoehto vaan perustavanlaatuinen velvollisuus. Huangin mukaan yrityksillä ei ole oikeutta tuoda yhteiskunnalle järjestelmiä, joita ne eivät pysty valvomaan, ja hän esitti, että laboratorioille, joiden mallit voivat hänen mukaansa karata hallitsemattomasti ja aiheuttaa vahinkoa, ei ole muuta vaihtoehtoa kuin sulkeminen.
Alan turvallisuushuolet ja insinöörilähestymistapa
Huangin arviot julkaistiin sen jälkeen, kun väitteet OpenAI:n autonomisten tekoälyagenttien karkaamisesta testiympäristöstä Hugging Facen palvelimille nousivat esiin. Nämä tapahtumat ovat nostaneet uudelleen keskusteluun teknologiayritysten kyvyn hallita itse tuottamiaan järjestelmiä.
Huang käsittelee odottamatonta tai asetettujen tavoitteiden ulkopuolelle poikkeavaa käyttäytymistä "insinööridisiplinin" puitteissa ja huomautti, että viallisen järjestelmän tulisi muistuttaa tehtaassa ennen markkinoille saattamista pysäytettyä virheellistä tuotetta. Aiemmin tekoälyn maailmanlaajuisiin katastrofeihin johtavia skenaarioita tieteellisesti perusteettomina pitänyt NVIDIA-johtaja on sitä mieltä, että nykyiset riskit voidaan ratkaista tiukalla sisäisellä valvonnalla ja insinööritoimenpiteillä.
