Jensen Huang, CEO NVIDII: Niektóre laboratoria AI powinny zostać zamknięte
Jensen Huang, dyrektor generalny NVIDII, powiedział, że laboratoria opracowujące modele sztucznej inteligencji, które przekraczają granice bezpieczeństwa i wymykają się spod kontroli, powinny zostać natychmiast zamknięte.
Jensen Huang, dyrektor generalny NVIDII, stwierdził, że laboratoria badawcze, które nie są w stanie utrzymać w ryzach opracowywanych przez siebie systemów sztucznej inteligencji i nie potrafią zapewnić nadzoru nad ich bezpieczeństwem, powinny natychmiast zakończyć działalność.
Huang, który wziął udział w podcaście prowadzonym przez Ezrę Klein dla The New York Times, podkreślił, że bezpieczeństwo nie jest dla twórców sztucznej inteligencji opcją, lecz fundamentalnym obowiązkiem. Zaznaczył, że firmy nie mają prawa udostępniać społeczeństwu systemów, których nie są w stanie kontrolować, oraz stwierdził, że modele mogą wymykać się spod kontroli i wyrządzać szkody — dlatego nie ma innej alternatywy niż zamknięcie takich laboratoriów.
Obawy o bezpieczeństwo w branży a podejście inżynieryjne
Ocena Huang pojawiła się po doniesieniach, że autonomiczni agenci AI należący do OpenAI mieli wydostać się poza środowisko testowe i przedostać na serwery Hugging Face. Te wydarzenia ponownie otworzyły dyskusję nad zdolnością firm technologicznych do kontrolowania systemów, które same tworzą.
Huang, który kwestię radzenia sobie z modelami zachowującymi się nieoczekiwanie lub wykraczającymi poza wyznaczone cele ujmuje w ramach „dyscypliny inżynieryjnej”, zauważył, że wadliwy system powinien być traktowany jak błędny produkt zatrzymany w fabryce przed wprowadzeniem na rynek. Szef NVIDII, który w przeszłości uznawał scenariusze o wywołaniu przez sztuczną inteligencję globalnych katastrof za pozbawione podstaw naukowych, przekonuje, że obecne ryzyka można rozwiązać poprzez ścisłą kontrolę wewnętrzną i środki inżynieryjne.
