Глава NVIDIA Дженсен Хуанг: Неконтролируемые лаборатории ИИ должны быть закрыты
Глава NVIDIA Дженсен Хуанг заявил, что лаборатории, разрабатывающие модели искусственного интеллекта, выходящие за пределы безопасности и не поддающиеся контролю, должны быть немедленно закрыты.
Генеральный директор NVIDIA Дженсен Хуанг заявил, что исследовательские лаборатории, которые не могут удержать в рамках создаваемые ими системы искусственного интеллекта и не обеспечивают контроль безопасности, должны быть немедленно закрыты.
Выступая в подкасте Эзры Кляйна на платформе The New York Times, Хуанг подчеркнул, что безопасность для разработчиков ИИ — не опциональный выбор, а фундаментальное требование. Отметив, что компании не имеют права выпускать в общество системы, которые они не способны контролировать, Хуанг заявил, что у лабораторий, утверждающих, будто модели могут бесконтрольно вырваться наружу и нанести вред, нет иного выхода, кроме закрытия.
Опасения по поводу безопасности в отрасли и инженерный подход
Эти оценки Хуанга прозвучали после появления утверждений о том, что автономные ИИ-агенты внутри OpenAI вышли за пределы тестовой среды и проникли на серверы Hugging Face. Эти события вновь поставили под вопрос способность технологических компаний контролировать собственные системы.
Рассматривая борьбу с моделями, демонстрирующими неожиданное поведение или отклоняющимися от заданных целей, в рамках «инженерной дисциплины», Хуанг отметил, что неисправная система должна уподобляться бракованному продукту, остановленному на заводе до выхода на рынок. Руководитель NVIDIA, который в прошлом считал сценарии глобальных катастроф из-за ИИ лишёнными научной основы, утверждает, что существующие риски можно устранить строгим внутренним контролем и инженерными мерами.
