OpenAI создала независимую консультативную группу из девяти членов для консультирования по вопросам взаимодействия с математическими исследованиями после коммуникационного кризиса в области математики. Независимость и влияние группы ставятся математиками под сомнение.
OpenAI объявила о создании независимой группы математиков, которая будет консультировать компанию и другие организации в сфере искусственного интеллекта по вопросам взаимодействия с математическими исследованиями, после кризиса доверия, вызванного последними результатами компании в области математики. Согласно заявлению компании, группа будет давать рекомендации по взаимодействию с математическим сообществом, включая вопросы представления и публикации новых результатов.
Структура, получившая название Консультативная группа по математике и искусственному интеллекту (AGMAI), состоит из девяти членов. В её состав входят представители таких учреждений, как Стэнфорд, Гарвард, Оксфорд и Кембридж, среди которых обладатели нескольких Филдсовских медалей и стипендий MacArthur. Принимать группу будет Институт перспективных исследований (IAS) в Нью-Джерси — один из самых уважаемых центров математических исследований в мире, где в своё время работали такие учёные, как Альберт Эйнштейн, Джон фон Нейман и Дж. Роберт Оппенгеймер.
Согласно заявлению компании, группа будет работать независимо: она сможет давать рекомендации по вопросам, которые компания не запрашивала, публично высказываться о влиянии на математику и обнародовать свои рекомендации. OpenAI отметила, что для выполнения своей миссии группа получит ранний доступ к исследованиям компании. Уточняется, что OpenAI не будет платить членам группы, и группа сможет по своему усмотрению менять свой состав. Компания заявила: «Ценность группы зависит от того, смогут ли её члены использовать собственные суждения и бросить вызов нашим».
Формирование и независимость группы
Несмотря на подчёркнутую независимость группы, остаётся неясным, насколько эффективной она будет и почему была создана. Симон Машаду, исследователь из ETH Zurich в Швейцарии, отметил, что процесс выглядит «окутанным тайной», и поставил под сомнение то, как были выбраны девять членов. На сайте группы указано, что структура «собралась после того, как OpenAI обратилась к некоторым членам с предложением создать внешний консультативный совет», однако после переговоров с компанией математики решили создать независимую группу и пригласить других. Не разъясняется, к каким именно членам OpenAI обратилась изначально и как были выбраны остальные.
Член группы Мартин Хайрер в своём блоге ответил на дискуссии, которые он назвал «потоком неверной информации» о процессе создания группы. Хайрер отметил, что искусственный интеллект уже оказывает глубокое влияние на математические исследования и поднимает множество вопросов, таких как правильное указание авторства идей, приоритет и понимание людьми. Он утверждал, что игнорирование математическим сообществом лабораторий ИИ не имеет смысла.
Хайрер признал, что группа была создана в результате подхода OpenAI, но подчеркнул, что не все члены были приглашены компанией и что сформированная структура «действительно независима от OpenAI и других передовых лабораторий ИИ». Он добавил, что члены не подписывали соглашение, ограничивающее их публичные заявления, за исключением «очевидных требований конфиденциальности», не получают материального вознаграждения и опираются на IAS для технической поддержки. Хайрер заявил, что цель группы — как можно лучше представлять интересы математического сообщества.
Опасения сообщества
Небольшой размер группы поднимает вопрос о том, обладает ли она достаточной широтой экспертизы для оценки всех поступающих к ней тем, учитывая высокую специализацию, необходимую для работы на переднем крае математики. Франческо Фурнье-Фасио, профессор математики, который присоединится к Университету Хериот-Уотт в Шотландии, сказал, что «не определился» насчёт панели, и что большее взаимодействие с математиками «могло бы всё улучшить». Однако он поставил под сомнение, полностью ли группа отражает сообщество, чья работа и средства к существованию затронуты шагами OpenAI в области математики, и назвал структуру «башней из слоновой кости».
Машаду также усомнился в том, смогут ли члены группы в полной мере понять опасения широкого математического сообщества по поводу ИИ. Он отметил, что члены являются «великолепными математиками», но не уверен, хотел бы он, чтобы они представляли его в более политических вопросах. Машаду сказал, что реальность, с которой сталкиваются математики в таком положении, сильно отличается от реальности большинства математиков.
Сможет ли группа завоевать доверие математиков, определит её эффективность в ограничении последствий недавних коммуникационных ошибок OpenAI. Хайрер в своём блоге заявил, что было бы «очень наивно» верить, что лаборатории ИИ не будут искажать сказанное в своих целях. Тем не менее Хайрер утверждал, что избегать диалога в момент, когда компания предпринимает усилия, было бы лицемерием. Он отметил, что группа ещё не решила, какие рекомендации давать, но есть чёткая проблема, на которую она отвечает.
Хайрер сказал, что в настоящее время группа собирает мнения через беседы с коллегами, публичную форму обратной связи и блог, где математики обсуждают влияние ИИ на область.
Предстоящее испытание
Считается, что главное испытание группы ещё впереди. Объявляя о создании консультативной группы, OpenAI заявила, что её новая неопубликованная модель «решила более 100 давно открытых проблем в большинстве областей математики». Ранее компания сообщала, что приблизилась к решению ещё одной задачи на Millennium Prize. На сайте группы указано, что этот накопленный материал является первоочередным приоритетом и что группа будет консультировать по вопросу координации публикации многочисленных важных математических результатов, которые, как сообщается, были получены внутренней моделью OpenAI.
Новая инициатива частично рассматривается как признание компанией пережитого коммуникационного кризиса. OpenAI обвиняли в присвоении работы исследователей, критиковали за отсутствие ссылок на человеческий труд, лежащий в основе её моделей, и за сбор данных у тех, кто использует её модели. Эти споры заставили многих математиков усомниться в том, понимает ли компания область и сообщество, в которые она вторгается.
Кевин Баззард, профессор математики в Имперском колледже Лондона, после множества публикаций о том, чего хотят математики, поставил под сомнение, зачем OpenAI понадобилась столь выдающаяся структура, чтобы понять запросы сообщества. Баззард сказал: «Нужно было не доказательство сложных теорем, а лучшее понимание нашего предмета», добавив, что ему неясно, нужен ли для подчёркивания этого комитет из блестящих людей.
