OpenAI po kryzysie komunikacyjnym w dziedzinie matematyki utworzyło dziewięcioosobową niezależną grupę doradczą, która ma doradzać w zakresie relacji z badaniami matematycznymi. Niezależność i skuteczność grupy są kwestionowane przez matematyków.
OpenAI ogłosił utworzenie niezależnej grupy matematyków, która ma doradzać firmie i innym spółkom zajmującym się sztuczną inteligencją w zakresie relacji z badaniami matematycznymi, po kryzysie wizerunkowym wywołanym przez ogłoszone przez nią wyniki w dziedzinie matematyki. Zgodnie z komunikatem firmy grupa będzie doradzać w kwestiach związanych z kontaktami ze środowiskiem matematycznym, w tym w zakresie sposobu prezentowania i publikowania nowych wyników.
Struktura nazwana Grupą Doradczą ds. Matematyki i Sztucznej Inteligencji (AGMAI) składa się z dziewięciu członków. Należą do nich osoby z instytucji takich jak Stanford, Harvard, Oxford i Cambridge, w tym laureaci wielu Medali Fieldsa i stypendiów MacArthur. Grupie będzie przewodniczyć Instytut Studiów Zaawansowanych (IAS) w New Jersey, jedno z najbardziej prestiżowych centrów badań matematycznych na świecie, gdzie niegdyś pracowali Albert Einstein, John von Neumann i J. Robert Oppenheimer.
Według oświadczenia firmy grupa będzie działać niezależnie; będzie mogła doradzać w kwestiach, o które firma nie prosi, publicznie komentować wpływ sztucznej inteligencji na matematykę i publikować swoje zalecenia. OpenAI podało, że aby grupa mogła wypełniać swoje zadanie, otrzyma wczesny dostęp do badań firmy. Członkowie nie będą otrzymywać wynagrodzenia od OpenAI, a grupa będzie mogła według własnego uznania zmieniać skład członkowski. Firma oceniła: "Wartość grupy zależy od tego, czy jej członkowie mogą korzystać z własnego osądu i kwestionować nasz".
Powstanie grupy i jej niezależność
Mimo podkreślania niezależności grupy, nie jest jasne, jak skuteczna będzie i dlaczego została utworzona. Simon Machado, badacz z ETH Zurich w Szwajcarii, stwierdził, że proces wydaje się "spowity tajemnicą", i zakwestionował sposób wyboru dziewięciu członków. Na stronie internetowej grupy napisano, że struktura "powstała po tym, jak OpenAI zaproponowało niektórym członkom utworzenie zewnętrznego komitetu doradczego", ale po rozmowach z firmą matematycy zdecydowali się utworzyć niezależną grupę i zaprosić innych. Nie wyjaśniono, do których członków OpenAI zwróciło się na początku ani w jaki sposób wybrano pozostałych.
Członek grupy Martin Hairer w opublikowanym wpisie na blogu odpowiedział na dyskusje, które określił jako "przepływ błędnych informacji" dotyczących procesu powstania grupy. Hairer zauważył, że sztuczna inteligencja już wywiera głęboki wpływ na badania matematyczne i rodzi wiele pytań, takich jak właściwe przypisywanie pomysłów, pierwszeństwo i zrozumienie przez ludzi. Argumentował, że ignorowanie laboratoriów sztucznej inteligencji przez środowisko nie miałoby sensu.
Hairer przyznał, że grupa powstała w wyniku podejścia OpenAI, ale podkreślił, że nie wszyscy członkowie zostali zaproszeni przez firmę, a powstała struktura jest "naprawdę niezależna od OpenAI i innych wiodących laboratoriów sztucznej inteligencji". Dodał, że członkowie nie podpisali umowy ograniczającej ich publiczne wypowiedzi poza "oczywistymi wymogami poufności", nie otrzymują wynagrodzenia i polegają na IAS w zakresie wsparcia technicznego. Hairer stwierdził, że celem grupy jest jak najlepsze reprezentowanie interesów środowiska matematycznego.
Obawy środowiska
Niewielki rozmiar grupy rodzi pytanie, czy ma ona wystarczającą szerokość ekspertyzy, aby ocenić wszystkie tematy, które do niej trafią, biorąc pod uwagę wysoką specjalizację wymaganą do pracy na granicach matematyki. Francesco Fournier-Facio, profesor matematyki, który dołączy do Heriot-Watt University w Szkocji, powiedział, że jest "niezdecydowany" co do panelu i że większa interakcja z matematykami "mogłaby wszystko poprawić". Zakwestionował jednak, czy grupa w pełni odzwierciedla środowisko, którego praca i źródła utrzymania są dotknięte posunięciami OpenAI w dziedzinie matematyki, i określił strukturę jako "wieżę z kości słoniowej".
Machado podobnie zakwestionował, czy członkowie grupy mogą w pełni zrozumieć obawy szerszego środowiska matematycznego dotyczące sztucznej inteligencji. Zauważył, że członkowie są "wspaniałymi matematykami", ale nie jest pewien, czy chciałby, aby reprezentowali go w bardziej politycznych kwestiach. Machado powiedział, że rzeczywistość, z jaką spotykają się matematycy na takich stanowiskach, bardzo różni się od rzeczywistości większości matematyków.
To, czy grupa zdoła zdobyć zaufanie matematyków, określi jej skuteczność w ograniczaniu echa niedawnych błędów komunikacyjnych OpenAI. Hairer w swoim wpisie na blogu stwierdził, że "bardzo naiwne" byłoby wierzyć, że laboratoria sztucznej inteligencji nie będą wypaczać wypowiedzi do własnych celów promocyjnych. Jednocześnie Hairer argumentował, że unikanie dialogu w czasie, gdy firma podejmuje wysiłki, byłoby hipokryzją. Zauważył, że grupa nie zdecydowała jeszcze, jakie zalecenia wyda, ale istnieje wyraźny problem, na który odpowiada.
Hairer powiedział, że grupa obecnie zbiera opinie poprzez rozmowy z kolegami, publiczny formularz opinii oraz blog, na którym matematycy dyskutują o wpływie sztucznej inteligencji na dziedzinę.
Nadchodzące wyzwanie
Ocenia się, że największy test grupy jest jeszcze przed nią. OpenAI, ogłaszając grupę doradczą, poinformowało, że jej nowy, niepublikowany model "rozwiązał ponad 100 długo otwartych problemów w większości dziedzin matematyki". Firma wcześniej twierdziła, że zbliżyła się do rozwiązania innego problemu z nagrody Millennium Prize. Na stronie internetowej grupy napisano, że ten dorobek jest pierwszym priorytetem i że będzie doradzać, jak skoordynować publikację wielu ważnych wyników matematycznych, które według doniesień zostały wygenerowane przez wewnętrzny model OpenAI.
Nowa inicjatywa jest częściowo postrzegana jako uznanie kryzysu komunikacyjnego, którego doświadczyła firma. OpenAI było oskarżane o przywłaszczanie pracy badaczy, krytykowane za brak przypisania ludzkiej pracy, na której opierają się jego modele, oraz za pozyskiwanie danych od użytkowników swoich modeli. Te kontrowersje skłoniły wielu matematyków do kwestionowania, czy firma rozumie dziedzinę i środowisko, w które wkracza.
Kevin Buzzard, profesor matematyki w Imperial College London, zakwestionował, dlaczego OpenAI potrzebuje tak wybitnej struktury, aby zrozumieć żądania środowiska, skoro tak wiele napisano o tym, czego chcą matematycy. Buzzard powiedział: "Potrzebne było nie dowody trudnych twierdzeń, lecz lepsze zrozumienie naszej dziedziny", i dodał, że nie jest dla niego jasne, czy potrzebny jest komitet złożony z błyskotliwych ludzi, aby to podkreślić.
