OpenAI pēc komunikācijas krīzes matemātikā izveidoja neatkarīgu deviņu locekļu padomdevēju grupu, kas sniegs ieteikumus par attiecībām ar matemātikas pētniecību. Matemātiķi apšauba grupas neatkarību un ietekmi.
OpenAI pēc reputācijas krīzes, ko izraisīja tās sasniegtie rezultāti matemātikā, paziņojusi par neatkarīgas matemātiķu grupas izveidi, kas konsultēs uzņēmumu un citus mākslīgā intelekta uzņēmumus par attiecībām ar matemātikas pētniecību. Saskaņā ar uzņēmuma paziņojumu grupa sniegs ieteikumus par mijiedarbību ar matemātikas sabiedrību, tostarp par to, kā prezentēt un publicēt jaunus rezultātus.
Struktūra, kas nosaukta par Matemātikas un mākslīgā intelekta padomdevēju grupu (AGMAI), sastāv no deviņiem locekļiem. Tās locekļi nāk no tādām iestādēm kā Stenforda, Hārvarda, Oksfordas un Kembridžas universitātes, un viņu vidū ir vairāki Fīldsa medaļas ieguvēji un Makartura stipendiāti. Grupas mājvieta būs Ņūdžersijā esošais Augstāko pētījumu institūts (IAS), kas ir viens no pasaules prestižākajiem matemātikas pētniecības centriem un kur savulaik strādājuši tādi cilvēki kā Alberts Einšteins, Džons fon Neimans un Dž. Roberts Openheimers.
Saskaņā ar uzņēmuma paziņojumu grupa darbosies neatkarīgi; tā varēs sniegt ieteikumus arī jautājumos, kurus uzņēmums nav pieprasījis, publiski komentēt savu ietekmi uz matemātiku un publiskot savus ieteikumus. OpenAI norādīja, ka grupai tiks nodrošināta agrīna piekļuve uzņēmuma pētījumiem, lai tā varētu pildīt savus pienākumus. Tika norādīts, ka OpenAI nemaksās locekļiem un ka grupa varēs pēc saviem ieskatiem mainīt savu dalībnieku sastāvu. Uzņēmums norādīja: "Grupas vērtība ir atkarīga no tā, vai tās locekļi var izmantot savu spriestspēju un izaicināt mūsējo."
Grupas izveide un neatkarība
Neskatoties uz uzsvērto grupas neatkarību, joprojām nav skaidrs, cik efektīva tā būs un kāpēc tā tika izveidota. Simons Mačado, pētnieks Cīrihes ETH Šveicē, norādīja, ka process šķiet "noslēpumainības plīvurs", un apšaubīja, kā tika atlasīti deviņi locekļi. Grupas tīmekļa vietnē teikts, ka struktūra "izveidojās pēc tam, kad OpenAI vairākiem locekļiem ierosināja izveidot ārēju padomdevēju padomi", bet pēc sarunām ar uzņēmumu matemātiķi nolēma izveidot neatkarīgu grupu un uzaicināt citus. Nav paskaidrots, kuriem locekļiem OpenAI sākotnēji piegāja un kā tika atlasīti pārējie locekļi.
Grupas loceklis Martins Hairers savā emuārā atbildēja uz diskusijām par grupas izveides procesu, ko viņš raksturoja kā "nepareizu informācijas plūsmu". Hairers norādīja, ka mākslīgais intelekts jau rada dziļu ietekmi uz matemātikas pētniecību un izvirza daudzus jautājumus, piemēram, par pareizu ideju piedēvēšanu, prioritāti un cilvēku izpratni. Viņš argumentēja, ka sabiedrībai nav jēgas ignorēt mākslīgā intelekta laboratorijas.
Hairers atzina, ka grupa tika izveidota OpenAI pieejas rezultātā, bet uzsvēra, ka ne visus locekļus uzrunāja uzņēmums un ka izveidotā struktūra ir "patiešām neatkarīga no OpenAI un citām vadošajām mākslīgā intelekta laboratorijām". Viņš piebilda, ka locekļi nav parakstījuši vienošanos, kas ierobežotu viņu publiskos izteikumus, izņemot "acīmredzamas konfidencialitātes prasības", nesaņem materiālu atlīdzību un paļaujas uz IAS tehnisko atbalstu. Hairers norādīja, ka grupas mērķis ir pēc iespējas labāk pārstāvēt matemātikas sabiedrības intereses.
Sabiedrības bažas
Grupas nelielais sastāvs, ņemot vērā augsto specializāciju, kas nepieciešama darbam matemātikas robežjoslās, izvirza jautājumu, vai tai ir pietiekami plaša kompetence, lai izvērtētu visus tai nodotos jautājumus. Frančesko Furnjē-Fačo, matemātikas profesors, kurš pievienosies Heriota-Vata universitātei Skotijā, sacīja, ka par paneli ir "neizlēmīgs" un ka lielāka mijiedarbība ar matemātiķiem "varētu uzlabot visu". Tomēr viņš apšaubīja, vai grupa pilnībā atspoguļo sabiedrību, kuras darbu un iztiku ietekmē OpenAI gājieni matemātikas jomā, un raksturoja struktūru kā "ziloņkaula torni".
Mačado līdzīgi apšaubīja, vai grupas locekļi spēj pilnībā izprast plašākās matemātikas sabiedrības bažas par mākslīgo intelektu. Viņš norādīja, ka locekļi ir "izcili matemātiķi", bet nav pārliecināts, vai vēlētos, lai viņi pārstāvētu viņu politiskākos jautājumos. Mačado sacīja, ka realitāte, ar ko saskaras šāda statusa matemātiķi, ļoti atšķiras no vairuma matemātiķu realitātes.
Vai grupa spēs iegūt matemātiķu uzticību, noteiks tās efektivitāti OpenAI nesenās komunikācijas kļūdu atskaņu ierobežošanā. Hairers savā emuārā norādīja, ka būtu "ļoti naivi" ticēt, ka locekļi nepieļaus, ka mākslīgā intelekta laboratorijas sagroza teikto savām reklāmas vajadzībām. Tomēr Hairers argumentēja, ka būtu liekulīgi izvairīties no dialoga laikā, kad uzņēmums pieliek pūles. Viņš norādīja, ka grupa vēl nav izlēmusi, kādus ieteikumus sniegs, bet ir skaidra problēma, uz kuru tā atbild.
Hairers sacīja, ka grupa pašlaik apkopo viedokļus, izmantojot sarunas ar kolēģiem, publisku atsauksmju veidlapu un emuāru, kurā matemātiķi apspriež mākslīgā intelekta ietekmi uz nozari.
Gaidāmais izaicinājums
Tiek uzskatīts, ka grupai priekšā ir lielākais pārbaudījums. OpenAI, paziņojot par padomdevēju grupu, norādīja, ka tās nepublicētais jaunais modelis "atrisinājis vairāk nekā 100 ilgi atklātus problēmas lielākajā daļā matemātikas jomu". Uzņēmums iepriekš bija norādījis, ka ir tuvu vēl vienai Milleniuma balvas problēmai. Grupas tīmekļa vietnē teikts, ka šis uzkrājums ir pirmā prioritāte un ka tā konsultēs par to, kā koordinēt daudzu nozīmīgu matemātikas rezultātu publicēšanu, kas, kā ziņots, radīti ar OpenAI iekšējo modeli.
Jaunā iniciatīva daļēji tiek uzskatīta par uzņēmuma piedzīvotās komunikācijas krīzes atzīšanu. OpenAI tika apsūdzēts pētnieku darba piesavināšanā, un tam tika izteikta kritika par to, ka tas nenorāda uz cilvēku darbu, uz kura balstās tā modeļi, un ka tas iegūst datus no tiem, kas izmanto tā modeļus. Šīs diskusijas lika daudziem matemātiķiem apšaubīt, vai uzņēmums saprot nozari un sabiedrību, kurā tas iesaistās.
Kevins Bazards, matemātikas profesors Londonas Impērijas koledžā, pēc daudzajiem rakstiem par to, ko vēlas matemātiķi, apšaubīja, kāpēc OpenAI ir nepieciešama tik izcila struktūra, lai saprastu sabiedrības prasības. Bazards sacīja: "Nepieciešams nebija grūtu teorēmu pierādījumi, bet gan labāka mūsu jomas izpratne", un piebilda, ka viņam nav skaidrs, vai, lai uzsvērtu šo punktu, ir nepieciešama spožu cilvēku komiteja.
