OpenAI asutas pärast matemaatika mainekriisi üheksaliikmelise sõltumatu nõuandegrupi, mis annab nõu suhetes matemaatikaalase teadustööga. Matemaatikud seavad kahtluse alla grupi sõltumatuse ja mõju.
OpenAI teatas pärast mainekriisi, mille põhjustasid selle tulemused matemaatikas, sõltumatu matemaatikute grupi loomisest, mis nõustab ettevõtet ja teisi tehisintellekti ettevõtteid suhetes matemaatikaalase teadustööga. Ettevõtte avalduse kohaselt annab grupp soovitusi matemaatikakogukonnaga suhtlemise kohta, sealhulgas selle kohta, kuidas uusi tulemusi esitleda ja avaldada.
Matemaatika ja Tehisintellekti Nõuandegrupp (AGMAI) koosneb üheksast liikmest. Liikmed pärinevad sellistest asutustest nagu Stanford, Harvard, Oxford ja Cambridge ning nende hulgas on mitme Fieldsi medali ja MacArthuri stipendiumi saajaid. Gruppi hakkab võõrustama New Jerseys asuv Institute for Advanced Study (IAS), mis on üks maailma mainekamaid matemaatika uurimiskeskusi ja kus on varem töötanud sellised nimed nagu Albert Einstein, John von Neumann ja J. Robert Oppenheimer.
Ettevõtte avalduse kohaselt tegutseb grupp sõltumatult; see võib anda nõu ka küsimustes, mida ettevõte ei ole taotlenud, avaldada avalikult arvamust matemaatika mõju kohta ja teha oma soovitused avalikuks. OpenAI märkis, et grupi ülesande täitmiseks antakse sellele varajane juurdepääs ettevõtte uurimistööle. Liikmetele ei maksa OpenAI tasu ning grupp võib oma äranägemise järgi muuta oma liikmeskonda. Ettevõte märkis: "Grupi väärtus sõltub sellest, kas selle liikmed saavad kasutada omaenda mõtlemist ja meie omale vastu vaielda."
Grupi moodustamine ja sõltumatus
Vaatamata rõhuasetusele grupi sõltumatusele, on ebaselge, kui tõhus see on ja miks see loodi. Simon Machado, Šveitsis ETH Zürichis tegutsev teadlane, märkis, et protsess näib olevat "saladusega kaetud", ja seadis kahtluse alla, kuidas üheksa liiget valiti. Grupi veebisaidil on öeldud, et struktuur "tuli kokku pärast seda, kui OpenAI pöördus mõnede liikmete poole ettepanekuga luua väline nõuandev kogu", kuid pärast ettevõttega peetud vestlusi otsustasid matemaatikud luua sõltumatu grupi ja kutsuda teisi. Ei ole avaldatud, millistele liikmetele OpenAI algselt lähenes ja kuidas ülejäänud liikmed valiti.
Grupi liige Martin Hairer vastas oma blogipostituses aruteludele, mida ta nimetas grupile loomise protsessi kohta "valeinfo voogamiseks". Hairer märkis, et tehisintellekt on juba avaldanud sügavat mõju matemaatikaalasele teadustööle ning tõstatab palju küsimusi, nagu ideede õige omistamine, prioriteet ja inimeste arusaamine. Ta väitis, et kogukonnal ei oleks mõttekas tehisintellekti laboratooriume eirata.
Hairer tunnistas, et grupp loodi OpenAI lähenemisviisi tulemusena, kuid rõhutas, et kõiki liikmeid ei ole ettevõte ise värvanud ning loodud struktuur on "tõeliselt sõltumatu OpenAI-st ja teistest tehisintellekti tipplaboritest". Ta lisas, et liikmed ei ole allkirjastanud lepingut, mis piiraks nende avalikke avaldusi, välja arvatud "ilmsed konfidentsiaalsusnõuded", ei saa rahalist tasu ja toetuvad tehnilisele toele IAS-ilt. Hairer märkis, et grupi eesmärk on esindada matemaatikakogukonna huve võimalikult hästi.
Kogukonna mured
Grupi väike suurus tõstatab küsimuse, kas sellel on piisavalt laiaulatuslikku asjatundlikkust, et hinnata kõiki talle esitatud teemasid, arvestades matemaatika piirialadel töötamiseks vajalikku suurt spetsialiseerumist. Francesco Fournier-Facio, matemaatikaprofessor, kes liitub Šotimaal asuva Heriot-Watti Ülikooliga, ütles, et on paneeli suhtes "kõhklev", ning et suurem suhtlus matemaatikutega "võiks kõik paremaks muuta". Siiski seadis ta kahtluse alla, kas grupp esindab täielikult kogukonda, kelle tööd ja elatusallikaid mõjutavad OpenAI sammud matemaatikas, ja nimetas struktuuri "elevandiluutorniks".
Machado seadis samuti kahtluse alla, kas grupiliikmed suudavad täielikult mõista laiema matemaatikakogukonna muresid tehisintellekti küsimuses. Ta märkis, et liikmed on "suurepärased matemaatikud", kuid ta ei ole kindel, kas ta soovib, et nad esindaksid teda poliitilisemates küsimustes. Machado ütles, et sellises positsioonis olevate matemaatikute tegelikkus erineb suuresti enamiku matemaatikute omast.
See, kas grupp suudab võita matemaatikute usalduse, määrab selle tõhususe OpenAI hiljutiste suhtlusvigade mõju piiramisel. Hairer märkis oma blogipostituses, et oleks "väga naiivne" uskuda, et liikmed ei moonuta tehisintellekti laborite öeldut oma reklaamieesmärkidel. See-eest väitis Hairer, et dialoogist hoidumine ajal, mil ettevõte pingutab, oleks silmakirjalik. Ta märkis, et grupp ei ole veel otsustanud, milliseid soovitusi anda, kuid on selge probleem, millele see vastab.
Hairer ütles, et grupp kogub praegu arvamusi vestluste kaudu kolleegidega, avaliku tagasisidevormi ja blogi kaudu, kus matemaatikud arutavad tehisintellekti mõju valdkonnale.
Eesootav väljakutse
Hinnatakse, et grupi suurim proovikivi on alles ees. OpenAI teatas nõuandegrupi loomisest, teatades, et selle avaldamata uus mudel "lahendas enam kui 100 kaua lahtiolevat probleemi paljudes matemaatika valdkondades". Ettevõte oli varem märkinud, et lähenes veel ühele Millenniumi auhinna probleemile. Grupi veebisaidil on öeldud, et see kogemus on esmatähtis ning et grupp nõustab, kuidas koordineerida mitmete oluliste matemaatiliste tulemuste avaldamist, mille kohta teatati, et need on toodetud OpenAI sisemudeli poolt.
Uut algatust peetakse osaliselt ettevõtte suhtluskriisi tunnistamiseks. OpenAId on süüdistatud teadlaste töö omastamises, kriitikat on saanud see, et ettevõte ei viita inimtööle, millel selle mudelid põhinevad, ja et see kogub andmeid oma mudeleid kasutavatelt inimestelt. Need arutelud on viinud paljud matemaatikud kahtlema, kas ettevõte mõistab valdkonda ja kogukonda, millesse see on tunginud.
Kevin Buzzard, matemaatikaprofessor Imperial College Londonis, seadis kahtluse alla, miks OpenAI vajas nii silmapaistvat struktuuri, et mõista kogukonna nõudmisi, pärast seda, kui oli palju kirjutatud sellest, mida matemaatikud soovivad. Buzzard ütles: "Vaja oli mitte raskete teoreemide tõestusi, vaid meie valdkonna paremat mõistmist," ja lisas, et talle ei ole selge, kas selle punkti rõhutamiseks on vaja säravatest inimestest koosnevat komiteed.
