OpenAI perusti matematiikan mainekriisin jälkeen yhdeksänjäsenisen riippumattoman neuvoa-antavan ryhmän (AGMAI) neuvomaan suhteista matematiikan tutkimukseen. Ryhmän riippumattomuutta ja vaikutusvaltaa kyseenalaistavat matemaatikot.
OpenAI ilmoitti perustaneensa riippumattoman matemaatikkojen ryhmän, joka neuvoo yhtiötä ja muita tekoäly-yhtiöitä matematiikan tutkimuksen suhteissa sen jälkeen, kun yhtiön matematiikassa saavuttamat tulokset aiheuttivat mainekriisin. Yhtiön tiedotteen mukaan ryhmä antaa suosituksia muun muassa siitä, miten uudet tulokset esitellään ja julkaistaan, sekä vuorovaikutuksesta matematiikan yhteisön kanssa.
Matematiikan ja tekoälyn neuvoa-antava ryhmä (AGMAI) koostuu yhdeksästä jäsenestä. Jäsenet tulevat Stanfordin, Harvardin, Oxfordin ja Cambridgen kaltaisista laitoksista, ja heidän joukossaan on useita Fields-mitalisteja ja MacArthur-stipendinsaajia. Ryhmää isännöi New Jerseyssä sijaitseva Institute for Advanced Study (IAS), yksi maailman arvostetuimmista matematiikan tutkimuskeskuksista, jossa ovat aikoinaan työskennelleet muun muassa Albert Einstein, John von Neumann ja J. Robert Oppenheimer.
Yhtiön tiedotteen mukaan ryhmä toimii itsenäisesti; se voi antaa suosituksia myös asioissa, joita yhtiö ei ole pyytänyt, kommentoida julkisesti matematiikkaan kohdistuvia vaikutuksiaan ja julkistaa suosituksensa. OpenAI ilmoitti, että ryhmälle annetaan varhainen pääsy yhtiön tutkimuksiin, jotta se voi hoitaa tehtävänsä. Jäsenille ei makseta OpenAI:n toimesta, ja ryhmä voi muuttaa jäsenrakennettaan oman harkintansa mukaan. Yhtiö arvioi: "Ryhmän arvo riippuu siitä, että sen jäsenet voivat käyttää omaa harkintaansa ja haastaa meidän."
Ryhmän muodostuminen ja riippumattomuus
Huolimatta korostuksesta ryhmän riippumattomuuteen, on epäselvää, kuinka tehokas siitä tulee ja miksi se perustettiin. Sveitsiläisen ETH Zürichin tutkija Simon Machado totesi prosessin vaikuttavan "salaperäisyyden peitossa olevalta" ja kyseenalaisti, miten yhdeksän jäsentä valittiin. Ryhmän verkkosivustolla todetaan, että rakenne "syntyi sen jälkeen, kun OpenAI lähestyi joitakin jäseniä ehdotuksella ulkopuolisen neuvoa-antavan lautakunnan perustamisesta", mutta keskustelujen jälkeen yhtiön kanssa matemaatikot päättivät perustaa itsenäisen ryhmän ja kutsua muita mukaan. Ei ole selvitetty, keihin jäseniin OpenAI alun perin otti yhteyttä ja miten loput jäsenet valittiin.
Ryhmän jäsen Martin Hairer vastasi blogikirjoituksessaan keskusteluihin, joita hän kuvaili "vääräksi tiedonkulutukseksi" ryhmän perustamisprosessista. Hairer totesi, että tekoäly on jo nyt vaikuttanut syvästi matematiikan tutkimukseen ja nostanut esiin monia kysymyksiä, kuten ideoiden oikean kohdistamisen, prioriteetin ja ihmisten ymmärryksen. Hän väitti, ettei yhteisön olisi mielekästä sivuuttaa tekoälylaboratorioita.
Hairer myönsi, että ryhmä perustettiin OpenAI:n lähestymisen seurauksena, mutta korosti, ettei yhtiö ollut yhteydessä kaikkiin jäseniin ja että syntynyt rakenne on "todella riippumaton OpenAI:sta ja muista johtavista tekoälylaboratorioista". Hän lisäsi, etteivät jäsenet ole allekirjoittaneet sopimusta, joka rajoittaisi heidän julkisia lausuntojaan "ilmeisten salassapitovaatimusten" lisäksi, etteivät he saa rahallista korvausta ja että he tukeutuvat IAS:ään teknisen tuen osalta. Hairerin mukaan ryhmän tavoitteena on edustaa matematiikan yhteisön etuja mahdollisimman hyvin.
Yhteisön huolenaiheet
Ryhmän pieni koko herättää kysymyksen siitä, onko sillä riittävän laajaa asiantuntemusta arvioida kaikkia sille tulevia aiheita, kun otetaan huomioon matematiikan raja-alueilla työskentelyyn tarvittava korkea erityisosaaminen. Skotlannissa Heriot-Wattin yliopistoon siirtyvä matematiikan professori Francesco Fournier-Facio sanoi olevansa "epävarma" paneelista ja että lisääntynyt vuorovaikutus matemaatikkojen kanssa "voisi parantaa kaikkea". Hän kuitenkin kyseenalaisti, edustaako ryhmä täysin yhteisöä, jonka työhön ja toimeentuloon OpenAI:n matematiikan alan toimet vaikuttavat, ja kuvaili rakennetta "norsunluutorniksi".
Myös Machado kyseenalaisti samalla tavoin, voivatko ryhmän jäsenet ymmärtää täysin laajemman matematiikan yhteisön huolia tekoälystä. Hän totesi jäsenten olevan "loistavia matemaatikkoja", mutta ettei ollut varma, haluaisiko hän heidän edustavan itseään poliittisemmissa kysymyksissä. Machadon mukaan tässä asemassa olevien matemaatikkojen kohtaama todellisuus on hyvin erilainen kuin useimpien matemaatikkojen.
Se, pystyykö ryhmä voittamaan matemaatikkojen luottamuksen, määrittää sen tehokkuuden rajoitettaessa OpenAI:n viimeaikaisten viestintävirheiden kaikuja. Hairer totesi blogikirjoituksessaan, että olisi "hyvin naiivia" uskoa, etteivät tekoälylaboratoriot vääristäisi sanottua omiin promootiotarkoituksiinsa sopivaksi. Toisaalta Hairer väitti, että dialogin välttäminen aikana, jolloin yhtiö pyrkii, olisi tekopyhyyttä. Hän totesi, ettei ryhmä ole vielä päättänyt, mitä suosituksia se antaa, mutta että sillä on selkeä ongelma, johon se vastaa.
Hairer kertoi, että ryhmä kerää tällä hetkellä näkemyksiä kollegoiden kanssa käytävien keskustelujen, julkisen palautelomakkeen ja blogin kautta, jossa matemaatikot voivat keskustella tekoälyn vaikutuksesta alaan.
Edessä oleva haaste
Ryhmän suurimman testin arvioidaan olevan edessä. OpenAI ilmoitti neuvoa-antavaa ryhmää julkistaessaan, että sen julkaisematon uusi malli "ratkaisi yli 100 pitkään avoinna ollutta ongelmaa useilla matematiikan aloilla". Yhtiö oli aiemmin ilmoittanut lähestyneensä toista Millennium-palkinto-ongelmaa. Ryhmän verkkosivustolla todetaan, että tämä kertymä on ensisijainen prioriteetti ja että OpenAI:tä neuvotaan siitä, miten koordinoidaan lukuisten merkittävien matemaattisten tulosten julkaiseminen, joiden väitetään olevan sen sisäisen mallin tuottamia.
Uusi aloite nähdään osittain yhtiön kokeman viestintäkriisin hyväksymisenä. OpenAIta on syytetty tutkijoiden työn anastamisesta, ja sitä on kritisoitu siitä, ettei se viittaa malliensa taustalla olevaan ihmistyöhön ja että se kerää dataa omia mallejaan käyttäviltä. Nämä keskustelut ovat saaneet monet matemaatikot kyseenalaistamaan, ymmärtääkö yhtiö alaa ja yhteisöä, johon se on tunkeutunut.
Imperial College Londonin matematiikan professori Kevin Buzzard kyseenalaisti, miksi OpenAI tarvitsi näin arvostetun rakenteen ymmärtääkseen yhteisön vaatimuksia, kun matemaatikkojen toiveista oli kirjoitettu paljon. Buzzard sanoi: "Tarvittiin ei vaikeiden teoreemojen todistuksia, vaan parempaa ymmärrystä aiheestamme", ja lisäsi, ettei hänelle ollut selvää, tarvitaanko tämän asian korostamiseen komiteaa, joka koostuu loistavista ihmisistä.
