Efter kommunikationskrisen inden for matematik har OpenAI oprettet en uafhængig rådgivningsgruppe med ni medlemmer, der skal rådgive om forholdet til matematisk forskning. Gruppens uafhængighed og indflydelse betvivles af matematikere.
OpenAI har efter omdømmekrisen forårsaget af sine resultater inden for matematik annonceret, at man opretter en uafhængig gruppe af matematikere, som skal rådgive virksomheden og andre AI-virksomheder om forholdet til matematisk forskning. Ifølge virksomhedens udmelding vil gruppen rådgive om, hvordan man interagerer med matematikmiljøet, herunder hvordan nye resultater præsenteres og offentliggøres.
Strukturen, der kaldes Mathematical and AI Advisory Group (AGMAI), består af ni medlemmer. Medlemmerne kommer fra institutioner som Stanford, Harvard, Oxford og Cambridge og tæller blandt andet flere Fields-medaljevindere og MacArthur-stipendiatmodtagere. Gruppen vil være hjemmehørende på Institute for Advanced Study (IAS) i New Jersey, et af verdens mest anerkendte matematiske forskningscentre, hvor personer som Albert Einstein, John von Neumann og J. Robert Oppenheimer tidligere har arbejdet.
Ifølge virksomhedens udmelding vil gruppen arbejde uafhængigt; den kan også rådgive om emner, som virksomheden ikke har anmodet om, udtale sig offentligt om sin indvirkning på matematikken og offentliggøre sine anbefalinger. OpenAI oplyste, at gruppen vil få tidlig adgang til virksomhedens forskning for at kunne udføre sit hverv. Det blev oplyst, at medlemmerne ikke vil modtage betaling fra OpenAI, og at gruppen efter eget skøn kan ændre sin medlemsstruktur. Virksomheden udtalte: "Gruppens værdi afhænger af, at dens medlemmer kan bruge deres egen dømmekraft og udfordre vores."
Gruppens sammensætning og uafhængighed
Til trods for understregningen af gruppens uafhængighed er det fortsat uklart, hvor effektiv den vil være, og hvorfor den blev oprettet. Simon Machado, forsker ved ETH Zürich i Schweiz, udtalte, at processen virker "hyllet i mystik", og stillede spørgsmålstegn ved, hvordan de ni medlemmer blev udvalgt. På gruppens hjemmeside står der, at strukturen "blev dannet, efter at OpenAI henvendte sig til nogle medlemmer med et forslag om at oprette et eksternt rådgivende udvalg", men at matematikerne efter drøftelser med virksomheden besluttede at oprette en uafhængig gruppe og invitere andre. Det er ikke oplyst, hvilke medlemmer OpenAI oprindeligt henvendte sig til, og hvordan de øvrige medlemmer blev udvalgt.
Gruppemedlemmet Martin Hairer svarede i et blogindlæg på diskussionerne om gruppens oprettelsesproces, som han betegnede som "fejlinformation". Hairer udtalte, at kunstig intelligens allerede har en dybtgående indvirkning på matematisk forskning og rejser mange spørgsmål såsom korrekt tilskrivning af ideer, prioritet og menneskers forståelse. Han argumenterede for, at det ikke ville give mening for miljøet at ignorere AI-laboratorier.
Hairer anerkendte, at gruppen blev oprettet som følge af OpenAIs henvendelse, men understregede, at ikke alle medlemmer blev kontaktet af virksomheden, og at den dannede struktur er "virkelig uafhængig af OpenAI og andre førende AI-laboratorier". Han tilføjede, at medlemmerne ikke har underskrevet nogen aftale, der begrænser deres offentlige udtalelser, bortset fra "oplagte fortrolighedskrav", ikke modtager økonomisk betaling og er afhængige af IAS for teknisk støtte. Hairer udtalte, at gruppens formål er at repræsentere matematikmiljøets interesser så godt som muligt.
Bekymringer i miljøet
Gruppens lille størrelse rejser spørgsmålet om, hvorvidt den har den nødvendige ekspertisebredde til at vurdere alle de emner, den modtager, i betragtning af den høje specialisering, der kræves for at arbejde i matematikkens grænseområder. Francesco Fournier-Facio, matematikprofessor ved Heriot-Watt University i Skotland, udtalte, at han er "i tvivl" om panelet, og at mere interaktion med matematikere "kan gøre alt bedre". Han satte dog spørgsmålstegn ved, om gruppen i tilstrækkelig grad afspejler det miljø, hvis arbejde og levebrød påvirkes af OpenAIs tiltag inden for matematik, og betegnede strukturen som et "elfenbenstårn".
Machado satte på samme måde spørgsmålstegn ved, om gruppemedlemmerne fuldt ud kan forstå det bredere matematikmiljøs bekymringer om kunstig intelligens. Han udtalte, at medlemmerne er "fremragende matematikere", men at han ikke er sikker på, om han ønsker, at de skal repræsentere ham i mere politiske spørgsmål. Machado sagde, at virkeligheden for matematikere i denne position er meget forskellig fra de fleste matematikeres.
Hvorvidt gruppen kan vinde matematikernes tillid, vil afgøre dens effektivitet med at begrænse genklangen af OpenAIs seneste kommunikationsfejl. Hairer udtalte i sit blogindlæg, at det ville være "meget naivt" at tro, at medlemmerne ikke vil opleve, at AI-laboratorier forvrænger det sagte til deres egne PR-formål. Hairer argumenterede dog for, at det ville være hykleri at undgå dialog i en periode, hvor virksomheden gør en indsats. Han oplyste, at gruppen endnu ikke har besluttet, hvilke anbefalinger den vil give, men at der er et klart problem, den responderer på.
Hairer sagde, at gruppen i øjeblikket indsamler synspunkter gennem samtaler med kolleger, en offentlig feedbackformular og en blog, hvor matematikere diskuterer AI's indvirkning på feltet.
Den kommende udfordring
Det vurderes, at gruppen står over for sin største prøve. I forbindelse med annonceringen af rådgivningsgruppen oplyste OpenAI, at dens nye uudgivne model "har løst over 100 længe åbne problemer inden for de fleste områder af matematik". Virksomheden havde tidligere oplyst, at den nærmede sig et andet Millennium Prize-problem. På gruppens hjemmeside står der, at denne ophobning er den første prioritet, og at der vil blive rådgivet om, hvordan offentliggørelsen af en lang række vigtige matematiske resultater, som angiveligt er produceret af OpenAIs interne model, kan koordineres.
Det nye initiativ ses delvist som en anerkendelse af den kommunikationskrise, virksomheden har oplevet. OpenAI er blevet beskyldt for at tilegne sig forskeres arbejde og har mødt kritik for ikke at anerkende den menneskelige arbejdskraft, som dens modeller bygger på, og for at indsamle data fra brugere af dens egne modeller. Disse diskussioner har ført til, at mange matematikere sætter spørgsmålstegn ved, hvorvidt virksomheden forstår det felt og miljø, den har kastet sig over.
Kevin Buzzard, matematikprofessor ved Imperial College London, satte spørgsmålstegn ved, hvorfor OpenAI har brug for en så fremtrædende struktur for at forstå miljøets krav, efter at der er skrevet meget om, hvad matematikere ønsker. Buzzard sagde: "Det, der var brug for, var ikke beviser for svære teoremer, men en bedre forståelse af vores fag", og tilføjede, at det ikke står klart for ham, om der er behov for et udvalg af strålende hjerner for at understrege dette punkt.
