„OpenAI“ po matematikos srities komunikacijos krizės įsteigė devynių narių nepriklausomą patariamąją grupę, kuri teiks patarimus dėl santykių su matematikos tyrimais. Matematikai kvestionuoja grupės nepriklausomybę ir poveikį.
„OpenAI“ po reputacijos krizės, kilusios dėl matematikos srityje pasiektų rezultatų, paskelbė įsteigusi nepriklausomą matematikų grupę, kuri konsultuos bendrovę ir kitas dirbtinio intelekto bendroves dėl santykių su matematikos tyrimais. Pasak bendrovės pranešimo, grupė teiks patarimus dėl bendravimo su matematikos bendruomene, įskaitant tai, kaip pateikti ir skelbti naujus rezultatus.
Matematikos ir dirbtinio intelekto patariamoji grupė (AGMAI) susideda iš devynių narių. Jos nariai yra iš tokių institucijų kaip Stanfordo, Harvardo, Oksfordo ir Kembridžo universitetai, tarp jų yra kelių Fields medalių ir MacArthur stipendijų laureatų. Grupė bus įsikūrusi viename iš prestižiškiausių pasaulio matematikos tyrimų centrų – Pažangiosios studijos institute (IAS) Naujajame Džersyje, kuriame kadaise dirbo tokie asmenys kaip Albertas Einšteinas, Johnas von Neumannas ir J. Robertas Oppenheimeris.
Pasak bendrovės pranešimo, grupė dirbs nepriklausomai; ji galės teikti patarimus ir klausimais, kurių bendrovė neprašė, viešai komentuoti savo poveikį matematikai ir skelbti savo rekomendacijas viešai. „OpenAI“ nurodė, kad grupė turės ankstyvą prieigą prie bendrovės tyrimų, kad galėtų atlikti savo užduotį. Nurodyta, kad nariams „OpenAI“ nemokės, o grupė savo nuožiūra galės keisti narių sudėtį. Bendrovė teigė: „Grupės vertė priklauso nuo to, ar jos nariai gali naudotis savo nuosprendžiu ir mesti iššūkį mūsų nuosprendžiui.“
Grupės sudarymas ir nepriklausomybė
Nepaisant pabrėžiamo grupės nepriklausomumo, lieka neaišku, kiek ji bus veiksminga ir kodėl buvo įsteigta. Simonas Machado, ETH Ciuricho (Šveicarija) tyrėjas, teigė, kad procesas atrodo „apgaubtas paslapties“, ir kvestionavo, kaip buvo atrinkti devyni nariai. Grupės interneto svetainėje teigiama, kad struktūra „susibūrė po to, kai „OpenAI“ kreipėsi į kai kuriuos narius su pasiūlymu sukurti išorinę patariamąją tarybą“, tačiau po pokalbių su bendrove matematikai nusprendė įsteigti nepriklausomą grupę ir pakviesti kitus. Nėra paaiškinta, į kuriuos narius „OpenAI“ iš pradžių kreipėsi ir kaip buvo atrinkti likę nariai.
Grupės narė Martin Hairer savo tinklaraščio įraše atsakė į diskusijas, kurias pavadino „klaidingos informacijos srautu“ apie grupės kūrimo procesą. Hairer teigė, kad dirbtinis intelektas jau daro didelį poveikį matematikos tyrimams ir kelia daug klausimų, susijusių su tinkamu idėjų priskyrimu, prioritetu ir žmonių supratimu. Jis tvirtino, kad bendruomenei būtų beprasmiška ignoruoti dirbtinio intelekto laboratorijas.
Hairer pripažino, kad grupė buvo įsteigta dėl „OpenAI“ požiūrio, tačiau pabrėžė, kad ne visus narius pasiekė bendrovė ir kad susidariusi struktūra yra „tikrai nepriklausoma nuo „OpenAI“ ir kitų pirmaujančių dirbtinio intelekto laboratorijų“. Jis pridūrė, kad nariai nepasirašė jokios sutarties, ribojančios jų viešus pareiškimus, išskyrus „akivaizdžius konfidencialumo reikalavimus“, negauna finansinio atlygio ir remiasi IAS technine parama. Hairer teigė, kad grupės tikslas yra kuo geriau atstovauti matematikos bendruomenės interesams.
Bendruomenės susirūpinimas
Maža grupės struktūra kelia klausimą, ar ji turi pakankamai ekspertinių žinių, kad galėtų įvertinti visus jai pateiktus klausimus, atsižvelgiant į aukštą specializaciją, reikalingą dirbti matematikos srityse. Francesco Fournier-Facio, matematikos profesorius, prisijungsiantis prie Heriot-Watt universiteto Škotijoje, sakė esąs „neapsisprendęs“ dėl šios grupės, ir kad didesnė sąveika su matematikais „galėtų viską pagerinti“. Tačiau jis kvestionavo, ar grupė tikrai atspindi bendruomenę, kurios darbą ir pragyvenimą paveikė „OpenAI“ veiksmai matematikos srityje, ir pavadino struktūrą „dramblio kaulo bokštu“.
Machado taip pat kvestionavo, ar grupės nariai gali visiškai suprasti platesnės matematikos bendruomenės susirūpinimą dirbtiniu intelektu. Jis teigė, kad nariai yra „nuostabūs matematikai“, bet nėra tikras, ar norėtų, kad jie atstovautų jam politiškesniais klausimais. Machado sakė, kad realybė, su kuria susiduria šioje pozicijoje esantys matematikai, labai skiriasi nuo daugumos matematikų patirties.
Ar grupei pavyks įgyti matematikų pasitikėjimą, lems jos veiksmingumą ribojant „OpenAI“ neseniai padarytų komunikacijos klaidų atgarsius. Hairer savo tinklaraščio įraše teigė, kad būtų „labai naivu“ tikėtis, jog dirbtinio intelekto laboratorijos neiškreips to, kas pasakyta, savo reklamos tikslais. Vis dėlto Hairer tvirtino, kad vengti dialogo tuo metu, kai bendrovė deda pastangas, būtų veidmainiška. Jis nurodė, kad grupė dar nenusprendė, kokias rekomendacijas teiks, tačiau yra aiški problema, į kurią ji atsako.
Hairer sakė, kad grupė šiuo metu renka nuomones per pokalbius su kolegomis, viešą grįžtamojo ryšio formą ir tinklaraštį, kuriame matematikai diskutuoja apie dirbtinio intelekto poveikį sričiai.
Laukiamas iššūkis
Manoma, kad grupės laukia didžiausias išbandymas. „OpenAI“, skelbdama patariamąją grupę, pranešė, kad jos nepaskelbtas naujas modelis „išsprendė daugiau nei 100 ilgai atvirų problemų daugelyje matematikos sričių“. Bendrovė anksčiau buvo pareiškusi, kad priartėjo prie dar vienos Millennium premijos problemos. Grupės interneto svetainėje teigiama, kad šis sukauptas darbas yra pirmasis prioritetas, ir bus konsultuojamasi, kaip koordinuoti daugybės svarbių matematikos rezultatų, kuriuos, kaip pranešama, sukūrė „OpenAI“ vidinis modelis, paskelbimą.
Naujoji iniciatyva iš dalies vertinama kaip bendrovės patirtos komunikacijos krizės pripažinimas. „OpenAI“ buvo kaltinama pasisavinusi tyrėjų darbą, sulaukė kritikos, kad nenurodo žmogiškojo darbo, kuriuo remiasi jos modeliai, ir kad renka duomenis iš tų, kurie naudojasi jos modeliais. Šios diskusijos paskatino daugelį matematikų abejoti, ar bendrovė supranta sritį ir bendruomenę, į kurią ji įsitraukė.
Kevinas Buzzardas, matematikos profesorius Londono imperatoriškajame koledže, kvestionavo, kodėl „OpenAI“, po daugybės raštų apie tai, ko nori matematikai, prireikė tokios išskirtinės struktūros, kad suprastų bendruomenės reikalavimus. Buzzard sakė: „Reikėjo ne sudėtingų teoremų įrodymų, o geresnio mūsų srities supratimo“, ir pridūrė, kad jam nėra aišku, ar norint pabrėžti šį punktą reikia ryškių žmonių komiteto.
