OpenAI, matematik alanındaki iletişim krizinin ardından, matematik araştırmalarıyla ilişkiler konusunda tavsiye verecek dokuz üyeli bağımsız bir danışma grubu kurdu. Grubun bağımsızlığı ve etkisi, matematikçiler tarafından sorgulanıyor.
OpenAI, matematik alanında elde ettiği sonuçların yol açtığı itibar krizinin ardından, matematik araştırmalarıyla ilişkileri konusunda şirkete ve diğer yapay zeka şirketlerine danışmanlık yapacak bağımsız bir matematikçi grubu kurduğunu duyurdu. Şirketin açıklamasına göre grup, yeni sonuçların nasıl sunulacağı ve yayımlanacağı da dahil olmak üzere matematik camiasıyla etkileşim konusunda tavsiyelerde bulunacak.
Matematik ve Yapay Zeka Danışma Grubu (AGMAI) adı verilen yapı, dokuz üyeden oluşuyor. Üyeler Stanford, Harvard, Oxford ve Cambridge gibi kurumlardan gelen, aralarında birden fazla Fields Madalyası ve MacArthur bursu bulunan isimlerden oluşuyor. Gruba, dünyanın en saygın matematik araştırma merkezlerinden biri olan ve Albert Einstein, John von Neumann ile J. Robert Oppenheimer gibi isimlerin bir dönem çalıştığı New Jersey'deki İleri Araştırmalar Enstitüsü (IAS) ev sahipliği yapacak.
Şirketin açıklamasına göre grup bağımsız çalışacak; şirketin talep etmediği konularda da tavsiye verebilecek, matematiğe etkisi hakkında kamuoyu önünde yorum yapabilecek ve tavsiyelerini kamuya açıklayabilecek. OpenAI, grubun görevini yerine getirebilmesi için şirketin araştırmalarına erken erişim sağlanacağını belirtti. Üyelere OpenAI tarafından ödeme yapılmayacağı ve grubun üyelik yapısını kendi takdirine göre değiştirebileceği ifade edildi. Şirket, "Grubun değeri, üyelerinin kendi muhakemelerini kullanabilmesine ve bizimkine meydan okuyabilmesine bağlı" değerlendirmesinde bulundu.
Grubun oluşumu ve bağımsızlığı
Grubun bağımsızlığına yapılan vurguya rağmen, ne kadar etkili olacağı ve neden kurulduğu belirsizliğini koruyor. İsviçre'deki ETH Zürih'te araştırmacı olan Simon Machado, sürecin "gizemle örtülü" göründüğünü belirterek dokuz üyenin nasıl seçildiğini sorguladı. Grubun internet sitesinde, yapının "OpenAI'nin bazı üyelere harici bir danışma kurulu oluşturma önerisiyle yaklaşmasının ardından bir araya geldiği", ancak şirketle yapılan görüşmelerin ardından matematikçilerin bağımsız bir grup kurmaya ve başkalarını davet etmeye karar verdiği ifade ediliyor. OpenAI'nin başlangıçta hangi üyelere yaklaştığı ve kalan üyelerin nasıl seçildiği açıklanmadı.
Grup üyesi Martin Hairer, yayımladığı bir blog yazısında grubun kuruluş sürecine ilişkin "yanlış bilgi akışı" olarak nitelendirdiği tartışmalara yanıt verdi. Hairer, yapay zekanın matematik araştırmaları üzerinde şimdiden derin bir etki yarattığını ve fikirlerin doğru atfedilmesi, öncelik ve insanların kavrayışı gibi pek çok soruyu gündeme getirdiğini belirtti. Camianın yapay zeka laboratuvarlarını görmezden gelmesinin anlamlı olmayacağını savundu.
Hairer, grubun OpenAI'nin yaklaşımı sonucunda kurulduğunu kabul etmekle birlikte üyelerin tamamının şirket tarafından aranmadığını ve oluşan yapının "OpenAI'den ve diğer öncü yapay zeka laboratuvarlarından gerçekten bağımsız" olduğunu vurguladı. Üyelerin "bariz gizlilik gereklilikleri" dışında kamuya açıklamalarını kısıtlayan bir anlaşma imzalamadığını, maddi ödeme almadığını ve teknik destek için IAS'a dayandığını ekledi. Hairer, grubun amacının matematik camiasının çıkarlarını mümkün olduğunca iyi temsil etmek olduğunu belirtti.
Camianın endişeleri
Grubun küçük yapısı, matematiğin sınırlarında çalışmak için gereken yüksek uzmanlık göz önüne alındığında, kendisine gelen tüm konuları değerlendirecek uzmanlık genişliğine sahip olup olmadığı sorusunu gündeme getiriyor. İskoçya'daki Heriot-Watt Üniversitesi'ne katılacak matematik profesörü Francesco Fournier-Facio, panel hakkında "kararsız" olduğunu, matematikçilerle daha fazla etkileşimin "her şeyi daha iyi hale getirebileceğini" söyledi. Ancak grubun, çalışmaları ve geçim kaynakları OpenAI'nin matematik alanındaki hamlelerinden etkilenen camiayı tam olarak yansıtıp yansıtmadığını sorguladı ve yapıyı "fildişi kule" olarak nitelendirdi.
Machado da benzer şekilde grup üyelerinin yapay zeka konusunda daha geniş matematik camiasının endişelerini tam olarak anlayıp anlayamayacağını sorguladı. Üyelerin "muhteşem matematikçiler" olduğunu ancak kendisini daha politik konularda temsil etmelerini isteyip istemediğinden emin olmadığını belirtti. Machado, bu konumdaki matematikçilerin karşılaştığı gerçekliğin çoğu matematikçininkiyle çok farklı olduğunu söyledi.
Grubun matematikçilerin güvenini kazanıp kazanamaması, OpenAI'nin son dönemdeki iletişim hatalarının yankılarını sınırlamadaki etkinliğini belirleyecek. Hairer, blog yazısında üyelerin yapay zeka laboratuvarlarının söylenenleri kendi tanıtım amaçlarına uygun şekilde çarpıtmayacağına inanmanın "çok naif" olacağını ifade etti. Buna karşın Hairer, şirketin çaba gösterdiği bir dönemde diyalogdan kaçınmanın ikiyüzlülük olacağını savundu. Grubun henüz hangi tavsiyeleri vereceğine karar vermediğini, ancak yanıt verdiği net bir sorun bulunduğunu belirtti.
Hairer, grubun şu anda meslektaşlarla yapılan görüşmeler, halka açık bir geri bildirim formu ve matematikçilerin yapay zekanın alana etkisini tartıştığı bir blog aracılığıyla görüş topladığını söyledi.
Önümüzdeki zorluk
Grubun en büyük sınavının önünde olduğu değerlendiriliyor. OpenAI, danışma grubunu duyururken yayımlanmamış yeni modelinin "matematiğin çoğu alanında 100'den fazla uzun süredir açık olan problemi çözdüğünü" açıkladı. Şirket daha önce bir başka Millennium Ödülü problemine yaklaştığını belirtmişti. Grubun internet sitesinde bu birikimin ilk öncelik olduğu, OpenAI'ye iç modeli tarafından üretildiği bildirilen çok sayıda önemli matematik sonucunun yayımlanmasının nasıl koordine edileceği konusunda danışmanlık yapılacağı ifade edildi.
Yeni girişim, kısmen şirketin yaşadığı iletişim krizinin bir kabulü olarak görülüyor. OpenAI, araştırmacıların çalışmalarını gasp etmekle suçlanmış, modellerinin dayandığı insan emeğine atıf yapmadığı ve kendi modellerini kullananlardan veri aldığı yönünde eleştirilerle karşılaşmıştı. Bu tartışmalar, birçok matematikçinin şirketin daldığı alanı ve camiayı anlayıp anlamadığını sorgulamasına yol açtı.
Imperial College London'da matematik profesörü olan Kevin Buzzard, matematikçilerin ne istediğine dair çok şey yazılmasının ardından OpenAI'nin camianın taleplerini anlamak için neden bu kadar seçkin bir yapıya ihtiyaç duyduğunu sorguladı. Buzzard, "Gereken şey zor teoremlerin ispatları değil, konumuzun daha iyi anlaşılmasıydı" dedi ve bu noktayı vurgulamak için parlak insanlardan oluşan bir komiteye ihtiyaç olup olmadığının kendisi için net olmadığını ekledi.
