Después de convertir una serie de sorprendentes resultados matemáticos en una crisis de reputación, OpenAI recurre a matemáticos humanos para que le ayuden a descubrir un camino menos desastroso a seguir.
Lunes de empresa Anunciar Un nuevo panel independiente de matemáticos está encargado de asesorarlo a ella y a otras empresas de inteligencia artificial sobre sus interacciones con la investigación matemática y la comunidad matemática en general, incluido cómo presentar y publicar nuevos resultados. Su repentina llegada sorprendió a muchos matemáticos. Los investigadores dijeron Borde El grupo es un buen primer paso, pero muchos dijeron que tienen preguntas fundamentales sobre qué hará realmente, cuánto impacto tendrá, si OpenAI realmente lo escuchará, así como preocupaciones sobre si este pequeño grupo de investigadores destacados puede representar a la comunidad deportiva en general.
El grupo de nueve miembros está lleno de personas con las que hablaron los investigadores. Borde Como celebridades en el campo, están afiliados a instituciones como Stanford, Harvard, Oxford y Cambridge, e incluyen numerosas medallas Fields y “becas genio” MacArthur. Será organizado en Princeton, el Instituto de Estudios Avanzados (IAS) de Nueva Jersey, uno de los centros de investigación matemática más respetados del mundo y antiguo hogar intelectual de figuras como Albert Einstein, John von Neumann y J. Robert Oppenheimer.
"La otra verdad fundamental es que nuestro objetivo general es representar los intereses de la comunidad deportiva lo más fielmente posible".
OpenAI dijo que el grupo, llamado Grupo Asesor para Matemáticas e Inteligencia Artificial (AGMAI), operará de forma independiente, con la libertad de brindar asesoramiento no solicitado por la empresa, comentar públicamente sobre su impacto en las matemáticas y hacer públicos sus consejos, aunque no proporcionó detalles sobre lo que eso podría implicar. Parece que el grupo tendrá acceso temprano a la investigación de OpenAI para poder cumplir su misión. OpenAI no pagará a los miembros y el grupo puede cambiar su membresía como mejor le parezca, dijo OpenAI. "Su valor depende de la capacidad de sus miembros para ejercer su propio criterio y desafiar el nuestro", dijo la empresa. "El grupo brindará asesoramiento sobre la revisión y comunicación de los hallazgos emergentes: ayudará a OpenAI a evaluar su importancia, asesorará sobre cómo coordinar su difusión y asesorará sobre los estándares académicos y profesionales para la investigación matemática. También brindará asesoramiento sobre cómo nuestras herramientas pueden apoyar la investigación y el aprendizaje matemático".
A pesar de toda la atención puesta en la independencia, aún no está claro cuánta influencia tendrá realmente el grupo o por qué se formó en primer lugar. Simon Machado, investigador de ETH Zurich en Suiza, dijo que todo el asunto parecía "envuelto en un misterio" y se preguntó cómo se eligieron los nueve miembros. Grupo Sitio básico "Se formó después de que OpenAI se acercara a algunos de sus miembros para crear un consejo asesor externo", dice, pero después de conversaciones con la compañía, los matemáticos decidieron lanzar un grupo independiente e invitar a otros a unirse. No está claro con qué miembros contactó OpenAI inicialmente o cómo se seleccionaron los miembros restantes.
en un Publicación de blog En una publicación publicada el martes, el miembro del grupo asesor Martin Herer explicó los orígenes del grupo y el pensamiento detrás de él, en respuesta a lo que llamó la "avalancha de desinformación" que rodeó su formación. "Está claro que la IA ya ha tenido un profundo impacto en la investigación matemática y plantea muchas preguntas sobre la atribución correcta de ideas, la prioridad, la comprensión humana de las ideas, etc.", escribió, añadiendo que no tenía sentido que la comunidad "adoptara el enfoque estricto de 'avestruz' de ignorar los laboratorios de IA y negarse a hablar con ellos por principio".
Si bien reconoció que el grupo se formó en respuesta a un enfoque de OpenAI, Herer enfatizó que la compañía no se había puesto en contacto con todos sus miembros y que la organización resultante es "verdaderamente independiente de OpenAI y de cualquier otro laboratorio de IA 'fronterizo'". Más allá de los “obvios requisitos de confidencialidad”, dijo que los miembros no han firmado ningún acuerdo restrictivo que rija lo que pueden decir públicamente, y agregó que no reciben ninguna compensación financiera y dependen del soporte técnico de IAS.
"Otro hecho fundamental es que nuestro objetivo general es representar los intereses de la comunidad matemática lo más fielmente posible", escribió Herer, profesor de matemáticas en el Imperial College de Londres y en el Instituto Federal Suizo de Tecnología en Lausana (EPFL). Si bien señaló que el grupo no es una muestra representativa de la comunidad, dijo que está "muy seguro de que los nueve estamos tomando esto en serio y actuando de buena fe".
Independientemente de cómo se seleccionen los miembros, el grupo incluye actualmente un cuadro de élite de matemáticos académicos. El tamaño pequeño plantea más dudas sobre si el grupo tiene la experiencia necesaria para evaluar todo lo que se le presente, dadas las habilidades y conocimientos altamente especializados necesarios para trabajar en las fronteras de las matemáticas.
Francesco Fournier-Fassio, un nuevo profesor de matemáticas en la Universidad Heriot-Watt en Escocia, se describió a sí mismo como en gran medida “ambivalente” acerca del comité, diciendo que un mayor compromiso con los matemáticos “sólo puede mejorar las cosas”. Pero cuestionó si este grupo refleja plenamente la comunidad cuyos negocios y medios de vida se han visto trastornados por la búsqueda de trofeos deportivos por parte de OpenAI. "Se siente como una torre de marfil", dijo. Borde.
Machado también cuestionó si los miembros del grupo comprenden completamente o pueden hablar con las preocupaciones de la comunidad deportiva en general cuando se trata de inteligencia artificial. “Son grandes matemáticos, pero no sé si son las personas que quiero que me representen en asuntos más políticos”, afirmó. En cuanto a los matemáticos en su posición y elitismo similar, Machado dijo: “Creo que la realidad que enfrentan es muy diferente de la realidad que enfrentan la mayoría de los matemáticos ahora”.
La capacidad del grupo para ganarse la confianza de los matemáticos determinará en última instancia qué tan efectivo será para contener las consecuencias de la reciente serie de errores de OpenAI al anunciar los resultados y, lo que es más importante, suavizar el golpe a lo que la compañía planee anunciar a continuación. En su blog, Herer dijo que los miembros “sería extremadamente ingenuo pensar que los laboratorios de IA no intentarían adaptar todo lo que decimos para que se ajuste a su máquina de relaciones públicas, lo que eclipsa cualquier cosa que se nos ocurra”.
Sin embargo, Herer dijo que sería hipócrita no participar ahora que OpenAI parece estar haciendo un esfuerzo, especialmente después de que muchos han criticado el comportamiento y las malas comunicaciones de la empresa. Dijo que el grupo aún no ha decidido qué consejo pretende ofrecer, pero hay una cuestión clara a la que está respondiendo: "Es el hecho de que las empresas de IA han producido en los últimos meses algunos resultados matemáticos sobresalientes y que su publicación y distribución han estado muy por debajo de la práctica matemática aceptada, cualquiera que sea la forma en que se defina".
"Actualmente nos enfrentamos al desafío muy específico de asesorar a OpenAI sobre cómo coordinar la publicación de una gran cantidad de resultados importantes en matemáticas que, según informan, han sido producidos por su modelo interno".
Por ahora, Herer dijo que el grupo está recopilando opiniones a través de conversaciones con colegas y el público. Formulario de comentariosy discusión sobre Pruebas y afirmacionesun blog que se ha convertido en un foro importante para los matemáticos que se ocupan del impacto de la inteligencia artificial en este campo.
Pero el mayor desafío al que se enfrenta el grupo probablemente esté en el futuro. Al anunciar el grupo asesor, OpenAI casualmente dejó caer la noticia de que su nuevo modelo, aún inédito (el mismo modelo que resolvió el problema del Premio Navier-Stokes Millennium) ahora ha "resuelto más de 100 problemas abiertos de larga data en la mayoría de las áreas de las matemáticas". Anteriormente había dicho que estaba cerca de resolver otro problema relacionado con el Premio del Milenio. El grupo dijo en su sitio web que abordar este punto muerto es su primera prioridad: "Actualmente nos enfrentamos al desafío muy específico de asesorar a OpenAI sobre cómo coordinar la publicación de una gran cantidad de resultados importantes en matemáticas que, según informan, fueron producidos por su modelo interno".
En parte, el nuevo esfuerzo por involucrar a los matemáticos es una admisión del enorme desastre de relaciones públicas que fue su intento, ya que la compañía se encontró esquivando acusaciones de coleccionar investigadores, no atribuirse el mérito del trabajo humano sobre el que se construyen sus modelos e incluso robar a quienes los usan. Estas controversias llevaron a muchos matemáticos a preguntarse si la empresa entendía (o incluso respetaba) el sistema y la sociedad en la que se lanzó.
Después de los últimos meses y con tanto escrito sobre lo que quieren los matemáticos, Kevin Buzzard, profesor de matemáticas en el Imperial College de Londres, se preguntó por qué OpenAI sentía que necesitaba un organismo de élite para comprender lo que quería la sociedad. "Estos no eran evidencia de teorías difíciles, sino más bien de una mejor comprensión de nuestro tema", dijo. "No me queda del todo claro que se necesite un comité de personas inteligentes para dejar claro ese punto".