Un grave desalineamiento de la IA en las matemáticas
Durante los últimos meses, las capacidades matemáticas de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) han mejorado de manera espectacular, hasta el punto de que pueden resolver importantes problemas abiertos en numerosos campos de las matemáticas.
Sin embargo, el impulso de las empresas de IA para resolver problemas matemáticos como forma de evaluación comparativa resulta perjudicial para la ciencia de las matemáticas y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están gravemente desalineados. Consideramos que esto forma parte de problemas de alineamiento más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto.
La investigación matemática se ocupa de comprender las estructuras fundamentales de las formas, los números y los fenómenos naturales. A lo largo de generaciones, ha construido un amplio corpus de ideas, métodos, abstracciones y otras herramientas sofisticadas para comprender el paisaje matemático. A su vez, las tecnologías y las ciencias modernas se basan en herramientas matemáticas.
Los problemas famosos a menudo han servido como hitos y faros con los cuales medir una mejor comprensión de ese paisaje. Resolver uno de estos problemas ha sido una señal inequívoca de nuevos conocimientos y métodos interesantes, que luego serían estudiados por una comunidad de matemáticos mediante un proceso largo y arduo de charlas, debates y simplificaciones.
Al final de este proceso, idealmente se llega a una presentación de los resultados en forma de manual o libro de texto, adecuada para que la estudie cualquier estudiante de posgrado o incluso de grado. Algunas de estas ideas matemáticas continúan su recorrido hasta convertirse, décadas o siglos después, en herramientas comprendidas y utilizadas por toda la población.
Durante los últimos meses, las capacidades matemáticas de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) han mejorado de manera espectacular, hasta el punto de que pueden resolver importantes problemas abiertos en numerosos campos de las matemáticas.
Sin embargo, el impulso de las empresas de IA para resolver problemas matemáticos como forma de evaluación comparativa resulta perjudicial para la ciencia de las matemáticas y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están gravemente desalineados. Consideramos que esto forma parte de problemas de alineamiento más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto.
La investigación matemática se ocupa de comprender las estructuras fundamentales de las formas, los números y los fenómenos naturales. A lo largo de generaciones, ha construido un amplio corpus de ideas, métodos, abstracciones y otras herramientas sofisticadas para comprender el paisaje matemático. A su vez, las tecnologías y las ciencias modernas se basan en herramientas matemáticas.
Los problemas famosos a menudo han servido como hitos y faros con los cuales medir una mejor comprensión de ese paisaje. Resolver uno de estos problemas ha sido una señal inequívoca de nuevos conocimientos y métodos interesantes, que luego serían estudiados por una comunidad de matemáticos mediante un proceso largo y arduo de charlas, debates y simplificaciones.
Al final de este proceso, idealmente se llega a una presentación de los resultados en forma de manual o libro de texto, adecuada para que la estudie cualquier estudiante de posgrado o incluso de grado. Algunas de estas ideas matemáticas continúan su recorrido hasta convertirse, décadas o siglos después, en herramientas comprendidas y utilizadas por toda la población.
La comunidad matemática funciona, en muchos sentidos, como una versión en miniatura de la humanidad. Está formada por individuos que utilizan una amplia variedad de enfoques diferentes, unidos por valores fundamentales. Los recursos más valiosos de nuestra profesión son los estudiantes y las ideas, y los cuidamos con gran dedicación. Sentimos la responsabilidad de permitirles desarrollarse hasta alcanzar todo su potencial, hasta que puedan llevar una vida propia dentro del mundo de las matemáticas.
Con los estudiantes, a menudo proponemos problemas con la intención fundamental de desarrollar habilidades que los posicionen favorablemente para avanzar en la investigación y en otros ámbitos. Nuestras ideas las difundimos mediante charlas, conversaciones privadas y trabajos escritos cuidadosamente elaborados, conectándolas con las ideas previas de otras personas. Estos procesos requieren inevitablemente tiempo y se basan en la interacción humana.
En los últimos meses, el éxito de la IA a la hora de resolver importantes problemas matemáticos ha llegado a los titulares incluso fuera de los círculos matemáticos. Pero resolver problemas es solamente una herramienta y un indicador indirecto para alcanzar el objetivo principal: la comprensión conceptual y la capacidad de obtener nuevas ideas.
Olvidar esto en el mundo de la IA puede hacer que la herramienta termine actuando en contra del objetivo principal. En efecto, la producción masiva y a un ritmo cada vez más acelerado de afirmaciones de «verdadero/falso» podría destruir un terreno fértil en lugar de dar vida a nuevas ideas.
A menudo, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, para aislar los nuevos métodos e ideas y para citar los trabajos relevantes realizados previamente por otras personas. Como ocurre en todas las profesiones creativas, esto plantea graves interrogantes en materia de atribución y plagio.
Además, sin los matemáticos dispuestos a hacerse cargo de su desarrollo e integración al canon matemático, las ideas concebidas por la IA nunca llegarían a cobrar vida plenamente y se perdería la crucial cadena de transmisión humana entre los matemáticos.
Estamos asistiendo a una amenaza general para el trabajo intelectual, con un desalineamiento entre el resultado del uso de la IA y su propósito original. En muchos campos y actividades, años de formación han servido tradicionalmente no solo para producir una respuesta o un producto final, sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas e ideas.
Sin embargo, a partir de un enorme acervo de trabajo humano previo, los sistemas de IA son cada vez más capaces de producir directamente los resultados de ese trabajo, y estos objetivos dejan de estar alineados. Los problemas que enfrenta ahora la comunidad matemática son similares a los que afrontan otras profesiones científicas y creativas, y anticipan cuestiones que podría enfrentar toda la humanidad: cómo asegurarnos de que, a medida que la IA cambie la manera en que se realiza el trabajo, no perdamos de vista aquello que ese trabajo estaba destinado a lograr en primer lugar.
La IA ofrece la posibilidad de potenciar y acelerar el estudio y la comprensión genuinos de las matemáticas. La profesión matemática tendrá que adaptarse a estos cambios de diversas maneras. Sin embargo, que estos cambios terminen beneficiando al campo o tengan un efecto destructivo dependerá en gran medida de las decisiones de los seres humanos que controlan esta nueva tecnología.
Estos problemas deben abordarse con urgencia, dentro de la comunidad matemática, por parte de las empresas que desarrollan estas tecnologías y, de manera más amplia, por una sociedad que enfrentará problemas similares en muchas otras formas de trabajo intelectual.
Artur Avila (Medalla Fields 2014)
Manjul Bhargava (Medalla Fields 2014)
Caucher Birkar (Medalla Fields 2018)
Pierre Deligne (Medalla Fields 1978)
Yu Deng (Medalla Fields 2026)
Simon Donaldson (Medalla Fields 1986)
Hugo Duminil-Copin (Medalla Fields 2022)
Alessio Figalli (Medalla Fields 2018)
Martin Hairer (Medalla Fields 2014)
June Huh (Medalla Fields 2022)
Maxim Kontsevich (Medalla Fields 1998)
Elon Lindenstrauss (Medalla Fields 2010)
Pierre-Louis Lions (Medalla Fields 1994)
James Maynard (Medalla Fields 2022)
Curt McMullen (Medalla Fields 1998)
Shigefumi Mori (Medalla Fields 1990)
Ngô Bảo Châu (Medalla Fields 2010)
Andrei Okounkov (Medalla Fields 2006)
Peter Scholze (Medalla Fields 2018)
Stanislav Smirnov (Medalla Fields 2010)
Terence Tao (Medalla Fields 2006)
Maryna Viazovska (Medalla Fields 2022)
Cédric Villani (Medalla Fields 2010)
Wendelin Werner (Medalla Fields 2006)
Efim Zelmanov (Medalla Fields 1994)
Con los estudiantes, a menudo proponemos problemas con la intención fundamental de desarrollar habilidades que los posicionen favorablemente para avanzar en la investigación y en otros ámbitos. Nuestras ideas las difundimos mediante charlas, conversaciones privadas y trabajos escritos cuidadosamente elaborados, conectándolas con las ideas previas de otras personas. Estos procesos requieren inevitablemente tiempo y se basan en la interacción humana.
En los últimos meses, el éxito de la IA a la hora de resolver importantes problemas matemáticos ha llegado a los titulares incluso fuera de los círculos matemáticos. Pero resolver problemas es solamente una herramienta y un indicador indirecto para alcanzar el objetivo principal: la comprensión conceptual y la capacidad de obtener nuevas ideas.
Olvidar esto en el mundo de la IA puede hacer que la herramienta termine actuando en contra del objetivo principal. En efecto, la producción masiva y a un ritmo cada vez más acelerado de afirmaciones de «verdadero/falso» podría destruir un terreno fértil en lugar de dar vida a nuevas ideas.
A menudo, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, para aislar los nuevos métodos e ideas y para citar los trabajos relevantes realizados previamente por otras personas. Como ocurre en todas las profesiones creativas, esto plantea graves interrogantes en materia de atribución y plagio.
Además, sin los matemáticos dispuestos a hacerse cargo de su desarrollo e integración al canon matemático, las ideas concebidas por la IA nunca llegarían a cobrar vida plenamente y se perdería la crucial cadena de transmisión humana entre los matemáticos.
Estamos asistiendo a una amenaza general para el trabajo intelectual, con un desalineamiento entre el resultado del uso de la IA y su propósito original. En muchos campos y actividades, años de formación han servido tradicionalmente no solo para producir una respuesta o un producto final, sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas e ideas.
Sin embargo, a partir de un enorme acervo de trabajo humano previo, los sistemas de IA son cada vez más capaces de producir directamente los resultados de ese trabajo, y estos objetivos dejan de estar alineados. Los problemas que enfrenta ahora la comunidad matemática son similares a los que afrontan otras profesiones científicas y creativas, y anticipan cuestiones que podría enfrentar toda la humanidad: cómo asegurarnos de que, a medida que la IA cambie la manera en que se realiza el trabajo, no perdamos de vista aquello que ese trabajo estaba destinado a lograr en primer lugar.
La IA ofrece la posibilidad de potenciar y acelerar el estudio y la comprensión genuinos de las matemáticas. La profesión matemática tendrá que adaptarse a estos cambios de diversas maneras. Sin embargo, que estos cambios terminen beneficiando al campo o tengan un efecto destructivo dependerá en gran medida de las decisiones de los seres humanos que controlan esta nueva tecnología.
Estos problemas deben abordarse con urgencia, dentro de la comunidad matemática, por parte de las empresas que desarrollan estas tecnologías y, de manera más amplia, por una sociedad que enfrentará problemas similares en muchas otras formas de trabajo intelectual.
Artur Avila (Medalla Fields 2014)
Manjul Bhargava (Medalla Fields 2014)
Caucher Birkar (Medalla Fields 2018)
Pierre Deligne (Medalla Fields 1978)
Yu Deng (Medalla Fields 2026)
Simon Donaldson (Medalla Fields 1986)
Hugo Duminil-Copin (Medalla Fields 2022)
Alessio Figalli (Medalla Fields 2018)
Martin Hairer (Medalla Fields 2014)
June Huh (Medalla Fields 2022)
Maxim Kontsevich (Medalla Fields 1998)
Elon Lindenstrauss (Medalla Fields 2010)
Pierre-Louis Lions (Medalla Fields 1994)
James Maynard (Medalla Fields 2022)
Curt McMullen (Medalla Fields 1998)
Shigefumi Mori (Medalla Fields 1990)
Ngô Bảo Châu (Medalla Fields 2010)
Andrei Okounkov (Medalla Fields 2006)
Peter Scholze (Medalla Fields 2018)
Stanislav Smirnov (Medalla Fields 2010)
Terence Tao (Medalla Fields 2006)
Maryna Viazovska (Medalla Fields 2022)
Cédric Villani (Medalla Fields 2010)
Wendelin Werner (Medalla Fields 2006)
Efim Zelmanov (Medalla Fields 1994)
No hay comentarios:
Publicar un comentario