MANILA, Filipinas – Casi 2.000 matemáticos de universidades e instituciones académicas de renombre mundial, entre ellas Harvard, la Universidad de Columbia, la Universidad de Cambridge y la Universidad de Oxford, firmaron la Declaración de Leiden sobre Inteligencia Artificial y Matemáticas en junio de 2026, exigiendo supervisión y uso ético de la tecnología en la investigación matemática. 

La declaración establece un marco ético para los matemáticos, afirmando, ante todo, la primacía de la autonomía humana en su investigación. 

La declaración advierte: "Los avances [de la IA] ponen en riesgo la autonomía de las matemáticas. La creciente participación de las empresas tecnológicas en la investigación matemática aumenta el riesgo de que las preguntas de investigación sean priorizadas por su adaptabilidad a las matemáticas automatizadas, en lugar de por el juicio experto sobre su significado más profundo." 

En otras palabras, es el ser humano quien debe establecer la agenda de lo que constituye una investigación importante, en lugar de elegirla porque un tema funciona bien con herramientas de IA automatizadas. 

La declaración plantea sus problemas con la IA: su tendencia a producir argumentos "plausibles pero poco fiables (o incluso incorrectos)"; la atribución indebida y el uso de obras protegidas por derechos de autor en su corpus de datos; y el "énfasis excesivo" en la contribución de la tecnología al trabajo de investigación. 

Para hacer frente a esto, ante todo, insiste en la primacía de la divulgación de herramientas, exigiendo a los autores que incluyan una sección dedicada en sus trabajos que detalle el uso de todos los sistemas automatizados y los grandes modelos de lenguaje. 

Pide a los investigadores que garanticen la correcta atribución del trabajo humano detrás de cualquier resultado sintetizado, y que aseguren que la responsabilidad de la corrección y adecuación de cualquier argumento científico recaiga exclusivamente en los autores humanos, quienes deben verificar personalmente cada afirmación independientemente de cómo fue generada.

Este llamado a la rendición de cuentas y el establecimiento de un marco ético de IA sigue el ejemplo de otros campos como la medicina, la educación y el periodismo. Surge en medio de un estudio reciente de mayo que encontró 146.900 citas falsas generadas por IA, según informó CNET, apareciendo en artículos de investigación en grandes bases de datos como arXiv y PubMed Central. Esta "alucinación con confianza" amenaza con saturar la literatura con referencias inexistentes y resultados incorrectos, lo que podría desorientar a futuros investigadores que se basen en estas bases defectuosas. 

La declaración también hace un llamado urgente a una regulación gubernamental "significativamente aumentada" y a la supervisión pública de la industria tecnológica, señalando la participación de la IA en programas militares, vigilancia masiva, el desarrollo de tecnologías que promueven la desinformación o socavan los procesos democráticos, y su impacto ambiental. 

Insta a los gobiernos a proporcionar una protección más sólida a las obras con derechos de autor y a establecer infraestructura computacional pública a nivel universitario, nacional e internacional. Al financiar alternativas públicas a las tecnologías propietarias, específicamente clústeres de computación para modelado matemático y aprendizaje automático, los responsables de políticas pueden garantizar que las herramientas del descubrimiento científico permanezcan transparentes e independientes del control corporativo privado.

Muchas herramientas de IA hoy en día están en manos de grandes empresas tecnológicas privadas. En los EE. UU., el senador Bernie Sanders propone una idea radical, argumentando que el público debería tener una participación del 50% en las empresas de IA a través de su propuesta Ley del Fondo de Riqueza Soberana de IA Americano. 

La demanda de los matemáticos de supervisión pública, además de la integridad académica e investigadora, también surge de preocupaciones sobre el poder de las entidades de IA comercializadas que actualmente tienen incentivos para exagerar sus productos. 

Al formular políticas, la declaración afirma: "Actualmente existe un fuerte incentivo comercial por parte de la industria tecnológica para exagerar las capacidades de sus productos. Consulte con expertos, incluidos matemáticos, al tomar decisiones de política en lugar de basarse en comunicados de prensa o informes populares de resultados matemáticos." 

Entre los firmantes, Leslie Ann Goldberg, jefa de informática de la Universidad de Oxford, afirmó: "…la investigación en matemáticas (y en disciplinas matemáticas como la informática teórica) casi siempre se basa en investigaciones anteriores, por lo que es esencial que los investigadores sepan que los resultados en la literatura son correctos."

"Los borradores inexactos generados por IA son baratos de producir, y existe el riesgo de saturar la literatura con resultados afirmados que simplemente son incorrectos. Una vez que eso ocurra, es probable que los errores se propaguen a medida que nuevos resultados se construyan sobre bases defectuosas. Celebro las recomendaciones de la Declaración de Leiden, particularmente la divulgación del uso de herramientas y la publicación continua a través de revistas revisadas por pares", dijo. – Rappler.com