por C BRANDON OGBUNU – Universidad de Yale
En junio, una comunidad compuesta en su mayoría por matemáticos publicó la Declaración de Leiden sobre Inteligencia Artificial y Matemáticas, una articulación de los valores que esperan preservar a medida que los sistemas automatizados se integran en la práctica del desarrollo de demostraciones matemáticas. Esto es necesario porque algunos sistemas de IA de frontera han mostrado capacidades sorprendentes para resolver ciertos problemas matemáticos avanzados, aunque pruebas independientes muestran que la IA todavía tiene límites importantes.
Aunque no soy miembro de la comunidad de matemáticas puras en ningún sentido estricto, gran parte del mensaje de la declaración resonó conmigo y fue relevante para mis propios intereses de investigación como biólogo computacional. Me anima que la comunidad matemática haya decidido adoptar una postura sobre el tema y que haya tenido éxito al organizar a un gran número de eminentes matemáticos para firmar el documento. La Declaración de Leiden, que se originó en una conferencia celebrada en la Universidad de Leiden en los Países Bajos, debería generar imitadores adecuados, porque lo que es válido para las matemáticas lo es para virtualmente cualquier campo que se denomine ciencia. Las invenciones de las matemáticas se filtran en los algoritmos y métodos estadísticos que ayudan a los científicos a diseñar experimentos, construir simulaciones y analizar datos, desde la sociología hasta la física estadística y más allá.
Sostengo que los campos biológicos deberían considerar algo de ese tipo, porque los tipos de conocimiento que la biología genera y predice son únicamente vulnerables a la subversión y a la caracterización errónea por parte de la inteligencia artificial.
La conversación en la comunidad matemática ha sido esclarecedora, en el sentido de que la declaración es una respuesta coordinada a los poderes y riesgos de la IA, cuya aceleración se ha sentido como un chasquido de Thanos, cambiando el universo en un instante. Y parte de la razón por la que los matemáticos sintieron los efectos de manera tan inmediata está vinculada a la forma en que se lleva a cabo su investigación: una demostración matemática, en principio, es transparente e independientemente verificable, y (generalmente) no se requiere equipo propietario para comprobarla. Como señala la Declaración de Leiden, las técnicas automatizadas presentan ahora a las matemáticas un nuevo problema de falsificación: dado que las verdades matemáticas son fijas y verificables, se puede identificar un formalismo apócrifo comparándolo con la demostración genuina. La biología, sin embargo, no ofrece tal garantía; nuestras llamadas “verdades” suelen ser ruidosas y dependientes del contexto, lo que hace casi imposible definir cómo debería ser siquiera una versión auténtica. Algunos de los principios biológicos más ampliamente apreciados (como las leyes de la herencia genética de Mendel) se describen mejor como potentes pero de alcance limitado, y con excepciones bien caracterizadas que no debilitan las leyes sino que perfeccionan su aplicación. Esto es cierto para muchas teorías biológicas. Las condiciones de contorno, los casos límite y el ruido no son errores, sino características de cómo funciona el mundo natural.
Por ejemplo, una mutación que confiere resistencia a los medicamentos a un virus con un determinado contexto genético puede tener un efecto mucho más débil, neutral o incluso perjudicial en otro, porque su impacto depende fuertemente del contexto genético circundante. Este fenómeno, que los biólogos llaman epistasis, no es un caso límite exótico sino una fuerza poderosa en toda la biosfera para moldear la relación entre los genes de un organismo y sus características expresadas. Y la epistasis es solo uno de los muchos ejemplos de dependencia del contexto en los sistemas biológicos, en los que un hallazgo que resulta cierto en una placa de Petri se desmorona en un cuerpo o tiene un efecto en un modelo de ratón pero no en un primate. Cuando se trata de IA, el matemático teme producir una solución falsa. Pero el biólogo a menudo no puede decir, incluso actuando de la mejor fe, cómo se supone que debe ser la versión auténtica.
A pesar de las diferencias entre las matemáticas y la biología, las ciencias de la vida deberían considerar embarcarse en un ejercicio que sea al menos análogo a la Declaración de Leiden. Si no otra cosa, una versión biológica podría tomar prestada su estructura y ambición. Deberíamos insistir en que los investigadores revelen el uso de herramientas automatizadas, que sean responsables de la veracidad de sus hallazgos, que el crédito y la responsabilidad correspondan a las personas y no a los sistemas, y que los científicos en inicio de carrera estén protegidos de incentivos que prioricen la producción de alto volumen sobre la verdadera percepción científica.
Una declaración biológica debería adoptar estas ideas y otras, y enfatizar disposiciones adicionales que son importantes para el campo: la validación de hipótesis generadas por IA contra resultados del laboratorio experimental, la gestión de datos de entrenamiento extraídos del fondo común biológico, y el mayor escrutinio que se debe a cualquier modelo cuyos resultados eventualmente afecten a un paciente o a un ecosistema. El último punto es crucial: en el ámbito biomédico, los tropiezos y triunfos de la IA se manifestarán en cuerpos vivos, con todas las consecuencias corporales, emocionales, éticas y legales asociadas. Una Declaración de Leiden biológica debe comprender la naturaleza de los datos y la observación en biología, y otras particularidades del campo. Pero la característica más importante para gestionar de manera responsable la relación entre la IA y los sistemas vivos implica la durabilidad de lo que se produce.
Una declaración matemática puede aspirar a la permanencia porque las demostraciones verificadas pueden seguir siendo válidas a lo largo de los siglos. Los conocimientos biológicos, por otro lado, tienden a cambiar con el tiempo, a veces rápidamente. Una política calibrada a toda prisa para los modelos de este verano podría estar ya descalibrada para el invierno. Una declaración escrita con la esperanza de durar una década podría arriesgarse a pasar gran parte de esa década intentando ponerse al día.
Si hemos de orquestar un tratado responsable para la inteligencia artificial en las ciencias de la vida, este debería ser adaptativo: con versiones, fechado, revisado según un calendario público y enmendado abiertamente por la misma comunidad a la que afirma representar. Y dado que las diferentes subdisciplinas de la biología tienen desafíos únicos —la cardiología frente a la ecología forestal, por ejemplo—, tal vez necesitemos múltiples declaraciones (pero no demasiadas). La Declaración de Leiden incorpora algunos de estos elementos, aclarando que su contenido refleja las tecnologías de IA y la práctica matemática a fecha de mayo de 2026 y que se compartirán actualizaciones del documento. La biología debería hacer de esa característica parte de su arquitectura central, integrando el proceso de revisión en el propio documento, de modo que actualizarlo sea una acción positiva en lugar de una confesión de fracaso.
Afortunadamente, los científicos de la vida están bien equipados para esta tarea. Desde hace mucho tiempo entendemos que las estructuras incapaces de cambiar con sus entornos rara vez perduran. Por lo tanto, sería una extraña traición a nuestra disciplina escribir una declaración que olvide este principio básico. Nuestras políticas para el cambio tecnológico deben mantener el dinamismo de los sistemas vivos en el centro de cómo imaginamos el futuro de la biología.
Undark. Traducción: Maggie Tarlo