por C BRANDON OGBUNU – Universidad de Yale
Hace unos 2000 años, el biógrafo griego Plutarco escribió sobre un barco de 30 remos que, según se decía, había transportado al héroe Teseo y a un grupo de jóvenes atenienses de regreso a casa desde Creta. Para conservar la embarcación, quienes estaban a cargo de ella en Atenas retiraban la madera vieja a medida que se deterioraba y la reemplazaban por madera más resistente. Continuaron así, tablón por tablón, hasta que las reparaciones dieron lugar a un problema filosófico: si ya no quedaba nada del material original, ¿seguía siendo el barco de Teseo?
El barco terminó dando nombre a un experimento mental que se ha aplicado a todo tipo de cosas, desde bandas que reemplazan a sus integrantes hasta automóviles clásicos reconstruidos con componentes nuevos. He encontrado una nueva aplicación en el creciente papel de la inteligencia artificial en la producción de conocimiento: en esta versión, la ciencia es el barco, sus prácticas impulsadas por seres humanos son los tablones y la IA proporciona el material de reemplazo. La silueta de la ciencia sigue siendo reconocible mientras la actividad que ocurre en su interior se vuelve cada vez más automatizada.
Gran parte de la ansiedad en torno a una toma del control por parte de la IA supone un acontecimiento cinematográfico en el que una máquina autónoma aparece de la noche a la mañana y supera a todos los científicos vivos, quizá mediante un descubrimiento digno de un Premio Nobel. Esta imagen encaja con nuestra imaginación de la ciencia ficción. También nos distrae del escenario más probable, en el que la IA desplaza progresivamente distintos componentes del proceso científico. Cada paso que se transfiere a la IA parece ofrecer una ganancia significativa de eficiencia. Ningún comité tiene que votar para entregar la ciencia a los robots; una sucesión de discretas actualizaciones de software puede llevarnos hasta allí con la misma rapidez.
El primer tablón está en la educación, donde se forman los futuros científicos. En un amplio experimento de campo, los estudiantes de matemáticas de secundaria que tenían acceso a una interfaz estándar de IA generativa, basada en GPT-4, obtuvieron mejores resultados en los ejercicios de práctica que los estudiantes que no la utilizaron; sin embargo, obtuvieron un 17 por ciento menos en el examen posterior. Los estudiantes que utilizaron un tutor de matemáticas basado en IA más especializado para resolver los ejercicios de práctica evitaron en gran medida ese descenso.
El hallazgo recoge una distinción básica entre completar una tarea y aprender a hacerla bien. La formación depende de atravesar las dificultades: los estudiantes leen textos complejos, cometen errores y revisan sus razonamientos. Ese es el proceso mediante el cual aprendemos a discernir, a razonar y a hacer buenas inferencias. Cuando la IA elimina esas dificultades, los estudiantes pierden uno de los pasos más importantes del proceso.
La revisión por pares ofrece un segundo ejemplo. Es una de las actividades más importantes de la ciencia, pero depende del trabajo no remunerado y de motivaciones bastante dudosas: la obligación profesional informal, la vergüenza y el pánico ante los plazos. Estas condiciones hacen tentador el uso de una herramienta de IA. Investigadores que examinaron textos de revisiones por pares enviados a varias conferencias importantes sobre inteligencia artificial encontraron que entre el 6,5 y el 16,9 por ciento podrían haber sido modificados sustancialmente por modelos de lenguaje de gran escala, o LLM. Las cifras eran más altas entre las revisiones realizadas cerca de la fecha límite (la propia investigación fue publicada en un servidor de preprints y todavía no ha sido sometida a revisión por pares).
El papel de la IA también está avanzando en la preparación de manuscritos. Mediante el seguimiento de aumentos repentinos en palabras favorecidas por los LLM, una auditoría mostró que al menos el 13,5 por ciento de los resúmenes publicados en la base de datos PubMed en 2024 habían sido procesados mediante un LLM.
Ninguno de estos hallazgos puede decirnos qué papel desempeñó la IA en las decisiones generales, pero sí muestran que el uso de LLM se está extendiendo a todos los aspectos de la publicación académica. Sin embargo, el flujo de trabajo de las revistas (preparación, envío, revisión) sigue siendo estructuralmente el mismo, aunque partes cada vez mayores de él sean realizadas por máquinas.
En muchas áreas de investigación, el reemplazo de los tablones impulsados por seres humanos por código informático hace que los cambios sean más difíciles de detectar. Pero incluso si las contribuciones realizadas mediante IA no son técnicamente falsas, su utilización puede ser problemática. Una investigación de 2025 basada en entrevistas con científicos en ejercicio advirtió que el código generado por modelos de IA puede influir silenciosamente en los parámetros estadísticos de maneras que el usuario quizá no reconozca. De este modo, la IA puede producir un resultado que parezca autorizado y confiable incluso cuando está respondiendo a la pregunta equivocada. Es significativo que un resultado de ese tipo sería reproducible en el sentido convencional y, por lo tanto, superaría muchas de las pruebas formales de adecuación.
Una objeción razonable a mi predicción es que las mentes humanas seguirán supervisando la integración de los distintos pasos del proceso científico. Pero los algoritmos vienen también por la integración. Un informe publicado en marzo describió un “Científico de IA” que genera ideas, busca en la literatura, escribe código, realiza experimentos computacionales, interpreta los resultados, genera elementos visuales, prepara un manuscrito y revisa su propio trabajo. Un manuscrito escrito por este algoritmo superó la primera ronda de revisión por pares en un taller de aprendizaje automático.
Otro proyecto, llamado Robin, lleva un enfoque similar a la biología experimental. Los investigadores humanos realizan los experimentos físicos, pero Robin propone hipótesis, analiza los resultados y produce las figuras. Tanto el Científico de IA como Robin representan hitos arquitectónicos: organizan los distintos tablones del proceso en una cadena de investigación integrada y alternativa.
¿Por qué considero que estas herramientas constituyen amenazas legítimas para el orden científico y no simples trucos tecnológicos? Como ocurre con la mayoría de los desafíos en una profesión con muchos participantes y múltiples intereses, podemos señalar los incentivos. Los científicos están adoptando la IA porque estas herramientas pueden ser útiles para producir aquello por lo que somos evaluados y recompensados. Un estudio reciente que examinó 41,3 millones de artículos de investigación encontró que los autores que utilizaban IA tenían mayores tasas de publicación y de citación. Quienes la utilizaban también se convertían antes en líderes de proyectos. Sin embargo, a escala colectiva, la adopción de la IA estuvo asociada con una contracción del 4,63 por ciento en la variedad de temas estudiados y con una disminución del 22 por ciento en la interacción con otras personas dentro de la comunidad científica. Estos hallazgos no pueden demostrar que la IA haya causado esos cambios. Pero el patrón recoge un problema de acción colectiva: una estrategia que puede beneficiar a un investigador individual puede producir una actividad más estrecha y menos social cuando se repite a lo largo de millones de carreras.
Quizá haya llegado el momento de trazar una línea y organizar nuestros esfuerzos para detener la intromisión de estos agentes artificiales en nuestra ciencia. Pero un rechazo absoluto sería irresponsable y estaría basado en una fantasía. A estas alturas debería estar claro que la IA puede y podrá hacer cosas —incluidos descubrimientos— que nosotros somos incapaces de hacer, aunque solo sea porque no podemos trabajar con la misma velocidad y sin descanso que una máquina. Además, la IA ya está demasiado extendida como para revertir completamente su presencia. El enfoque más adecuado implica evaluaciones realistas de la situación, como la Declaración de Leiden, mediante la cual la comunidad de matemáticos expuso los desafíos de desenvolverse en su campo en la era de la IA. Otras disciplinas deberían seguir su ejemplo.
Estamos tan avanzados en este proceso que pronto puede resultar difícil explicar por qué los seres humanos son necesarios en cualquiera de sus etapas. Se puede responder con la idea tranquilizadora de que necesitamos conservar suficiente experiencia humana para inspeccionar el trabajo y cuestionar los resultados. Pero esta sugerencia no ofrece ninguna orientación concreta sobre por qué, dónde y cómo necesitaremos seres humanos cuando las actividades reconocibles de la ciencia puedan ser realizadas más rápido y casi igual de bien —o mejor, en algunos casos— por las máquinas.
Creo que la ciencia obtiene su autoridad de algo más que el dominio de la cadena que va desde la generación de datos hasta la publicación. Su autoridad proviene de las interacciones dentro de una comunidad de personas formadas para interrogar las pruebas y responder por las conclusiones que extraen de ellas. Ha llegado el momento de formalizar qué significa esto y qué tipos de juicio humano no pueden, o no deberían, delegarse en la IA.
Si no actuamos, un reemplazo completo, realizado tablón por tablón, puede producirse antes de que nos demos cuenta. Para entonces, la mayor herramienta de creación de conocimiento de la historia humana será simplemente otra tarea automatizada por máquinas, mientras la actividad humana que hizo posible la IA queda relegada a la memoria y a la historia.
Undark. Traducción: Mara Taylor