Hace unas semanas escribía sobre una razón de peso para no usar la IA para investigar: en mi opinión, utilizarla reduce el aprendizaje, que es algo fundamental para los estudiantes de doctorado, pero también para todos los investigadores, que debemos seguir aprendiendo continuamente.
Estos días he seguido hablando con compañeros del tema, constatando que no todos en el IIT o Comillas estamos de acuerdo en esto. Algo que refleja lo que hay en el mundo, con por ejemplo Tyler Cowen en un extremo, y un grupo creciente de investigadores en otro. Así que pensé que no venía mal aclarar más mi posición (por si, como hablé con Eduardo, montábamos un debate sobre el tema). Una posición que no es absoluta: como incluso el Papa nos recuerda, al igual que muchos otros, no es tanto si queremos IA o no, sino para qué es lícito, o interesante, o conveniente, usarla.
Por supuesto, todo esto se apoya en un supuesto fundamental: que la IA se equivoca, igual que todos nosotros. Muchas veces tratando de sonar convincente, o incluso a veces queriéndonos engañar. Y que por tanto, el uso de IA requiere supervisión, igual que todos la necesitamos, bien directa (en el caso de los investigadores en formación), o bien indirecta (en los sistemas de evaluación por pares, en el caso de los investigadores experimentados). Si la IA llegara a un punto en el que no se equivocara nunca, o en el que sus equivocaciones no fueran relevantes, entonces yo tendría que reconsiderar mi postura (más sobre esto al final).
Creo que, para empezar, es conveniente distinguir entre el uso que le puede dar un investigador con experiencia, del que le puede o debe dar un investigador en formación.
Para un investigador con experiencia, el uso de la IA puede tener distintos alcances: desde ser el equivalente a tener más asistentes de investigación a mano, ocupándose de las tareas que requieren menos criterio, como construir una base de datos; hasta usarla para rebotar ideas de investigación formuladas por el humano, que también se ocuparía de comprobar los resultados e interpretarlos; o, quizá ya en el extremo, subcontratarle todo el proceso de investigación, como de alguna forma podría ser supervisar un estudiante de doctorado con buena formación y criterio, o incluso a un investigador experimentado. Esto ya existe en economía o en biología. Aunque, eso sí, con limitaciones evidentes cuando uno se sale de tareas específicas.
Otra cosa, por supuesto, es el coste, que cada vez se va haciendo más transparente, afortunadamente. Y no sólo el coste monetario de la suscripción o de los tokens. Todos sabemos que supervisar investigadores en formación es costoso, hay que dedicarles la atención suficiente. Lo mismo pasa con la IA. Y si utilizamos la IA en modo ejército de agentes, luego viene el coste implícito de su supervisión (que Newport asimila a la paradoja de Jevons). Y esto por no hablar del impacto en las publicaciones científicas: muchos más papers, pero de peor calidad, que está llevando a editores como los de Arxiv a rechazar todo lo que esté hecho con IA. En el fondo, todo esto es parecido a lo que ya está pasando en el campo del desarrollo de software.
Pero lo que es importante es que, en todos estos casos, incluso en los más extremos, siempre hay un supervisor, al menos en teoría, que vigila que la IA no haga tonterías. Si hay buena supervisión, no veo problema esencial (aunque sí cuestiones de fondo relevantes, ver al final) en el uso de la IA. Igual que tampoco lo veo en la corrección de pruebas docentes, algo en que la IA ha demostrado ser al menos igual de buena que nosotros, y que sin embargo no se permite (aún).
La supervisión es pues para mí la clave del asunto para hablar de cómo deben usar la IA los investigadores en formación, y en el fondo, de para qué debemos formarles.
Mientras la IA siga equivocándose, creo que debemos formarles para lo que ya les formamos: para adquirir el criterio suficiente para investigar, que es el mismo que para supervisar investigación. Esto por supuesto incluye el criterio para saber en qué usar la IA (y qué herramientas utilizar) y en qué no usarla.
Algunos defienden que, como la IA es tan potente, realmente debemos formar a los doctorandos para que puedan utilizar la IA a su servicio: en las revisiones bibliográficas, en la programación, en la escritura, o incluso en el análisis de resultados y conclusiones. Es decir, para que sean directores de orquesta y con ello logren una mucha mayor productividad (que para mí no es un objetivo en este nivel). Pero un director de orquesta debe tener criterio suficiente para entender si el compás de la música es el adecuado, si alguien está desafinando...¿cómo se aprende eso si nunca se ha hecho? ¿Cómo se aprende la capacidad de saber si una revisión de la literatura está bien hecha o no si nunca se ha hecho?¿Cómo valorar la interpretación de resultados que hace la IA si nunca te has enfrentado a ese problema? ¿Qué más da ser más productivo si no se han aprendido los conceptos básicos? Esto no es como aprender a usar una calculadora: la calculadora no se equivoca, si la has programado bien. La IA sí.
Recuerda siempre Mariano el dicho ese que usamos en ICAI, y que algunos atribuyen a Confucio: "Lo que se oye se olvida, lo que se ve se recuerda, lo que se hace se aprende". Si los estudiantes de doctorado no hacen su propia revisión bibliográfica de forma crítica, si no se pelean con la interpretación de resultados, nunca lo aprenderán. Si no se exponen a la estructuración de sus ideas y la consistencia de las mismas, ese proceso que sólo tiene lugar cuando tratas de escribirlo para que otro lo entienda, tampoco lo aprenderán. Y entonces no serán capaces de supervisar a la IA. Ni siquiera podrán ser directores de orquesta.
¿Significa esto que no deben entonces nuestros estudiantes usar la IA? No, claro. La IA claramente tiene una capacidad analítica que nos supera. Aprovechémosla. La IA también nos permite programar mejor (cuando el objeto de la investigación no es la programación en sí misma). O pulir nuestra escritura (no decirnos qué ideas incluir y cuáles no, o cómo estructurar un texto para que se entienda bien, eso como digo es parte del proceso de aprendizaje. Todas aquellas tareas mecánicas que no forman parte del proceso de aprendizaje, y que fácilmente hubiéramos subcontratado a un asistente, o a un estudiante de grado, antes de disponer de la IA, podemos seguir subcontratándolas. Pero todo lo que haga falta para aprender y formar un análisis crítico no podemos delegarlo, porque entonces no hay aprendizaje. Y sin aprendizaje no hay capacidad de supervisión futura.
Un par de cuestiones finales, quizá a desarrollar dentro de un tiempo, cuando la IA avance un poco más la primera y bastante más la segunda:
Incluso cuando la IA siga equivocándose, pero poco, y lleguemos a los extremos que mencionaba antes de subcontratación de casi todo el proceso investigador, incluida la formulación de preguntas (que, de nuevo, no evita la necesidad de formar supervisores), ¿aporta eso la misma satisfacción para el investigador? A lo mejor es más productivo y publica más (o no, si todos hacen lo mismo, otra rueda de hamster), pero, ¿seguro que mola delegar el proceso creativo, la curiosidad, la capacidad de descubrir nuevas cosas por uno mismo o sorprenderse? Para mí desde luego la carrera de investigador perdería muchos puntos, incluso aunque la IA nos permita hacer algunas de estas cosas con más eficiencia. En este mundo, ¿qué valor tiene la investigación? ¿Para qué investigamos?¿Para qué publicamos, como decía Cowen? Eso ya sin entrar en lo que sucede cuando delegamos nuestra actividad consciente en máquinas más inconscientes, como bien cuenta Erik Hoel aquí.
Y, ¿qué pasa cuando la IA deje de equivocarse, cuando ya no necesite supervisión o lo haga ella misma, el objetivo de Anthropic, por ejemplo? Pues que, entonces, habrá que reconsiderar todo lo que he dicho arriba sobre la formación doctoral. Porque, llevado a su extremo, podríamos llegar a la conclusión de que hay que dejar de investigar, y por tanto dejar de formar personas para ello: sería mucho más eficiente dejar a la IA hacerlo. Eso no quiere decir que los humanos dejaran de investigar, pero se convertiría en un hobby. Igual que hay gente a la que le gusta tocar la guitarra, sabiendo que nunca llegarán a ser un Clapton, podría haber gente que encontrara satisfacción intelectual en investigar, solo o con la ayuda de la IA, incluso aunque no puedan vivir de ello (o sí, en ese mundo con renta universal en el que las máquinas hacen todo). Aunque para esto creo que todavía queda bastante, porque como defienden aquí, hace falta bastante más que capacidad analítica para igualar a un estudiante de doctorado.
