Otra ilustración de los riesgos de la IA

Hace poco decía que en The Energy Journal todavía no estábamos teniendo muchos problemas con la IA. Antes hablo...el viernes, revisando un paper, me encontré con referencias claramente fabricadas por la IA. Así que rechacé el paper:

Before sending your paper to reviewers, I read it again, and found that many of the references are fabricated. They have been mixed up, clearly pointing to the use of AI. The fact that you have not acknowledged their use is in clear breach of the AI policy of our journal, and therefore I must reject your paper. 

La respuesta del autor:

Thank you for explaining the basis for the rejection of XXX. You are correct, and I owe you both an acknowledgment and an apology. The bibliography for this manuscript was assembled with the help of our research assistants who used a large language model to expand a partial reference list into BibTeX. The references were not adequately cross-checked before submission, and the AI-use disclosure that the journal requires was not included. 

The responsibility for both is mine, as I should have audited their work before submitting, and I did not. Most embarrassingly, my own 2020 XXX paper is among the entries with a wrong title and pages; that one alone I should have caught at a glance. After receiving your decision, I checked all 36 references against CrossRef DOI metadata and publisher pages. Seven were wrong (mixed-up authors, wrong journals or titles) and have been corrected, with DOIs added across the full bibliography. I will also apply the same audit to a parallel manuscript in progress, which I am planning to submit to EJ, so that this cannot recur. 

I understand the decision on XXX stands. If you would be open to a fresh submission of the corrected manuscript at some future point, I would welcome that opportunity. The resubmission would include full AI-use disclosure, every reference DOI-verified, and our complete replication package (data, code, and DCE design files) attached so that the empirical work is independently checkable. If not, I understand entirely. Either way, thank you for catching this; it is a more useful outcome than going to peer review with a broken bibliography.

Y ahora, ¿qué hago?¿Cómo recuperamos la confianza perdida en este autor? ¿Seguro que esto es lo que queremos enseñar a los investigadores en formación?

Un análisis del PERTE de descarbonización industrial

 Un artículo que me pidieron para Papeles de Economía Española, y al que me había referido en alguna ocasión en el blog. Un análisis limitado por naturaleza, ya que hay pocos datos y poco tiempo para evaluar. Pero aún así puede ser de interés.

Este trabajo evalúa los primeros resultados disponibles del Proyecto Estratégico para la Recuperación y Transformación Económica (PERTE) de descarbonización industrial, uno de los instrumentos más poderosos de apoyo a la descarbonización industrial en España desplegados hasta la fecha. El PERTE ha concedido 530 millones de euros en ayudas, fundamentalmente subvenciones directas, a los principales sectores industriales de nuestro país, que deben ejecutarse antes de marzo de 2026. Desgraciadamente, no existe información disponible acerca de las tecnologías financiadas o la reducción de emisiones esperable, lo que imposibilita una valoración de su efectividad. En cualquier caso, sí se realiza una evaluación ex ante de su diseño y la distribución de las ayudas concedidas. 

Papeles de Energía: Almacenamiento energético

 Un nuevo número de Papeles de Energía, en el que analizamos las distintas tecnologías disponibles para almacenar electricidad y calor, y también presentamos estimaciones de las necesidades de almacenamiento eléctrico en España en 2030 y 2050. Muy recomendable, en mi opinión.

Dos visiones distintas sobre minerales críticos en EEUU

 La de MIT TR, mucho más tecnológica y optimista acerca de las oportunidades del reciclado de otros materiales. Y la de Resources for the Future, mucho más realista y pragmática, que no ve tanto las posibilidades en el reciclado y sí en el friendshoring.

Perspectivas sobre costes de la fusión nuclear

 No muy optimistas, desde luego. Aunque es cierto que es bastante difícil ponerse a evaluar estas cosas cuando ni siquiera sabemos sí funcionan, o cómo funcionarán. No tengo demasiado claro el interés científico del artículo, la verdad.

En cualquier caso, si fuera como dicen, la gran pregunta es si de verdad tiene sentido seguir apoyando la tecnología como lo hacemos. Recordemos que el objetivo de las políticas de apoyo tecnológico debe ser hacer competitiva la tecnología en cuestión. Si eso no se consigue o no se puede conseguir, quizá haya que cambiar el marco de apoyo...dentro de que estas cosas siempre son inciertas y por tanto hay elemento de apuesta que no conviene olvidar. El jugársela, dentro de un orden, puede ser bueno.

La verdadera razón para no usar la IA para escribir, o para investigar

 El lunes pasado di una charla a los estudiantes de doctorado de la IAEE sobre cómo publicar en The Energy Journal. Y uno de los puntos en los que hice especial hincapié fue en el uso de la IA. La revista permite utilizar IA, siempre que se reconozca expresamente. Pero el uso de la IA tiene muchos riesgos: no sólo que se equivoque; también es fácil plagiar sin darse cuenta. 

Pero, sobre todo, para los estudiantes de doctorado, el mayor riesgo es que no les permite aprender. Para aprender bien a investigar, a revisar el estado del arte y comprender cuál es el hueco que queremos rellenar, a interpretar bien los resultados, para todo eso hace falta hacerlo personalmente, no dejar a la IA que lo haga. Es el proceso lo que importa, no el resultado. Dejar que la IA ocupe ese espacio puede aumentar nuestra productividad, sí...pero a costa de no aprender, que es para lo que estamos. Muy en línea con lo que dice Brandon Sanderson y que nos transmite Cal Newport. 

(Entiendo que todos conocéis a Sanderson, habéis disfrutado con sus libros, y por tanto valoráis su opinión...si no decidme para que os recomiende algo :))

ADD: Después de escribir esto encontré este artículo, escrito días antes de mi entrada, pero que no había leído aún. Me parece que dice cosas muy parecidas, pero mucho mejor. 

Un enfoque más positivo para nuestra relación con la naturaleza

 En lugar de tratar a los humanos y a la naturaleza como antagonistas, estos investigadores tratan de buscar relaciones más positivas y traducirlas a indicadores. Como bien dicen, nuestra interacción con la naturaleza no siempre es negativa, depende de cómo lo hagamos. Aquí está su comentario en Nature. Deseando ver qué sale del informe de UNDP.