Prophecy, de Véliz

Un libro bien escrito, con mucho humor, y que se lee muy fácil. Pero que me ha decepcionado, la verdad. Y es que aunque parece que el tema es más bien general, en cuanto puede aterriza en un subconjunto muy específico de profecías y predicciones: las que realizan los tecnobros cuando nos quieren vender sus IAs. La autora tiene su agenda muy clara, aunque a veces parezca que la viste con otras cosas.

Y sí, en general estoy de acuerdo con sus apreciaciones acerca de estas predicciones (interesadas, que tratan de ser autocumplidas, y de crear el futuro que predicen, influyendo en el mercado, pero no mucho más que cuando un inversor interesado nos dice que una acción va a subir o bajar, o que el futuro son los coches eléctricos...), y también sobre los problemas éticos que tiene dejar determinadas decisiones a las IAs, como por ejemplo evaluar el riesgo de que un cliente no pague una hipoteca. Aunque algunas de ellas me parecen discutibles, la verdad, como buen problema ético, hay unas cuantas formas de verlo. Por ejemplo, es cierto que no parece muy ético que un algoritmo decida automáticamente quién va a la cárcel y quién no...o los problemas con los seguros médicos que no dependen de nosotros, como los asociados a la información genética (pero no con fumar, por ejemplo)...pero, ¿no es bueno que los bancos tengan mejor información sobre la fiabilidad de sus créditos, si eso hace que los deudores más fiables se vean beneficiados? Lo mismo con los conductores. ¿O es que es más justo y más ético que paguen lo mismo los conductores prudentes que los más arriesgados?

En todo caso, mi problema principal es que hay muchas más predicciones que ni son interesadas ni tratan de crear o cambiar el futuro. Y, por tanto, no creo que la predicción o la profecía en general, tenga la culpa de la mayoría de los males del mundo, como a veces parece desprenderse de la lectura. Por ejemplo, no creo que la predicción que está detrás del just-in-time o del lean lleve a problemas de seguridad, si la predicción se hace como hay que hacerla, contando con la incertidumbre. Tampoco creo que cualquier intento de predecir el comportamiento humano tenga como único objetivo controlarlo (muchas veces, al menos en nuestro caso, es justo para lo contrario).

Quizá me molesta especialmente porque me toca directamente: por ejemplo, cuando hacemos escenarios energéticos futuros (profecías, de alguna forma) ni tratamos de convencer a nadie ni queremos necesariamente que se cumplan (sobre todo los peores). Lo que queremos es entender bien cómo puede evolucionar el mundo, y qué consecuencias puede tener para todos. Y mis ingresos ni mucho menos dependen de ello. Lo mismo con la predicción del tiempo, que trata de mejorar nuestra vida. (Vale, uno podría cuestionar si los Outlooks de la AIE tenían el mismo buen propósito :)).

Y estas predicciones no van de lograr más o menos poder ni influencia, sino de ayudar a la sociedad a tener mejor información sobre si deben llevar paraguas o no, o sobre si deberíamos implantar políticas para reducir nuestras emisiones de CO2. Tim Harford da también su visión sobre esto, muy sensata.

Creo que hubiera sido mucho mejor si todo esto lo hubiera dejado más claro desde el principio, y no tratara de generalizar tanto cuando no es posible. Es cierto que, casi de pasada, sí reconoce esta limitación, pero para mí tenía que haberlo formulado nada más empezar para acotar bien su área de análisis. Por ejemplo, hasta la página 52 no deja esto claro: "When someone makes a prediction having something to lose and little way to influence the outcome, chances are higher that the prediction is more about knowledge than power, although a successful prediction will lead to more power either way". Al scenario planning también lo libera de culpa, pero en la página 250...En el epílogo también matiza sus ataques a la predicción, pero de nuevo, demasiado tarde.

Más allá de eso, y si uno es capaz de aislarse, el libro tiene bastantes cosas de valor, y el marco de análisis me parece bueno. Como cuando denuncia, acertadamente, que el cómo se cuentan las cosas cambia la manera en la que pensamos sobre ellas (aunque esto me parece que está mucho mejor explicado en Seeing like a State). O como cuando se mete con los data-driven models (que estoy de acuerdo no pueden servir para tomar decisiones sin buen juicio). También me parecen muy buenos sus consejos finales sobre cómo tener una buena vida.

Eso sí, se mete mucho con los tecnobros, pero no demasiado con China, que me parece algo al menos equivalente, y mucho más inmediato en términos de estado vigilante y controlador. Tampoco me convencen sus apreciaciones sobre estadística, la verdad. Lo que dice que la IA no puede identificar causalidad por ser estadística me parece un contrasentido...ya veremos cuando Judea Pearl lo haga :). Ni entiendo qué tiene que ver la discusión sobre effective altruism (sobre la que uno puede estar de acuerdo o no) con el resto del libro, o la falta de sentido del humor de la IA. También he leído muchas mejores discusiones sobre el libre albedrío.

En cualquier caso: este libro no es para mí. Quizá para alguien más crédulo con los cuentos de los tecnobros y demás familia. Creo que en general la autora se equivoca de objetivo. El problema no es la predicción. El problema son los vendemotos (sobre todo los que tienen un arma peligrosa en las manos, como la IA), y los imbéciles que les compramos la moto.

Las estrategias de las universidades frente a la IA

 Interesante recopilación, que confirma algo que ya sabíamos: no tiene sentido meterse en la guerra de la detección. Hay que cambiar el sistema de evaluación fundamentalmente.

Climate Strategies cumple 20 años

 Y aprovechan para recordarnos su razón de ser. Lo que pasa es que, justo como hablábamos el otro día en una reunión de la Climate Friendly Materials Platform, el mundo ha cambiado. No sólo porque cada vez sea más difícil financiar este tipo de iniciativas, sino porque, además, cada vez hay menos políticos interesados en escuchar estos mensajes: en este mundo polarizado y demagógico; no son rentables electoralmente. Creo que hay que ser optimista en que la sociedad se harte de tanto como estamos pasando estos tiempos, y volvamos a un mayor diálogo y encuentro. Pero mientras, me temo que la transición va a ser complicada. Ojalá Climate Strategies sepa gestionarla.

Y la IA como revisor de artículos

 Otro ejercicio curioso: usan Claude Opus para evaluar working papers, con el objetivo de luego comparar esta valoración con el resultado último en términos de publicación. 

Claro, el problema con este tipo de cosas es que los evaluadores las miren antes, y entonces se convierta en una profecía auto-cumplida...

La IA como herramienta para mejorar la difusión y uso de los artículos científicos

 Interesante iniciativa esta, que convierte un paper estático en un agente capaz de interactuar, para mejorar la aplicación posterior de los resultados y metodologías de ese paper. Un uso ciertamente atractivo, y que no plantea tantos problemas, al menos inicialmente, como otras ideas que andan por ahí.

Aunque eso no quiere decir que esté libre de pecado: ¿qué pasa si el agente no se ha terminado de enterar bien de lo que dice el paper?¿quién supervisa eso? Sí, es cierto que hay un proceso de validación, pero sólo dentro de los datos y resultados del paper original. ¿Y si la cosa falla cuando nos vamos fuera de la muestra? Los autores son prudentes y dicen que esto "mitiga" o "minimiza" los riesgos, pero no los elimina. 

Los datos energéticos en EEUU, más accesibles. Y un Atlas Estratégico para España

 Gracias, como no, a OurWordInData. Muy bienvenidos estos esfuerzos, cada vez más frecuentes afortunadamente, para poner a disposición del público la abundante información de la que se dispone. Algo que también se ha intentado hacer en España en alguna ocasión, pero que sigue estando lejos. 

Así que también tenemos que agradecer, y mucho, los esfuerzos personales de Arturo Vázquez, que ha montado este Atlas Estratégico, como él dice, sin financiación ni publicidad, y con el que esperamos poder colaborar en un futuro cercano.

Acero más barato, y con menos emisiones?

 Eso es lo que promete esta startup, Hertha Metals. Si realmente reduce un 25% los costes, no sé a qué espera todo el mundo para adoptar el proceso, independientemente de lo que reduzca.