Prophecy, de Véliz

Un libro bien escrito, con mucho humor, y que se lee muy fácil. Pero que me ha decepcionado, la verdad. Y es que aunque parece que el tema es más bien general, en cuanto puede aterriza en un subconjunto muy específico de profecías y predicciones: las que realizan los tecnobros cuando nos quieren vender sus IAs. La autora tiene su agenda muy clara, aunque a veces parezca que la viste con otras cosas.

Y sí, en general estoy de acuerdo con sus apreciaciones acerca de estas predicciones (interesadas, que tratan de ser autocumplidas, y de crear el futuro que predicen, influyendo en el mercado, pero no mucho más que cuando un inversor interesado nos dice que una acción va a subir o bajar, o que el futuro son los coches eléctricos...), y también sobre los problemas éticos que tiene dejar determinadas decisiones a las IAs, como por ejemplo evaluar el riesgo de que un cliente no pague una hipoteca. Aunque algunas de ellas me parecen discutibles, la verdad, como buen problema ético, hay unas cuantas formas de verlo. Por ejemplo, es cierto que no parece muy ético que un algoritmo decida automáticamente quién va a la cárcel y quién no...o los problemas con los seguros médicos que no dependen de nosotros, como los asociados a la información genética (pero no con fumar, por ejemplo)...pero, ¿no es bueno que los bancos tengan mejor información sobre la fiabilidad de sus créditos, si eso hace que los deudores más fiables se vean beneficiados? Lo mismo con los conductores. ¿O es que es más justo y más ético que paguen lo mismo los conductores prudentes que los más arriesgados?

En todo caso, mi problema principal es que hay muchas más predicciones que ni son interesadas ni tratan de crear o cambiar el futuro. Y, por tanto, no creo que la predicción o la profecía en general, tenga la culpa de la mayoría de los males del mundo, como a veces parece desprenderse de la lectura. Por ejemplo, no creo que la predicción que está detrás del just-in-time o del lean lleve a problemas de seguridad, si la predicción se hace como hay que hacerla, contando con la incertidumbre. Tampoco creo que cualquier intento de predecir el comportamiento humano tenga como único objetivo controlarlo (muchas veces, al menos en nuestro caso, es justo para lo contrario).

Quizá me molesta especialmente porque me toca directamente: por ejemplo, cuando hacemos escenarios energéticos futuros (profecías, de alguna forma) ni tratamos de convencer a nadie ni queremos necesariamente que se cumplan (sobre todo los peores). Lo que queremos es entender bien cómo puede evolucionar el mundo, y qué consecuencias puede tener para todos. Y mis ingresos ni mucho menos dependen de ello. Lo mismo con la predicción del tiempo, que trata de mejorar nuestra vida. (Vale, uno podría cuestionar si los Outlooks de la AIE tenían el mismo buen propósito :)).

Y estas predicciones no van de lograr más o menos poder ni influencia, sino de ayudar a la sociedad a tener mejor información sobre si deben llevar paraguas o no, o sobre si deberíamos implantar políticas para reducir nuestras emisiones de CO2. Tim Harford da también su visión sobre esto, muy sensata.

Creo que hubiera sido mucho mejor si todo esto lo hubiera dejado más claro desde el principio, y no tratara de generalizar tanto cuando no es posible. Es cierto que, casi de pasada, sí reconoce esta limitación, pero para mí tenía que haberlo formulado nada más empezar para acotar bien su área de análisis. Por ejemplo, hasta la página 52 no deja esto claro: "When someone makes a prediction having something to lose and little way to influence the outcome, chances are higher that the prediction is more about knowledge than power, although a successful prediction will lead to more power either way". Al scenario planning también lo libera de culpa, pero en la página 250...En el epílogo también matiza sus ataques a la predicción, pero de nuevo, demasiado tarde.

Más allá de eso, y si uno es capaz de aislarse, el libro tiene bastantes cosas de valor, y el marco de análisis me parece bueno. Como cuando denuncia, acertadamente, que el cómo se cuentan las cosas cambia la manera en la que pensamos sobre ellas (aunque esto me parece que está mucho mejor explicado en Seeing like a State). O como cuando se mete con los data-driven models (que estoy de acuerdo no pueden servir para tomar decisiones sin buen juicio). También me parecen muy buenos sus consejos finales sobre cómo tener una buena vida.

Eso sí, se mete mucho con los tecnobros, pero no demasiado con China, que me parece algo al menos equivalente, y mucho más inmediato en términos de estado vigilante y controlador. Tampoco me convencen sus apreciaciones sobre estadística, la verdad. Lo que dice que la IA no puede identificar causalidad por ser estadística me parece un contrasentido...ya veremos cuando Judea Pearl lo haga :). Ni entiendo qué tiene que ver la discusión sobre effective altruism (sobre la que uno puede estar de acuerdo o no) con el resto del libro, o la falta de sentido del humor de la IA. También he leído muchas mejores discusiones sobre el libre albedrío.

En cualquier caso: este libro no es para mí. Quizá para alguien más crédulo con los cuentos de los tecnobros y demás familia. Creo que en general la autora se equivoca de objetivo. El problema no es la predicción. El problema son los vendemotos (sobre todo los que tienen un arma peligrosa en las manos, como la IA), y los imbéciles que les compramos la moto.