Hello World, de Hannah Fry

La semana pasada hablaba de un libro perfectamente prescindible. Hoy reseño un libro que podría parecer similar, pero que afortunadamente aporta la suficiente inteligencia y sentido común como para aportar valor real al que lo lee.

Hannah Fry, con ese sentido del humor tan británico, analiza cómo los algoritmos nos ayudan (o no) a tomar decisiones en el ámbito de la información, la justicia, la medicina, los coches, el crimen, y el arte. Además hay dos capítulos más generales, uno que introduce la cuestión sobre todo en términos del poder que concedemos a los algoritmos, y otro final de conclusión y propuestas. Todos están muy bien escritos, y mediante ejemplos muy bien elegidos, consiguen que el lector entienda perfectamente cuáles son las ventajas e inconvenientes del uso de algoritmos, e incluso pone a su alcance entender las distintas técnicas de inteligencia artificial y aprendizaje automático. 

Eso sí, este no es un libro para expertos: para alguien familiarizado con el tema no dice nada nuevo. Pero sí es un estupendo libro para gente a la que le dan miedo los algoritimos, o para aquellos que confían en ellos ciegamente. Porque de lo que está lleno el libro, aparte de explicaciones claras, es de sentido común y sensatez. El capítulo sobre vehículos autónomos me parece excelente, una reflexión muy equilibrada y sin nada del bullshit habitual en todo lo que se refiere a ellos.

Fry no defiende el uso indiscriminado de los algoritmos, pero tampoco es negativa (como algún otro libro anterior): plantea fórmulas constructivas de colaboración entre seres humanos y máquinas. Su punto de partida, que comparto, es que ninguna solución puede ser perfecta. Cuando criticamos a los algoritmos por injustos o por cometer errores, es importante recordar cuál es la alternativa: humanos injustos y que cometen errores.

The choice isn't between a flawed algorithm and some imaginary perfect system. The only fair comparison to make is between the algorithm and what we'd be left with in its absence MIO: A flawed human.

Well designed and properly regulated algorithms can help get rid of systematic bias and random error.

 Así que lo mejor es aprovechar lo mejor de los dos:

Imagine that, rather than exclusively focusing our attention on designing our algorithms to adhere to some impossible standard of perfect fairness, we instead designed them to facilitate redress when they inevitably erred; that we put as much time and effort into ensuring that automatic systems were as easy to challenge as they are to implement. Perhaps the answer is to build algorithms to be contestable from the ground up. Imagine that we designed them to support humans in their decisions, rather than instruct them. To be transparent about why they came to a particular decision, rather than just inform us of the result.
In my view, the best algorithms are the ones that take the human into account at every stage. The ones that recognize our habit of over-trusting the output of a machine, while embracing their own flaws and wearing their uncertainty proudly front and centre.
This is the future I'm hoping for. One where the arrogant, dictatorial algorithms that fill many of these pages are a thing of the past. One where we stop seeing machines as objective masters and start treating them as we would any other source of power. By questioning their decisions; scrutinizing their motives; acknowledging our emotions; demanding to know who stands to benefit; holding them accountable for their mistakes and refusing to become complacent. I think this is the key to a future where the net overall effect of algorithms is a positive force for society. And it's only right that it's a job that rests squarely on our shoulders. Because one thing is for sure. In the age of the algorithm, humans have never been more important.

Y para terminar, por criticar algo :). El capítulo sobre arte me parece bastante más flojo, no habla casi de algoritmos, salvo al final. Y además, no estoy totalmente de acuerdo en su opinión de que los algoritmos no pueden crear arte verdadero, porque creo que tiene un concepto demasiado idealizado de lo que es arte y lo que no (o mejor, de lo que llamamos arte y lo que no). Básicamente porque, si sólo llamamos arte a lo que proponen Tolstoi y Hofstadter (el resultado de una experiencia vital intensa) entonces creo que no habría casi artistas :)

Eso sí,  ese mismo capítulo usa una cita de Twain que me encanta, otra versión del "no hay nada nuevo bajo el sol":

There is no such thing as a new idea. It is impossible. We simply take a lot of old ideas and put them into a sort of mental kaleidoscope. We give them a turn and they make new and curious combinations. We keep on turning and making new combinations indefinitely; but they are the same old pieces of colored glass that have been in use through all the ages.