viernes, 10 de marzo de 2017

Algoritmos éticos y responsables

Hace ya tiempo mencioné aquí un libro que trata en qué medida los algoritmos pueden crear una sociedad más desigual. Esta conversación parece continuar en internet. De hecho, lo normal es que se haga cada vez más amplia, porque cada vez más nos digitalizamos más, y nos apoyamos en sistemas automáticos para hacer muchas cosas (aunque no siempre los aceptemos con alegría :)). Y esto, claro, tiene el riesgo de que deshumanicemos las decisiones, y también de que nos quitemos la responsabilidad de encima confiándosela a una máquina o "sistema de objetivación". En el fondo, algo similar a lo de seguir engañado creyendo que el conocimiento es neutro:
O’Neil offers a similar argument: “Models are constructed not just from data but from choices we make about which data to pay attention to — and which to leave out. Those choices are not just about logistics, profits, and efficiency. They are fundamentally moral. If we back away from them and treat mathematical models as a neutral and inevitable force, like the weather or the tides, we abdicate our responsibility.”
Así, desde el MIT Tech Review nos plantean la necesidad de crear un sistema para que los algoritmos se construyan de forma responsable y ética. A mí me parece muy sensato lo que proponen.