hay una parte de mi que tiende al tecno optimismo y otra parte, derivada de mi cultura baby boomer (age) que me hace re-considerar cualquier avance e invención antes de abrazarla a ciegas y darle el si quiero
los algoritmos sin duda nos hacen la vida más fácil, ya que su férrea cadena de instrucciones tiende a ser menos olvidadiza a la hora de hacer/realizar acciones que en los humanos siempre se ven condicionadas por el contexto
Como sabeis en este blog siempre he criticado el tecno pesimismo ideológico (oponerse por que si o que nos obliga a cambiar) pero tambien quiero que seamos conscientes que los algoritmos (o sea cadenas de instrucciones que alguien programa) esta condicionando cada vez más aspectos de nuestra vida cotidiana como que nos concedan un crédito, el precio de nuestro seguro o nuestro riesgo crediticio (¿me dará el banco un crédito ?) aparentemente sin que lo notemos o nos paremos reflexionar hacia donde vamos...
Este es el caso de la histórica sentencia de la Corte Suprema de Wisconsin en los US que considera completamente acorde a la Constitución que un algoritmo, de código propietario desarrollado por una empresa privada, pueda ayudar al juez a determinar una condena
La sentencia de la Corte Suprema se produce por la apelación de Eric Loomis a su condena de 6 años de prisión tras ser detenido 2013 conduciendo un coche que habia sido usado en un tiroteo (y negarse a parar! etc etc)
El caso es que la sentencia inicial del juez se baso o utilizó o tuvo muy en cuenta, una herramienta llamada COMPAS desarrollada por la empresa Northpointe, una compañia de Michigan que lleva 27 años desarrollando software para evaluación de sentencias, que establece el riesgo de reincidencia de una persona por medio de un test de 137 preguntas sobre el historial del presunto culpable
Loomis consideró que su sentencia estaba sesgada ya que los criterios del algoritmo COMPAS no eran públicos y por tanto no podían ser corroborados a luz publica.
Sin embargo, el órgano superior de justicia del Estado de Wisconsin dice que no es necesario hacer públicos los factores que tiene en cuenta el algoritmo para establecer el riesgo y la posible condena de un presunto delincuente
Si alguien lee solo el titular sin leer la orden de la Corte Suprema parece un disparate, pero la Corte de Wisconsin dice con bastante sentido común que las calificaciones del programa COMPAS son una de entre varias consideraciones y que los jueces deben andar por una linea muy fina cuando usan herramientas de soft predictivas
Apasionante, de todos modos por que lo que revela este caso es que los algoritmos en la Justicia son una realidad hace años en los US (y seguramente muchos otros paises que no salen en los medios) lo que nos enfrenta a la repetida cuestión de que conocer, desarrollar, participar en la generación de algoritmos es ya una necesidad ciudadana
No comments:
Post a Comment