#170 La conclusión que yo saco de esto es que, si se puede hacer daño de manera inocente y sin querer, imagina cuánto daño se podría hacer aposta. Ya se hace, de hecho.
La sociedad ahora mismo es como un mono con una metralleta en las manos.
#172 Lectura y comprensión lectora, no te quedes a la mitad de lo que escribí. Dije que es un bulo que esté basada en IA, en el artículo al que haces referencia no mencionan que se base en IA. Lo del "algoritmo" da mucho miedo pero no es más que la programación de una base de datos que ahorra mucho tiempo a jueces y convictos. La mayoría de los presos que aspiran a la libertad condicional deben esperar semanas o meses porque los trámites administrativos, desde que el juez solicita los informes a todas las partes hasta que los recibe, son largos. Con ese sistema, pueden conocer la decisión del tribunal o responsable en plazos más cortos, abreviando así su ansiedad. Siempre habrá quien haya reincidido pero esté rehabilitado y el "algoritmo" lo marque como no apto por su tendencia a reincidir, los demás presos preferirán estar en la calle a expensas de esos errores.
Estamos hablando de reincidentes, no de parvulitos. Si el programa impide que un pedófilo reincidente alquile el piso de al lado donde vives con tus hijos, no te veo con ganas de criticar ese sistema.
Para los que no se vean con ganas de leer y asimilar, copio y pego del artículo.
//COMPAS es un algoritmo, creado por la compañía privada Northpointe, que calcula la probabilidad de que alguien cometa otro crimen y sugiere qué supervisión debe recibir en prisión.
La empresa también publicó artículos que avalan la eficiencia de su programa. Se le hicieron correcciones y se sigue utilizando en New York, Wisconsin, California y Florida.
“No es culpa del software sino de los datos que se ingresan por parte de los tribunales”, insiste la entrevistada.
El algoritmo bajo el cual está programado el software —el cual contiene estadísticas, datos del acusado y una entrevista previa de 137 preguntas— //
No se trata de un programa maléfico con malvada entidad y conciencia de sí mismo para mantener a los reos bajo el pie de la justicia opresora. Los sesgos se pulen porque el sistema semiprivatizado penitenciario estadounidense no puede sostener una población reclusa que no rote, no le resulta rentable. Soy el primero al que le horroriza la privatización de los servicios públicos, pero aquí el dilema radica en que una herramienta tan útil esté desarrollada por una empresa privada y no por el gobierno federal.
Si has pegado cinco puñaladas o has robado tres coches o te han pillado trapicheando droga dos veces, eres reincidente. Reincidente es el que repite un mismo delito, no es alguien de la calle que estaba tocando en su casa y lo meten en la cárcel por tocar demasiado alto.
Hubo polémica en su día por el mismo motivo que tú te has alarmado ahora, no es nada nuevo, los medios exageraron todo. Por lo que deberíamos alarmarnos realmente es porque el sistema VioGén dé avisos y las autoridades españolas no actúen en consecuencia hasta que hay mujeres y niños atacados, eso sí es vergonzoso.
No te preocupes, seguramente desconoces realidades peores de ese sistema judicial y penitenciario que ponen los pelos de punta.
#175 Eso es magufia tecnológica, los programadores saben perfectamente lo que han hecho y entregan el código fuente de sus proyectos a sus jefes o al que paga. Ese es otro bulo común: "nadie conoce lo que hay en la caja negra". Los que lo venden saben perfectamente lo que venden.
Podemos atacarlo con realidades o con berrinches, pero no con bulos.
#178 Con todo el respeto, no hay nada documentado sobre lo que dices. Nada de lo que dices está basado en información real verificada, son divagaciones distópicas de serie trillada de televisión. No existen las cajas negras misteriosas, son tontunas de pelis y de medios sensacionalistas.
Lo de que los negros y latinos consolidan el grueso mayoritario de la población carcelaria es cierto, por zonas geográficas y densidad demográfica de esos grupos, claro; pero es por la mera estrategia política de control racial generalizada y endémica, muy reprobable pero que no tiene nada que ver con la aplicación COMPAS.
Lo que sí está muy documentado es el uso torticero de este tipo de aplicaciones, hay más pero menos publicitadas, por parte de las autoridades. El programa solo devuelve un informe en función de los datos que se le introducen, no posee capacidad de juicio ni decisión que envié a nadie a la cárcel ni emite órdenes de detención. Todo eso lo hace un juez, que puede ser o no un racista de mierda. El sesgo lo aplican el juez y los que envíen los informes que él solicita.
Y repito que se trata de reincidentes.
