Miguel_Ortego
Privacy, Data & Cybersecurity

La justicia holandesa prohibe un algoritmo estatal por vulnerar la privacidad

El Ministerio de Asuntos Sociales y Empleo holandés emplea desde 2014 un algoritmo, el «System Risk Indication» («SyRI») para rastrear posibles fraudes al Estado. SyRI obtiene y analiza los datos de ingresos, pensiones, seguros, tipo de casa, impuestos, multas, integración, educación, deudas o subsidio de desempleo de los contribuyentes para calcular luego a base de algoritmos quién tiene más probabilidades de defraudar a la Administración.

El Tribunal de Distrito de La Haya ha emitido una sentencia de fecha 5 de febrero de 2020 (la primera en esta materia en Europa) por la que prohibe el sistema al entender que «no respeta la privacidad del ciudadano y vulnera el artículo 8 de la Convención Europea de Derechos Humanos», según publica hoy El País.

Añade, además que, si bien «el objetivo legítimo y de gran relevancia social de evitar un delito». Sin embargo, «el modelo de riesgo elaborado en estos momentos por SyRI puede tener efectos no deseados, como estigmatizar y discriminar a la ciudadanía, por la ingente cantidad de información que recoge». 

En octubre, el australiano Philip Alston, relator especial de la ONU sobre pobreza y derechos humanos, remitió un informe al tribunal criticando que SyRI “señala a los ciudadanos con menos renta y a grupos de población de origen inmigrante”.

Según informa El País, en EE.UU. (por ejemplo en el estado de Filadelfia), un algoritmo lleva un lustro calculando posibilidades de reincidencia de delincuentes. Bristol, por su parte, tiene su propio sistema para identificar a los jóvenes más propensos a delinquir como informa The New York Times.

¿Cómo funciona SyRI en detalle?

Primero se identificaban los barrios considerados peligrosos y se calculaban las posibles irregularidades que se podrían cometer. Para ello, SyRI enlazaba todos los datos de los residentes que previamente había recopilado la Administración a través de la relación electrónica del ciudadano con ella. La Agencia Tributaria, la inspección de Asuntos Sociales y Empleo, o el Banco de la Seguridad Social tenían acceso a SyRI y le suministraban datos.

Tras esto, se elaborada un «perfil de riesgo» de cada ciudadano. Mediante comparación, se confeccionaba una «lista negra» de nombres que las autoridades y fuerzas de seguridad tenían en su poder durante hasta dos años. Todo se manejaba de manera centralizada, a nivel Estatal, de tal forma que si un municipio tenía sospechas de algún ciudadano y quería obtener información de su perfil, debía pedir permiso al Ministerio.

Para más información sobre SyRI visite su web aquí.

Imagen: SyRI

50 Comments

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *