Decisiones automatizadas y discriminación: aproximación y propuestas generales

El presente trabajo se centra en la perpetuación de la desigualdad a través de los sistemas automatizados de toma de decisiones y de creación de perfiles, analizando las formas en que la normativa en materia de igualdad y no discriminación y, en menor medida, en materia de protección de datos, puede prevenir y hacer frente a las situaciones de discriminación algorítmica. Asimismo, la parte final del artículo se dedica a realizar un esbozo general de posibles propuestas para la elaboración de un marco jurídico que, de manera efectiva, controle y lidie con los diferentes riesgos y daños derivados del creciente uso de sistemas algorítmicos, tanto en el sector público, como en el sector privado.

This paper focuses on the perpetuation of inequality through automated decision-making and profiling systems, analysing the ways in which equality and non-discrimination regulations, and to a lesser extent, data protection regulatory instruments, can prevent and address situations of algorithmic discrimination. In addition, the final part of the paper draws a general outline of possible proposals for the development of a legal framework that effectively controls and deals with the different risks and damages derived from the growing use of algorithmic systems, both in the public and private sectors.