En los Estados sociales y democráticos de Derecho la llamada revolución digital aporta, en relación con los derechos fundamentales, una doble vertiente: por un lado, la interacción entre la computación, la electrónica, las telecomunicaciones, la matemática, la ingeniería, la inteligencia artificial, la robótica y otras ciencias conexas, puede generar nuevas e importantes facultades que se interpreten como parte del objeto de los derechos fundamentales ya reconocidos y, en su caso, se plasmen en las leyes que los desarrollen o, incluso, puede dar lugar a la necesidad de promover cambios constitucionales que incorporen otros derechos, como ha empezado a ocurrir con los llamados “neuroderechos”, que ya han sido reconocidos en fechas recientes (25 de octubre de 2021) en la Constitución chilena, cuyo artículo 19.1 in fine dispone que “El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella.
A este respecto, desde el Parlamento Europeo se “pide a la Comisión que estudie la posibilidad de presentar una iniciativa relativa a los neuroderechos, con el objetivo de proteger el cerebro humano contra la injerencia, la manipulación y el control por parte de la neurotecnología impulsada por la inteligencia artificial (IA) [y] anima a la Comisión a que defienda una agenda de neuroderechos a nivel de las Naciones Unidas con el fin de incluir estos derechos en la Declaración Universal de Derechos Humanos, concretamente en lo que respecta a los derechos a la identidad, al libre albedrío, a la privacidad mental, a la igualdad de acceso a los avances en materia de aumento del cerebro y a la protección frente al sesgo algorítmico” (Resolución sobre la inteligencia artificial en la era digital, párrafo 247).
En el ámbito nacional, el Gobierno español ha promovido la elaboración de la llamada Carta de derechos digitales, de 14 de julio de 2021, pero se trata de un texto sin valor jurídico alguno y es que, como se declara en las llamadas “Consideraciones previas”, “no trata de crear nuevos derechos fundamentales sino de perfilar los más relevantes en el entorno y los espacios digitales o describir derechos instrumentales o auxiliares de los primeros… La Carta no tiene carácter normativo, sino que su objetivo es reconocer los novísimos retos de aplicación e interpretación que la adaptación de los derechos al entorno digital plantea, así como sugerir principios y políticas referidas a ellos en el citado contexto. Con ello, también, proponer un marco de referencia para la acción de los poderes públicos de forma que, siendo compartida por todos, permita navegar en el entorno digital en que nos encontramos aprovechando y desarrollando todas sus potencialidades y oportunidades y conjurando sus riesgos. Y contribuir a los procesos de reflexión que se están produciendo a nivel europeo y, con ello, liderar un proceso imprescindible a nivel global para garantizar una digitalización humanista, que ponga a las personas en el centro”.
No obstante, lo que hace falta es convertir en auténticas normas jurídicas, y no en meras recomendaciones éticas, los mandatos y prohibiciones específicos en materia de transparencia de los algoritmos, que garanticen un acceso claro y manejable a los datos personales que se usan así como el derecho a compartirlos o transferirlos de manera sencilla; el establecimiento de mecanismos eficaces para combatir las discriminaciones y los sesgos, con especial atención a la protección de las personas y los grupos vulnerables; la regulación del uso de las tecnologías de inteligencia artificial por parte de las autoridades policiales y judiciales así como del registro y la vigilancia humana a través de sistemas de identificación biométrica remota; el régimen de responsabilidad y rendición de cuentas, los derechos de propiedad intelectual derivados del uso de tecnologías relativas a la IA y los derechos de los usuarios y consumidores, especialmente si se trata de dispositivos médicos vitales y avanzados; las obligaciones de los desarrolladores y desplegadores de la IA; el régimen de recursos frente a decisiones tomadas por sistemas de IA, robótica o tecnologías conexas; el régimen de uso de las tecnologías de IA en el ámbito de la defensa y la seguridad; la regulación del empleo de la IA para los diferentes sistemas de transporte, en particular para la autorización de los vehículos autónomos; el establecimiento de una autoridad nacional de control…
A este respecto, y como muestra de una Carta con “valor jurídico”, cabe mencionar la aprobación, mediante la Lei n.º 27/2021 de 17 de mayo, de la Carta Portuguesa de Direitos Humanos na Era Digital, que incluye, además de la proyección de derechos clásicos, como las libertades de expresión, manifestación, asociación o participación, en el mundo digital, y de reconocer derechos recientes, como el derecho al olvido y la protección contra la geolocalización abusiva, el uso de la inteligencia artificial y los robots: “1. El uso de la inteligencia artificial se guiará por el respeto a los derechos fundamentales, garantizando un justo equilibrio entre los principios de explicabilidad, seguridad, transparencia y responsabilidad, teniendo en cuenta las circunstancias de cada caso concreto y estableciendo procesos para evitar prejuicios y discriminaciones. 2 – Las decisiones tomadas mediante algoritmos que tengan un impacto significativo en los destinatarios deberán ser comunicadas a los interesados, ser susceptibles de recurso y ser auditables en los términos previstos por la ley. 3 – Los principios de beneficencia, no maleficencia, respeto a la autonomía humana y justicia, así como los principios y valores consagrados en el artículo 2 del Tratado de la Unión Europea, a saber, la no discriminación y la tolerancia, se aplicarán a la creación y utilización de robots” (artículo 9).
En todo caso, las regulaciones nacionales de nuestro entorno geográfico y político tendrían que insertarse en un auténtico marco jurídico europeo, que vaya más allá de las recomendaciones y las indicaciones de tipo ético, no en vano en este ámbito juega un papel especialmente relevante el principio de precaución, que guía la legislación de la Unión Europea y debe ocupar un lugar central en cualquier marco regulador para la inteligencia artificial, aunque hay quien defiende que en este ámbito -y en otros de similar complejidad como la investigación embrionaria humana- debe postularse la superación de la distinción entre Derecho duro vinculante y Derecho blando no vinculante (hard y soft law) como la mejor opción para una eventual regulación internacional de IA.
Además de la vertiente acabada de comentar, la informática, la IA y la robótica y las tecnologías digitales conexas permean tres principios estructurales del Estado y los derechos fundamentales que están relacionados con ellos: su carácter de Estado de Derecho, su condición de Estado democrático y la garantía del Estado social.
En lo que al Estado de Derecho se refiere, el uso de esas ciencias debe, primero, someterse al principio de legalidad, tanto en el sentido amplio de este término, entendido como principio de juridicidad o sumisión a normas jurídicas, como en el sentido más preciso de regulación por leyes. Aquí nos encontramos con diferentes retos, aunque el principal sería, hay que insistir en ello, el de sujetar a disposiciones jurídicas y no meramente a dictados éticos el desarrollo, el despliegue y el uso de la informática, la IA, la robótica y las tecnologías conexas. Al respecto el Parlamento Europeo ha sido claro: “los legisladores deben abordar los riesgos que plantea actualmente la toma de decisiones basada en la IA” y pide “un entorno normativo para la IA que proporcione una gobernanza eficaz y garantice la protección de los derechos fundamentales”. Ahora bien, “la IA no siempre debe estar regulada en tanto que tecnología, sino que el nivel de la intervención reguladora debe ser proporcional al tipo de riesgo individual o social que entraña el uso de un sistema de IA; subraya, a este respecto, la importancia de distinguir entre casos de uso de la IA de «alto riesgo» y de «bajo riesgo»; concluye que la primera categoría requiere más salvaguardias legislativas estrictas, mientras que la segunda, en muchos casos requerirá requisitos de transparencia para los usuarios finales y los consumidores” (párrafos 16, 298 y 133 de la Resolución sobre la inteligencia artificial en la era digital).
En segundo lugar, sigue vigente el reto de sujetar a control jurisdiccional la actuación administrativa que se sirva de la informática, la IA, la robótica y las tecnologías conexas y, a este respecto, lo que pretende llevar a cabo la Agencia Tributaria española podría ser un buen ejemplo pues, según su plan estratégico 2020-2023, “aprovechará el potencial que ofrece la tecnología para culminar el proceso de automatización en la tramitación de procedimientos iniciado hace años. De esta forma se liberarán recursos humanos para las actividades de mayor valor añadido, se garantizará un tratamiento uniforme a los contribuyentes, se podrá facilitar el cumplimiento de sus obligaciones y contribuir a erradicar el fraude fiscal. Para ello serán claves tecnologías como el tratamiento del lenguaje natural, el tratamiento avanzado de datos y la inteligencia artificial”.
A esa posibilidad de control jurisdiccional también deben estar sometidas las decisiones de las autoridades administrativas independientes que, a su vez y de acuerdo con las propuestas de las instituciones europeas, actúen como autoridades nacionales de control sobre la aplicación de la IA.
En tercer término, es inherente al Estado de Derecho la garantía de una serie de derechos, inicialmente de índole “civil” y ahora también de carácter democrático y social, y, como hemos visto con más detalle en páginas anteriores, poca duda cabe sobre la necesidad de asegurar el disfrute de tales derechos en un contexto dominado por las tecnologías citadas.
Por lo que hace relación con el Estado democrático, es sabido que son consustanciales al mismo el reconocimiento del pluralismo de los grupos y las asociaciones, el respeto a las minorías y la participación ciudadana en las diferentes funciones del Estado (legislativa, ejecutiva, jurisdiccional), participación que es al tiempo un derecho y un mandato de actuación para los poderes públicos, como se evidencia, por ejemplo, en el artículo 9.2 de la Constitución española, en la línea, a su vez, del artículo 3.2 de la Constitución italiana.
Pues bien, en materia de Estado democrático la informática, la IA, la robótica y las tecnologías conexas deben no solo respetar sino también contribuir al fomento del pluralismo político y social facilitando la participación en los procesos electorales, en las campañas virtuales y en el activismo en línea, así como el diálogo y el debate entre la ciudadanía y sus representantes y gobiernos. Igualmente, deben adoptarse medidas que garanticen un mínimo de igualdad de los procesos electorales, la transparencia de las campañas, el gasto, los mensajes y los algoritmos utilizados en la publicidad digital en aras a alcanzar procesos de decisión política lo más justos, limpios y transparentes que se pueda.
Finalmente, y a propósito del carácter social del Estado, la dimensión prestacional que lo caracteriza, así como la búsqueda de la mayor igualdad real posible, deben, por una parte, evitar que en la era digital se consoliden sesgos que pueden tener efectos mucho más amplios y afectar y discriminar a numerosas personas sin que existan mecanismos de cierta salvaguardia como los de control social que rigen el comportamiento humano.
Y en lo que respecta al propio acceso de la ciudadanía al mundo digital, su efectividad dependerá de las actuaciones formativas y de las dotaciones económicas que aporten los poderes públicos y, en tal sentido, cabría interpretar que tienen un claro contenido prestacional. En esta línea, la Resolución del Parlamento Europeo de 3 de mayo de 2022 “pide a los Estados miembros que hagan de las capacidades y la alfabetización digitales un componente de la educación básica y el aprendizaje permanente; pide un sistema educativo en materia de IA de alto rendimiento que fomente la alfabetización, las capacidades y la resiliencia digitales desde una edad temprana, comenzando en la educación primaria; hace hincapié en que el desarrollo de planes de estudios eficaces para la educación digital requiere voluntad política, recursos suficientes e investigación científica; pide a la Comisión que promueva la introducción de cursos de competencias computacionales y de IA en todas las escuelas, universidades e instituciones educativas europeas; recalca que dicho desarrollo de capacidades es necesario en la misma medida en la educación de adultos que en la educación primaria y secundaria; solicita una iniciativa política global y coherente de la Comisión y de los Estados miembros sobre las capacidades y la educación en materia de IA a escala de la Unión, así como una iniciativa legislativa sobre la IA en el lugar de trabajo” (párrafo 205).
Además, la dimensión social de los derechos, unida al principio democrático, da una nueva perspectiva a la eficacia de éstos, que no sólo ha de ser vertical (frente a los poderes públicos), sino, al menos en algunos casos, también horizontal (entre individuos, dentro de la sociedad) y ahí deben tenerse también en cuenta la informática, la IA, la robótica y las tecnologías conexas y su incidencia, entre otros ámbitos, en las relaciones laborales y en el ámbito del Derecho del consumo.
*********************************************************************************************************
The so-called digital revolution adds, in social and democratic States under the rule of Law, a double perspective regarding fundamental rights. On the one hand, the interaction between computing, electronics, telecommunications, mathematics, engineering, artificial intelligence (AI), robotics and other related sciences can create new and important powers for people which can be part of the object of the fundamental rights already recognized. These new powers can be reflected in the laws that develop them or even may give rise to the need to promote constitutional changes to include some new rights, as it has been the case of the ‘neurorights’, recently enshrined (October 25, 2021) in the Chilean Constitution. Its article 19.1 in fine provides that ‘scientific and technological development will be at the service of the people and will be carried out with respect for life and physical and mental integrity. The law will regulate the requirements, conditions and restrictions for its use in people, and must especially protect brain activity, as well as the information from it’. In this regard, the European Parliament ‘calls on the Commission to consider an initiative on neurorights with the aim to guard the human brain against interference, manipulation and control by AI-powered neurotechnology; encourages the Commission to champion a neurorights agenda at the UN level in order to include neurorights in the Universal Declaration of Human Rights, concretely as regards the rights to identity, free will, mental privacy, equal access to brain augmentation advances and protection from algorithmic bias’ (Resolution on Artificial Intelligence in the Digital Age, paragraph 247).
At the national level, the Spanish Government has promoted the elaboration of the Charter of Digital Rights, July 14, 2021. However, it is a document without any legal value. As stated in the ‘Previous Considerations’, the Charter ‘does not try to create new fundamental rights but to outline the most relevant ones in the digital environment or describe instrumental or auxiliary rights of the former. The Charter is not normative, but its objective is to recognize the very new challenges of application and interpretation that the adaptation of rights to the digital environment poses, as well as to suggest principles and policies related to them in the aforementioned context. Thus, it also proposes a reference framework for the action of the public authorities so that, shared by all, allows us to navigate in the digital environment in which we find ourselves taking advantage of and developing all its potentialities and opportunities and conjuring up its risks. And contribute to the processes of reflection that are taking place at European level and, with it, lead an essential process at a global level to guarantee a humanistic digitalization, which puts people at the center’.
Nevertheless, specific mandates and prohibitions on the transparency of algorithms must be turned into genuine legal rules rather than into mere ethical recommendations. This is the only way to guarantee clear and manageable access to the personal data as well as the right to share or transfer them in a simple manner; the establishment of effective mechanisms to combat discrimination and bias, with particular attention to the protection of vulnerable individuals and groups; the regulation of the use of AI by the police and judicial authorities as well as human seizures and surveillance through remote biometric identification systems; the liability and accountability legal regime; the intellectual property rights arising from the use of AI-related technologies and the rights of users and consumers, especially in the case of vital and advanced medical devices; the obligations of AI developers and deployers; the ways to appeal decisions made by AI systems, robotics or related technologies; the legal regime of AI in the field of defence and security; the regulation of the use of AI for different transport systems, in particular for the authorization of autonomous vehicles; the establishment of a national supervisory authority…
In this regard, and as an example of a Charter with ‘legal force’, it is worth mentioning the approval, through Law No. 27/2021 of May 17, of the Portuguese Charter of Human Rights on the Digital Age. It includes, along with the classic rights such as the freedoms of expression, demonstration, association or participation in the digital world, another more recent rights, such as the right to be forgotten and the protection against abusive geolocation, the use of artificial intelligence and robots: ‘1. The use of artificial intelligence will be guided by respect for fundamental rights, guaranteeing a fair balance between the principles of explainability, security, transparency and responsibility, taking into account the circumstances of each specific case and establishing processes to avoid prejudice and discrimination. 2 – Decisions taken by means of algorithms that have a significant impact on the recipients must be communicated to the interested parties, be subject to appeal and be auditable in the terms provided by law. 3 – The principles of beneficence, non-maleficence, respect for human autonomy and justice, as well as the principles and values enshrined in Article 2 of the Treaty on European Union, namely non-discrimination and tolerance, shall apply to the creation and use of robots’ (Article 9).
In any case, the national regulations of our geographical and political environment should be inserted in a genuine European legal framework which goes beyond ethical recommendations and indications. In fact, the precautionary principle which guides the legislation of the European Union and must be central in any regulatory framework of artificial intelligence, plays a relevant role in this field. However, some argue that, in this area – and in others of similar complexity such as human embryonic research – the international regulation of AI should go beyond the traditional distinction between (binding) hard law and (non-binding) soft law.
In addition, computer science, AI and robotics and related digital technologies permeate three structural principles of the State and the fundamental rights related to them: the rule of law, the democratic and the social State. As far as the rule of law is concerned, the use of those sciences must be, in first place, subject to the principle of legality, both in the broad sense of that term (submission to legal norms) and in the more precise one (regulation by laws). Here we face different challenges, although the main one would be -we must say it again-, subjecting to legal provisions, and not merely to ethical recommendations, the development, deployment and use of computing, AI, robotics and related technologies. In this regard, the European Parliament has been clear: ‘the risks currently posed by AI-based decision-making need to be addressed by the legislators’ and ‘calls for a regulatory environment for AI that provides effective governance and protection of fundamental rights’. However, ‘it is not always AI as a technology that should be regulated, but that the level of regulatory intervention should be proportionate to the type of individual and/or societal risk incurred by the use of an AI system; underlines, in this regard, the importance of distinguishing between ‘high-risk’ and ‘low-risk’ AI use cases; concludes that the former category needs strict additional legislative safeguards while ‘low-risk’ use cases may, in many cases, require transparency requirements for end users and consumers’ (Resolution on Artificial Intelligence in the Digital Age, paragraphs 16, 298 y 133).
Secondly, the judicial review of the administrative activity using information technology, AI, robotics and related technologies is a challenge that remains ongoing. What the Spanish Tax Agency intends to carry out could be a good example of it. According to its strategic plan 2020-2023, ‘it will take advantage of the potential offered by technology to complete the automation process in the processing of procedures initiated years ago. In this way, human resources will be freed up for the activities with the highest added value, a uniform treatment of taxpayers will be guaranteed, compliance with their obligations can be facilitated and contribute to eradicating tax fraud. For this, technologies such as natural language processing, advanced data processing and artificial intelligence will be key.’ Decisions of independent administrative authorities -who should act as national supervisory authorities on the application of AI, according with the proposals of the European institutions- should also be subject to judicial review.
Thirdly, it is inherent to the rule of law the guarantee of some rights, initially of a «civil» nature but now also of a democratic and social nature. As we have seen in more detail in previous pages, there is little doubt about the need to ensure the enjoyment of such rights in a context dominated by the aforementioned technologies.
Concerning the democratic State, the pluralism of groups and associations, the respect for minorities and citizen participation in the different functions of the State (legislative, executive, jurisdictional) -participation that is both a right and a mandate of action for the public authorities as evidenced, for example, in Article 9.2 of the Spanish Constitution, in line with Article 3.2 of the Italian Constitution– are intrinsic to it. This being so, information technology, AI, robotics and related technologies must not only respect but also contribute to the promotion of political and social pluralism by facilitating participation in electoral processes, virtual campaigns and online activism, as well as dialogue and debate between citizens and their representatives and governments. Likewise, measures must be adopted to guarantee a minimum of equality in electoral processes, transparency of campaigns, expenditure, messages and algorithms used in digital advertising in order to make political decision-making processes as fair and transparent as possible.
Finally, and concerning the social character of the State, the interventionist nature that characterizes it, as well as the search for the greatest possible real equality, must prevent the consolidation of biases. These can have broad effects and affect and discriminate many people without there being safeguard mechanisms such as those of social control that rule human behavior.
With regard to citizens’ access to the digital world, its effectiveness will depend on the training actions and economic endowments provided by the public authorities. Thus, this kind of rights could be conceptualized somehow as social rights since they demand performance from the State. In this line, the European Parliament resolution of 3 May 2022 ‘calls on the Member States to make digital skills and literacy a component of basic education and lifelong learning; calls for a high-performing AI education system that fosters digital literacy, skills and digital resilience from an early stage, starting with primary education; emphasizes that the development of effective curricula for digital education requires political will, sufficient resources and scientific research; calls on the Commission to promote the introduction of AI and computational competence courses in all European schools, universities and educational institutions; highlights that such skills development is needed in adult education as much as in primary or secondary education; calls for a comprehensive and consistent policy initiative from the Commission and the Member States on AI skills and education at EU level, as well as for a legislative initiative on AI in the workplace’ (paragraph 205).
In addition, the social dimension of rights, together with the democratic principle, gives a new perspective to the effectiveness of these rights. It should not only be vertical (against to public authorities) but, at least in some cases, also horizontal (among individuals, within society). There must also be taken into account information technology, AI, robotics and related technologies and their impact, inter alia, on industrial relations and consumer law.
Pd. The English version was published first in The Digital Constitutionalism. My thanks go to Natalia Menéndez González and Patricia García Majado.
El derecho y el revés 
Reblogueó esto en IUSLEXBLOG..