Investigación científica e Inteligencia Artificial: perspectivas constitucionales

Abstract

Resumen El desarrollo de los sistemas de Inteligencia Artificial plantea riesgos para la protección de los derechos y libertades de las personas. Para hacer frente a estos riesgos, la Unión Europea está desarrollando un marco ético y normativo de gobernanza digital y tecnológica que pone en el centro a las personas. El nuevo Reglamento de Inteligencia Artificial es uno de los hitos importantes en este proceso de construcción del marco normativo que, sin embargo, exceptúa de su ámbito de aplicación la actividad científica, con alguna excepción. Así, la actividad de investigación con sistemas de IA deberá ajustarse a los principios éticos aplicables. En este trabajo tratamos de aproximarnos a estos principios (éticos) que están llamados a gobernar la investigación científica con de sistemas de IA y que, inferidos de distintos textos como las Directrices Éticas para una IA fiable, integran tanto principios ya reconocidos en el ordenamiento jurídico (principios jurídicos) como principios éticos (metajurídicos) que se complementan dentro del emergente Derecho europeo de la ciencia y la tecnología o tecnoderecho, formando un nuevo tango jurídico con el que debemos “bailar” para garantizar la máxima garantía a los derechos y libertades de las personas, incluyendo todo el proceso de investigación científica con sistemas de IA. Palabras clave: inteligencia artificial, IA princípios, ética, investigación, derecho, tecnoderecho AbstractThe development of Artificial Intelligence systems poses risks to the protection of human rights and freedoms. To address these risks, the European Union is developing an ethical and regulatory framework of digital and technological governance that puts people at the center. The new Artificial Intelligence Act is one of the important milestones in this process of building the regulatory framework, which, however, excludes scientific activity from its scope, with some exceptions. Therefore, the research activity with AI systems must comply with applicable ethical principles. In this work, we attempt to explore these (ethical) principles. that are called to govern scientific research with AI systems and that, inferred from different texts such as the Ethical Guidelines for Trustworthy AI, integrate both principles already recognized in the legal framework (legal principles) as well as ethical principles (meta-legal) that complement each other within the emerging European law of science and technology or techno-law, forming a new legal tango with which we may "dance" to guarantee the maximum guarantee to the rights and freedoms of people, including the entire process of scientific research with AI systems. Key words: artificial intelligence, AI principles, ethics, research, law, technolaw