Los miembros de la Unión Europea han pactado una nueva legislación para regular la inteligencia artificial. La nueva normativa pretende regular esta tecnología para evitar o reducir al mínimo los posibles riesgos que puedan representar para los ciudadanos.
La presidenta de la Comisión Europea, Ursula von Der Leyen, ha compartido la aprobación de esta normativa a través de un mensaje publicado en la red social X, antigua Twitter: "La ley de inteligencia artificial de la UE es pionera en el mundo. Un marco legal único para el desarrollo de la inteligencia artificial en el que se puede confiar. Por la seguridad y los derechos fundamentales de las personas y las empresas. Un compromiso que asumimos en nuestras directrices políticas y cumplimos", ha afirmado.
The ???????? AI Act is a global first.
— Ursula von der Leyen (@vonderleyen) December 8, 2023
A unique legal framework for the development of AI you can trust.
And for the safety and fundamental rights of people and businesses.
A commitment we took in our political guidelines - and we delivered.
I welcome today's political agreement.
Esta nueva legislación se aprueba después de 36 horas de negociaciones, que todavía se mantendrá a la espera de la ratificación del Parlamento Europeo y el Consejo de la Unión Europea (UE), que representa a los Gobiernos europeos. ¿Qué representará esta norma?
Regulación en la vigilancia
La nueva legislación regula el uso que las fuerza de seguridad podrán realizar de las cámaras de identificación biométrica en espacios públicos para garantizar la seguridad nacional de los ciudadanos.
Se permitirá su utilización con autorización judicial previa en caso de amenaza terrorista "genuina y previsible" o "genuina y presente", cuando dicha circunstancia se esté produciendo en un momento determinado. Además, las cámaras se podrán emplear en la localización o identificación de una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o un crimen medioambiental, así como para buscar a las víctimas de dichos delitos.
Los gobiernos han presionado para ampliar la lista de delitos, pero la Eurocámara ha intentado limitarla lo máximo posible y obtener fuertes salvaguardas para los derechos fundamentales.
Prohibiciones
En la legislación, además, se prohíben los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o derivadas de raza u orientación sexual. Además, no se podrán emplear los sistemas que puntúan a las personas en función de su comportamiento o características personales, ni la inteligencia artificial capaz de manipular el comportamiento humano.
También se establece la prohibición de los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o grabaciones audiovisuales. Además, en los centros de trabajo o escuelas, también se prohibirán los sistemas de inteligencia artificial que pueden reconocer las emociones.
Regulación de herramientas de IA generativa
En el marco de los debates sobre la nueva legislación también se ha debatido la regulación de sistemas de inteligencia artificial generativa, con sistemas como ChatGPT de OpenAI, o Bard, de Google.
La norma establece que deben cumplir criterios de transparencia, como especificar si un texto, canción o fotografía se han generado a través de inteligencia artificial y garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.
La ley no se había planteado para la regulación de este tipo de sistemas, pero las instituciones comunitarias han visto la necesidad de regularlos tras la popularización de ChatGTP. No se prohíbe su uso, pero se establecen criterios para detectar modelos que pueden generar alto riesgo en función del contexto en el que se utilicen y obliga a sus desarrolladores a cumplir determinadas salvaguardas más estrictas antes de sacarlos al mercado.
Oficina Europea de Inteligencia Artificial
En la norma se prevé la creación de una Oficina Europea de Inteligencia Artificial, que tendrá como misión coordinar el uso de la tecnología entre las autoridades nacionales y que contará con el asesoramiento de un panel de científicos y organizaciones de la sociedad civil.
Se prevé que dicho organismo comience a funcionar en 2026, sin embargo, entrará en vigor por fases. Se creará de forma inmediata, la prohibición de los sistemas prohibidos de inteligencia artificial llegará a los seis meses y los requisitos para los sistemas y modelos de IA generativa, a los 12.
El reglamento establecido prevé la aplicación de multas con un rango entre los 35 millones de euros o el 7% del volumen global del negocio de las empresas, hasta los 7,5 millones de euros o el 1,5% del volumen global de negocio.
