El Parlamento Europeo ha dado luz verde a la norma, la primera que regula esta tecnología en el mundo. Su objetivo es garantizar la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación.
La Eurocámara ratificó este miércoles la ley de inteligencia artificial (IA) que pactaron en diciembre las instituciones europeas y dio así un paso importante para su aprobación definitiva en la Unión Europea.
“Europa es ahora un referente mundial en inteligencia artificial”, indicó tras el voto el comisario europeo de Mercado Interior, Thierry Breton, quien aseguró que “estamos regulando lo menos posible, pero todo lo necesario”.
“Un marco pionero en Europa para la IA innovadora, con límites claros”, señaló por su parte en la red social X la presidenta de la Comisión Europea, Ursula von der Leyen, quien agregó que “beneficiará a la fantástica cantera de talentos de Europa y sentará las bases de una IA fiable en todo el mundo”.
Con 523 votos a favor, 46 en contra y 49 abstenciones, la Eurocámara avaló el acuerdo que a finales de 2023 cerró un grupo de representantes de las tres instituciones comunitarias
Está previsto que la UE la apruebe definitivamente en las próximas semanas, aunque no será hasta 2026 cuando entre en vigor.
Protección de los ciudadanos
La normativa permite o prohíbe el uso de esta tecnología en función del riesgo que suponga para los ciudadanos y, con ella, la UE pretende dar ejemplo al resto del mundo e impulsar a la industria europea frente a Estados Unidos y China.
Prohíbe la vigilancia masiva en espacios públicos, pero permite que las fuerzas del orden empleen las cámaras de identificación biométrica con autorización judicial para prevenir amenazas terroristas
En líneas generales, la ley de IA prohíbe la vigilancia masiva en espacios públicos, pero permite que las fuerzas del orden puedan emplear las cámaras de identificación biométrica, con previa autorización judicial, para prevenir una amenaza terrorista inminente.
También para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o, por ejemplo un crimen medioambiental, así como para buscar a las víctimas de estos delitos.
Obligaciones de los sistemas de IA generativa
Asimismo, el reglamento establece una serie de obligaciones para los sistemas de inteligencia artificial generativa en los que se basan programas como ChatGPT, de la empresa OpenAI, o Bard, de Google.
En concreto, tendrán que especificar si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial y garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.
Además, se identifica toda una serie de sistemas de inteligencia artificial de alto riesgo que sólo se podrán comercializar si sus desarrolladores garantizan que respetan los derechos fundamentales.
Habrá que especificar si un texto, una canción o una fotografía se han generado a través de IA y garantizar que los datos empleados para entrenar a los sistemas respetan los derechos de autor
Breton señaló que esta ley será “una plataforma de lanzamiento para que las nuevas empresas de la UE lideren la carrera mundial por una IA fiable”.
“Permitirá a los ciudadanos y empresas europeos utilizar la IA made in Europe con seguridad y confianza”, aseveró.
La norma también prevé la creación de la Oficina Europea de Inteligencia Artificial, que coordinará el uso de la tecnología entre las autoridades nacionales y que estará asesorada por un panel de científicos y de organizaciones de la sociedad civil.
Críticas a la ley
La directora general adjunta de la Organización Europea de Consumidores (BEUC), Ursula Pachl, declaró en un comunicado que, los consumidores estarán protegidos de algunas prácticas denigrantes, como la puntuación social, y podrán unirse a demandas colectivas de reparación si se han visto perjudicados, pero advirtió de que la legislación “debería haber ido más lejos” y de que los reguladores pertinentes deberán contar con los recursos necesarios.
El grupo de La Izquierda en la Eurocámara también expresó críticas hacia la ley, en especial que en vez de privilegiar la protección de los ciudadanos se haya preferido “hacer excepciones por motivos de seguridad nacional y extender la alfombra roja a las grandes empresas tecnológicas”.
El grupo de La Izquierda criticó que “en vez de privilegiar la protección ciudadana se hayan hecho excepciones por seguridad y que se haya extendido la alfombra roja a las grandes tecnológicas”.
Una coalición de asociaciones europeas de creadores culturales calificó la ley como un primer paso y pidió desde ahí el desarrollo de una IA responsable y sostenible garantizando que la normativa se aplique de forma significativa y eficaz.
Fuente: