El Parlamento Europeo vota a favor de prohibir el uso de herramientas d'IA que supongan «un riesgo inaceptable» a la seguridad

El Parlamento Europeo ha fijado su posición para negociar con el Consejo de la UE la primera normativa comunitaria sobre inteligencia artificial, una iniciativa pionera en el mundo para definir los límites de estas herramientas. En una votación que ha salido adelante con 499 votos a favor, 28 en contra y 93 abstenciones, los eurodiputados han defendido la prohibición de las herramientas de inteligencia artificial que supongan «un riesgo inaceptable» para la seguridad, como por ejemplo aquellas que elaboren clasificaciones en función de los rasgos sociales de cada individuo. En paralelo, la Eurocámara quiere impulsar una base de datos que recoja todos los sistemas de inteligencia artificial disponibles y acepta ciertas excepciones para el sector de la investigación.

La postura defendida por los eurodiputados presta especial atención en las herramientas de inteligencia artificial basadas en la identificación biométrica en espacios públicos. Sistemas de categorización que utilizan características «sensibles» -como el género, la etnia, la religión o la orientación política de cada persona-, sistemas policiales predictivos o sistemas de reconocimientos de emociones serían algunos de los que el Parlamento Europeo quiere prohibir. El único supuesto en que estas herramientas se podrían utilizar sería en investigaciones policiales por delitos graves y siempre con una autorización judicial.

En paralelo, la Eurocámara quiere incluir los sistemas de inteligencia artificial dentro de la clasificación que incluye las aplicaciones «de alto riesgo», ya que considera que pueden provocar «daños significativos» en la salud, la seguridad, los derechos fundamentales o el medio ambiente. Tampoco quedarán exentas del listado aquellas herramientas d'IA que se utilizan para influir en la opinión de los votantes y los resultados de las elecciones y los sistemas de recomendaciones en que utilizan aquellas plataformas de redes sociales con más de 45 millones de usuarios.

Con el objetivo de evitar la proliferación de informaciones falsas, los sistemas generadores d'IA -como por ejemplo ChatGPT- también tendrán que cumplir una serie de requisitos de transparencia, así como facilitar la identificación de las imágenes artificiales -los llamados 'deep-fakes'- y garantizar salvaguardias contra la generación de contenidos ilegales.

En cualquier caso, los europarlamentarios han querido dejar claro que su posición no pretende frenar la innovación y apuestan por la creación de lo que se conoce como 'sandboxes', entornos en la vida real establecidos por las autoridades públicas para testear la inteligencia artificial antes de implementarla.

Una iniciativa pionera y pensada por el futuro

Durante la rueda prensa posterior a la votación, uno de los ponentes de la Eurocámara, Brando Benifei, ha calificado el acuerdo «de histórico» y ha subrayado que todo ha de «marcado el inicio del camino» hacia el diálogo que la Unión Europea quiere tener «con el resto del mundo» sobre cómo regular la inteligencia artificial.

En la misma línea se ha expresado la presidenta del Parlamento Europeo, Roberta Metsola, quien ha apuntado que los eurodiputados han sabido encontrar «el balance» entre un enfoque basado en las personas pero que, al mismo tiempo, permitirá seguir innovando. «Será el estándar para los próximos años», ha destacado.

Por su parte, el otro ponente de la Eurocámara, Dragos Tudorache, ha reivindicado «el efecto» que tiene que tener Bruselas en la regulación de la inteligencia artificial y ha alargado la mano en el resto de democracias para elaborar normas conjuntas y estar alineados en relación con esta cuestión.