El Parlament Europeu vota a favor de prohibir l'ús d'eines d'IA que suposin «un risc inacceptable» a la seguretat

El Parlament Europeu ha fixat la seva posició per negociar amb el Consell de la UE la primera normativa comunitària sobre intel·ligència artificial, una iniciativa pionera al món per definir els límits d'aquestes eines. En una votació que ha tirat endavant amb 499 vots a favor, 28 en contra i 93 abstencions, els eurodiputats han defensat la prohibició de les eines d'intel·ligència artificial que suposin «un risc inacceptable» per a la seguretat, com per exemple aquelles que elaborin classificacions en funció dels trets socials de cada individu. En paral·lel, l'Eurocambra vol impulsar una base de dades que reculli tots els sistemes d'intel·ligència artificial disponibles i accepta certes excepcions per al sector de la investigació.

La postura defensada pels eurodiputats posa especial atenció en les eines d'intel·ligència artificial basades en la identificació biomètrica en espais públics. Sistemes de categorització que utilitzen característiques «sensibles» -com ara el gènere, l'ètnia, la religió o l'orientació política de cada persona-, sistemes policials predictius o sistemes de reconeixements d'emocions serien alguns dels que el Parlament Europeu vol prohibir. L'únic supòsit en què aquestes eines es podrien fer servir seria en investigacions policials per delictes greus i sempre amb una autorització judicial.

En paral·lel, l'Eurocambra vol incloure els sistemes d'intel·ligència artificial dins la classificació que inclou les aplicacions «d'alt risc», ja que considera que poden provocar «danys significatius» en la salut, la seguretat, els drets fonamentals o el medi ambient. Tampoc en quedaran exemptes del llistat aquelles eines d'IA que s'utilitzen per influir en l'opinió dels votants i els resultats de les eleccions i els sistemes de recomanacions que utilitzen aquelles plataformes de xarxes socials amb més de 45 milions d'usuaris.

Amb l'objectiu d'evitar la proliferació d'informacions falses, els sistemes generadors d'IA -com per exemple ChatGPT- també hauran de complir una sèrie de requisits de transparència, així com facilitar la identificació de les imatges artificials -els anomenats 'deep-fakes'- i garantir salvaguardes contra la generació de continguts il·legals.

En qualsevol cas, els europarlamentaris han volgut deixar clar que la seva posició no pretén frenar la innovació i aposten per la creació del que es coneix com a 'sandboxes', entorns en la vida real establerts per les autoritats públiques per testejar la intel·ligència artificial abans d'implementar-la.

Una iniciativa pionera i pensada pel futur

Durant la roda premsa posterior a la votació, un dels ponents de l'Eurocambra, Brando Benifei, ha qualificat l'acord «d'històric» i ha subratllat que tot plegat ha de «marcat l'inici del camí» cap al diàleg que la Unió Europea vol tenir «amb la resta del món» sobre com regular la intel·ligència artificial.

En la mateixa línia s'ha expressat la presidenta del Parlament Europeu, Roberta Metsola, qui ha apuntat que els eurodiputats han sabut trobar «el balanç» entre un enfocament basat en les persones però que, alhora, permetrà continuar innovant. «Serà l'estàndard per als pròxims anys», ha destacat.

Per la seva banda, l'altre ponent de l'Eurocambra, Dragos Tudorache, ha reivindicat «l'efecte» que ha de tenir Brussel·les en la regulació de la intel·ligència artificial i ha allargat la mà a la resta de democràcies per elaborar normes conjuntes i estar alineats en relació amb aquesta qüestió.