El Reglament, acordat en les negociacions amb els Estats membres al desembre de 2023
, va ser recolzat per l'Eurocambra amb 523 vots a favor, 46 en contra i 49 abstencions.
El seu objectiu és protegir els drets fonamentals, la democràcia, l'Estat de dret i la sostenibilitat mediambiental enfront de la IA que comporta un alt risc, impulsant al mateix temps la innovació i erigint a Europa en líder del sector. El Reglament fixa una sèrie d'obligacions per la IA en funció dels seus riscos potencials i el seu nivell d'impacte.
Aplicacions prohibides
Les noves normes prohibeixen certes aplicacions d'intel·ligència artificial que atempten contra els drets de la ciutadania, com els sistemes de categorització biomètrica basats en característiques sensibles i la captura indiscriminada d'imatges facials d'internet o enregistraments de càmeres de vigilància per crear bases de dades de reconeixement facial. També es prohibiran el reconeixement d'emocions en el lloc de treball i a les escoles, els sistemes de puntuació ciutadana, l'actuació policial predictiva (quan es base únicament en el perfil d'una persona o en l'avaluació de les seves característiques) i la IA que manipuli el comportament humà o exploti les vulnerabilitats de les persones.
Exempcions de les forces de seguretat
L'ús de sistemes d'identificació biomètrica per part de les forces de seguretat queda prohibit a priori, excepte en situacions molt concretes i ben definides. Els sistemes d'identificació biomètrica «en temps real» solament es podran emprar si es compleixen una sèrie de salvaguardias estrictes; per exemple, el seu ús es limita a un període i lloc específics i compta amb una autorització judicial o administrativa prèvia. Entre aquests casos poden figurar la cerca selectiva d'una persona desapareguda o la prevenció d'un atemptat terrorista. Recórrer a aquests sistemes a posteriori es considera un ús d'alt risc, que requereix autorització judicial en estar vinculat a un delicte penal.
Obligacions per als sistemes d'alt risc
També es preveuen obligacions clares per a altres sistemes de IA d'alt risc (a causa que poden ser molt perjudicials per a la salut, la seguretat, els drets fonamentals, el medi ambient, la democràcia i l'Estat de dret). Alguns exemples d'usos d'alt risc de la IA són les infraestructures crítiques, l'educació i la formació professional, l'ocupació, els serveis públics i privats essencials (per exemple, la sanitat o la banca), determinats sistemes de les forces de seguretat, la migració i la gestió duanera, la justícia i els processos democràtics (com influir en les eleccions). Aquests sistemes han d'avaluar i reduir els riscos, mantenir registres d'ús, ser transparents i precisos i comptar amb supervisió humana. Els ciutadans i ciutadanes tindran dret a presentar reclamacions sobre els sistemes de IA i a rebre explicacions sobre les decisions basades en ells que afectin als seus drets.
Requisits de transparència
Els sistemes de IA d'ús general i els models en els quals es basen han de complir certs requisits de transparència, respectar la legislació de la UE sobre drets d'autor i publicar resums detallats del contingut usat per entrenar els seus models. Els models més potents que podrien plantejar riscos sistèmics hauran de complir requisits addicionals, com realitzar avaluacions dels models, analitzar i mitigar els riscos sistèmics i informar sobre els incidents.
A més, les imatges, continguts d'àudio o de vídeo artificials o manipulats («ultrafalsificaciones») hauran d'etiquetar-se clarament com a tals.
Mesures de suport a la innovació i a les pimes
Caldrà posar a la disposició de les pimes i de les empreses emergents espais controlats de proves i assajos en condicions reals a nivell nacional perquè puguin desenvolupar i entrenar la IA innovadora abans de la seva comercialització.
Propers passos
El Reglament encara està subjecte a una última comprovació jurídica-lingüística. La seva aprovació definitiva (mitjançant l'anomenat procediment de correcció d'errors ) està prevista per abans del final de la legislatura. La llei també ha de ser adoptada formalment pel Consell.
Entrarà en vigor vint dies després de la seva publicació en el Diari Oficial i serà de plena aplicació vint-i-quatre mesos després de la seva entrada en vigor, a excepció de: les prohibicions de pràctiques (s'aplicaran sis mesos després de la data d'entrada en vigor); els codis de bones pràctiques (nou mesos després); les normes sobre la IA d'ús general, inclosa la governança (dotze mesos després), i les obligacions per als sistemes d'alt risc (trenta-sis mesos després).
Conferència sobre el Futur d'Europa
La Llei d'Intel·ligència Artificial respon directament a les propostes dels ciutadans de la Conferència sobre el Futur d'Europa , més concretament a la proposta 12(10), relativa a la millora de la competitivitat de la UE en sectors estratègics, la proposta 33(5), sobre una societat segura/segura i fiable, inclosa la lluita contra la desinformació i la garantia que les persones tinguin el control final, la proposta 35 sobre la promoció de la innovació digital, (3) la garantia de la supervisió humana i (8) un ús fiable i responsable de la IA, l'establiment de salvaguardias i la garantia de transparència, i la proposta 37(3), sobre l'ús de la IA i les eines digitals per millorar l'accés dels ciutadans a la informació, incloses les persones amb discapacitat.
