El ràpid avanç de la IA en els últims temps ha suscitat en la societat un ampli debat sobre els perills que pot portar un ús il·limitat d’aquesta, i la necessitat d’una regulació d’aquesta.

Això ha provocat que els legisladors de tot el món hagin començat a avaluar la necessitat d’establir marcs legals per al seu desenvolupament i ús.

L’anterior ha portat a la UE a aprovar la primera normativa sobre Intel·ligència artificial del món, la Llei d’Intel·ligència Artificial (AIA, per Artificial Intelligence Act), que va entrar en vigor a la Unió Europea dimecres passat 13 de març de 2024.

El seu àmbit d’aplicació s’estén a: proveïdors de sistemes de IA que es posin en servei o comercialitzin dins de la UE o la sortida de la qual s’utilitzi a la UE, independentment del seu origen; i a usuaris d’aquests, considerant usuaris als qui exploten aquests sistemes, i no als afectats.

El seu objectiu és protegir els drets fonamentals dels ciutadans, així com altres valors com la democràcia, l’Estat de dret i la sostenibilitat mediambiental enfront del creixement accelerat i mancat de regulació que la IA ha experimentat en els últims temps, i que ha arribat a causar alarma social pels perills que un creixement així podia arribar a suposar.

Així, la llei d’intel·ligència artificial estableix diferents nivells de risc amb diferents mesures de control per a cada nivell.

  • Es parla d’un risc inacceptable quan es tracta de sistemes que constitueixen amenaces per a les persones.

Aquests sistemes queden prohibits pel reglament. Aquest sistema inclouen la manipulació cognitiva del comportament de persones o grups vulnerables específics, els sistemes d’identificació biomètrica en temps real i a distància com els sistemes de reconeixement facial o d’identificació de sentiments, quedant com a única excepció l’ús del reconeixement facial que poguessin realitzar les Forces i Cossos de Seguretat amb posterioritat a la comissió d’un delicte.

  • En segon lloc, estan els sistemes d’alt risc que són aquells que afectin negativament la seguretat i als drets fonamentals.

Dins dels sistemes d’alt risc existeixen dues categories:

a) els sistemes que s’utilitzen en productes subjectes a la legislació de la unió europea sobre seguretat de productes.

b) els sistemes d’intel·ligència artificial pertanyents a 8 àmbits específics que hauran de registrar-se en una base de dades de la Unió Europea i que inclouen la identificació biomètrica i categorització de persones físiques la gestió explotació d’infraestructures crítiques l’educació i formació professional i d’ocupació i gestió de l’accés i gaudi de serveis privats essencials l’aplicació de la llei de la gestió d’immigració asilo i control de fronteres i resistència en la interpretació jurídica i aplicació de la llei tots aquests sistemes d’intel·ligència artificial d’alt risc seran avaluats abans de comercialitzar-se i al llarg del seu cicle de vida.

  • D’altra banda, la intel·ligència artificial generativa com a chat GPT no es considera un risc però se l’obliga a complir requisits i transparència i amb la legislació de la Unió Europea en matèria de drets d’autor.

En aquesta línia, s’obligarà a revelar que el contingut ha estat generat per intel·ligència artificial; a dissenyar un model per a evitar que generi continguts il·legals i a publicar resums de les dades protegides per drets d’autor utilitzats per a l’entrenament.

En suma, el reglament sobre intel·ligència artificial de la UE suposa una regulació pionera a nivell mundial a l’hora d’establir uns límits a la intel·ligència artificial, si bé es necessitarà la col·laboració de tots els agents socials perquè la norma resulti efectiva i arribi a protegir efectivament els ciutadans i no quedi com un simple brindis al sol.