La Llei d'intel·ligència artificial (IA) regularà la IA a la UE i serà la primera llei integral sobre IA del món. La IA pot arribar a tenir grans aplicacions que millorin la vida dels ciutadans, com ara una millor assistència sanitària, un transport més segur i net, una fabricació més eficient i una energia més barata i sostenible. La UE vol regular la IA dins del marc de la seva estratègia digital per garantir les millors condicions de desenvolupament i ús d'aquesta nova tecnologia.
La prioritat del Parlament és garantir que els sistemes d'IA utilitzats a la UE siguin segurs, transparents, traçables, no discriminatoris i respectuosos amb el medi ambient. Els sistemes d'IA han de ser supervisats per persones, en comptes de l'automatització, per evitar resultats perjudicials. El marc regulador proposa que els sistemes d'IA que es puguin usar en diferents aplicacions s'analitzin i es classifiquin segons el risc que suposin per als usuaris. Els diferents nivells de perill implicaran una major o menor regulació. Un cop aprovades, seran les primeres normes del món sobre IA.
La nova normativa estableix obligacions per a proveïdors i usuaris segons el nivell de risc de la IA. D'aquesta manera els sistemes d'IA es classifiquen segons risc inacceptable, alt risc, IA generativa i risc limitat. Els sistemes d'IA de risc inacceptable són els que directament es consideren una amenaça per a les persones i, per tant, han de ser prohibits. Els aspectes que es prevenen en aquesta categoria són la manipulació cognitiva del comportament de persones o grups vulnerables específics, la puntuació social, on s'inclou la classificació de persones en funció del seu comportament, estatus socioeconòmic o característiques personals i, finalment, els sistemes d'identificació biomètrica en temps real.
Així mateix, els sistemes d'IA que afectin negativament la seguretat o els drets fonamentals es consideraran d'alt risc i es dividiran en dues categories. D'una banda, els sistemes de IA que es facin servir en productes subjectes a la legislació de la UE sobre seguretat dels productes. Això inclou joguines, aviació, automòbils, dispositius mèdics i ascensors. D'altra banda, els sistemes d'IA pertanyents a vuit àmbits específics que s'hauran de registrar a una base de dades de la UE. Tots els sistemes d'IA d'alt risc seran avaluats abans de comercialitzar-los i al llarg del seu cicle de vida. Aquests àmbits són els següents:
- Identificació biomètrica i categorització de persones físiques
- Gestió i explotació d'infraestructures crítiques
- Educació i formació professional
- Ocupació, gestió de treballadors i accés a l'autoocupació
- Accés i gaudi de serveis privats essencials i serveis i prestacions públiques
- Aplicació de la llei
- Gestió de la migració, l'asil i el control de fronteres
- Assistència a la interpretació jurídica i aplicació de la llei
Respecte a la IA generativa, com ChatGPT, hauria de complir requisits de transparència com revelar que el contingut ha estat generat per IA, dissenyar el model per evitar que generi continguts il·legals i publicar resums de les dades protegides per drets d'autor utilitzats per a l'entrenament.
Per acabar, els sistemes d'IA de risc limitat han de complir uns requisits mínims de transparència que permetin als usuaris prendre decisions amb coneixement de causa. D'aquesta manera, després d'interactuar amb les aplicacions, l'usuari podrà decidir si vol continuar utilitzant-les. Per tant, els usuaris han de ser conscients de quan interactuen amb la IA. Això inclou els sistemes d'IA que generen o manipulen continguts d'imatge, àudio o vídeo.
El futur de la IA a Europa
El Parlament Europeu també vol establir una definició uniforme i tecnològicament neutra de la IA que es pugui aplicar a sistemes futurs d'IA.
El 14 de juny del 2023, els eurodiputats van adoptar la seva posició negociadora sobre la llei d'IA. Ara començaran les converses sobre la forma final de la llei al Consell, al costat dels països de la UE. L'objectiu d'aquestes reunions seràe assolir un acord a finals d'aquest any.
