Complir el nou Reglament UE de sistemes d’IA, un repte per a l’enginyeria
Fa unes setmanes es va publicar la proposta d’un nou reglament de la Unió Europea per sistemes d’Intel·ligència Artificial (IA). Aquest reglament vol donar resposta als reptes que els sistemes d’IA estan suposant en la seguretat i en la salut de les persones, o en els seus drets fonamentals. Des del Grup de Treball de Compliance Tècnic d’Enginyers Industrials de Catalunya s’ha analitzat el contingut i n’exposem els principals elements.
La proposta de nou reglament de la UE compren la posada al mercat, la posada en servei i l'ús dels sistemes d’IA. S’hi fa un enfocament basat en el risc, on en funció dels usos es diferencien tres nivells que podrien crear: un risc inacceptable, un risc alt o un risc mínim.
- Risc inacceptable aplicarà a aquells sistemes que suposin una amenaça clara per a la seguretat, els mitjans de subsistència i els drets de les persones; com podrien ser els sistemes que permetin la “puntuació social” dels ciutadans per part dels seus governs.
- Alt risc aplicarà a aquells sistemes que poden crear un alt risc per a la salut i la seguretat o els drets fonamentals de les persones físiques, com podrien ser els sistemes d’identificació biomètrica remota.
- Risc mínim aplicarà a la gran majoria de sistemes, que representen un risc mínim o nul per als drets o la seguretat dels ciutadans. Com podrien ser els sistemes en forma de xatbot que interactuen amb els ciutadans.
Un dels elements rellevants del reglament es el seu abast, que defineix que s’aplicarà a:
- Els proveïdors de sistemes d’IA que els introdueixin en el mercat o els posin en servei dins la Unió, tant si aquets proveïdors estan establerts dins la Unió com en un tercer país.
- Els usuaris d’aquets sistemes establerts d’IA a la Unió.
- Els proveïdors i usuaris de sistemes d’IA que estan localitzats en un tercer país però que els seus resultats s’utilitzin dins la Unió.
On el reglament entra en més detall i es desenvolupa amb amplitud és en els sistemes d’IA d’Alt risc. Així el reglament fa una descripció de les àrees on els sistemes d’IA es definiran com d’Alt risc que son les següents:
- Identificació biomètrica i categorització de persones físiques.
- Gestió i explotació d’infraestructures crítiques.
- Educació i formació professional.
- Ocupació, gestió de treballadors i accés a l’autoocupació.
- Accés i gaudi de serveis privats essencials, serveis i avantatges públics.
- Aplicació de la llei.
- Gestió de migracions, asil i control de fronteres.
- Administració de justícia i processos democràtics.
El reglament també determina els requisits que hauran de complir obligatòriament els sistemes d’IA d’alt risc abans de ser posats al mercat. Aquests requisits són que:
- Tinguin sistemes d’avaluació i mitigació de riscos
- Utilitzin conjunts de dades d’alta qualitat, per tal de minimitzar els riscos i els resultats discriminatoris
- Tinguin un registre d'activitat per garantir la traçabilitat dels resultats
- Tinguin una documentació detallada amb tota la informació necessària sobre el sistema i la seva finalitat, perquè les autoritats en puguin avaluar el compliment
- Donin informació clara i adequada per a l'usuari
- Tinguin mesures de supervisió humana adequades per minimitzar els riscos
- Tinguin un alt nivell de robustesa, ciberseguretat i precisió
A més a més, els sistemes d’IA d’Alt risc abans de posar-los al mercat o posar-los en servei a la UE hauran de:
- Superar una avaluació de conformitat ex-ante
- Portar una Declaració UE de Conformitat seguint el que explicita el reglament
- Portar el Marcatge CE aplicat de manera visible, llegible i indeleble en l’embalatge o en la documentació
- Haver estat registrats a la “Base de dades de la UE per a sistemes autònoms d’IA d’alt risc”
Actualment el reglament està en un procés de consulta previ a la seva discussió final en el parlament europeu que porti a la seva aprovació en el segon semestre d’aquest any. El text del reglament i annexes es pot consultar en aquest enllaç. Fins el 24 de juny està obert el període per presentar opinions i comentaris que permetin alimentar el debat legislatiu que es farà en el procés d’aprovació del nou Reglament d’Intel·ligència Artificial. El reglament serà d’aplicació al cap de 24 mesos i vint dies des de la seva publicació al Diari Oficial de la Unió Europea.
Aquest reglament i els seus annexes ocupen 76 pàgines. Els qui desenvolupen sistemes, especialment dins de l’àmbit d’IA d’alt risc i preveuen que es comercialitzaran o s’utilitzaran a la UE els propers anys, l’haurien de tenir en compte. El compliment de tots aquests requisits no se superen en dos dies perquè hi ha molts aspectes a considerar.