La intel·ligència artificial ja no és només una promesa tecnològica, és una realitat que transforma indústries, economies i la vida quotidiana de milions de persones. En aquest context de transformació profunda, l’enginyera i acadèmica italiana Raffaella Folgieri, professora i investigadora a la Università degli Studi di Milano, ha subratllat que l’era de la IA exigeix molt més que habilitats tècniques, i demana una visió integral, capaç d'entendre l’impacte social, legal, ecològic i ètic de cada decisió tecnològica. Folgieri ha fet una crida durant la seva intervenció a la sessió organitzada per l’Ordine degli Ingegneri di Milano, dins del cicle internacional “4 Motors for Europe Engineers”, a redefinir el paper dels professionals de l’enginyeria.
“Avui dia, saber programar no és suficient”, ha afirmat Folgieri davant una audiència connectada per videoconferència. El programa fomenta el debat tècnic i ètic entre enginyers de regions capdavanteres en innovació a Europa: Catalunya, Llombardia, Roine-Alps i Baden-Württemberg. A més, ha destacat la importància de definir amb claredat el perfil professional i les competències que els enginyers han de desenvolupar per implementar sistemes d’IA de manera responsable. Aquesta professionalització és clau per garantir que la tecnologia evolucioni de manera segura i beneficiosa per a tota la societat.
Un dels pilars de la seva exposició ha estat la sostenibilitat. Folgieri ha insistit que els sistemes d’IA han de ser dissenyats no només amb eficiència tècnica, sinó també amb responsabilitat mediambiental. “Avui, el desenvolupament sostenible no és una opció: és una obligació”, ha declarat. Davant l’augment del consum energètic dels grans models d’IA, ha instat els enginyers a prioritzar solucions eficients que minimitzin la petjada ecològica.
IA ètica i regulada
Folgieri ha fet una defensa ferma del compliment del Reglament Europeu d’intel·ligència artificial (AI Act), com a marc essencial per garantir el desenvolupament d’una IA alineada amb els valors europeus. La Unió Europea ha fet un pas decisiu cap a la regulació de la intel·ligència artificial amb l’aprovació d'aquest reglament, el primer marc jurídic integral del món destinat a regular aquesta tecnologia emergent. Aquesta legislació, que busca garantir un ús segur, ètic i respectuós amb els drets fonamentals, ha esdevingut una referència global per a la governança responsable de la IA.
El principi central del reglament és una classificació dels sistemes d’IA segons el nivell de risc que poden representar per a la societat. En funció d'aquest risc, s'apliquin diferents obligacions i restriccions als desenvolupadors i usuaris.
El reglament té com a objectiu principal protegir els drets fonamentals dels ciutadans europeus en l’ús de sistemes d’intel·ligència artificial. Busca fomentar la confiança en aquestes tecnologies, assegurant-ne un desenvolupament ètic i segur. Alhora, pretén impulsar la innovació responsable, sense posar obstacles innecessaris a la competitivitat del sector tecnològic europeu.
Un altre aspecte clau és garantir la supervisió humana en processos automatitzats, evitant així decisions esbiaixades o perjudicials. A més, el reglament estableix requisits estrictes sobre la qualitat de les dades i la transparència dels algorismes, amb l’objectiu de minimitzar biaixos i assegurar la comprensibilitat dels sistemes d’IA.
Respecte a l’aplicació, el reglament afecta tant a empreses europees com a les que operen des de fora de la UE si els seus productes o serveis tenen impacte en territori europeu. Les infraccions poden comportar sancions de fins a 30 milions d’euros o el 6% de la facturació global. Per facilitar l’adaptació, s’han previst períodes de transició, amb el suport d’institucions públiques i associacions sectorials per ajudar en la implementació d’aquestes noves normatives. En el marc del cicle, Sophie Guicherd, advocada i doctora en dret digital, també va posar el focus en els efectes d'aquest reglament, i va assegurar que “la regulació de la intel·ligència artificial a Europa ha d'equilibrar la innovació tecnològica amb la protecció dels drets fonamentals, assegurant que el desenvolupament d'aquestes tecnologies respecti els valors ètics i jurídics de les nostres societats".
Folgieri ha advertit dels riscos socials que pot comportar una IA mal gestionada, com ara la manipulació de tendències, la generació de desigualtats o la desinformació. En aquest sentit, ha reivindicat un enfocament reflexiu que anteposi la responsabilitat davant la rapidesa tecnològica. “Cal mitigar els impactes negatius abans que es produeixin, no després”, ha afirmat. Això implica posar l’ètica al centre del disseny tecnològic i garantir una supervisió humana constant.
Col·laboració humà-màquina, clau de futur
Un altre aspecte central de la seva intervenció ha estat la promoció de sistemes col·laboratius entre humans i màquines. “No es tracta de substituir persones, sinó de potenciar-les”, ha assegurat Folgieri. Aquest enfocament col·laboratiu permet combinar l’escalabilitat i la precisió tecnològica amb la capacitat crítica i l’empatia humanes.
També ha proposat que les solucions d’IA siguin testades per usuaris no tècnics, per detectar errors de comprensió, biaixos ocults i possibles efectes no desitjats. L’objectiu, ha dit, és assegurar que la IA serveixi de veritat a tothom, no només als especialistes o als mercats més forts.
Folgieri ha oferit una perspectiva italiana sobre el paper de l’enginyeria en la IA, però ha remarcat que els desafiaments són compartits a tot Europa. En aquest sentit, ha destacat el paper clau de les associacions professionals per garantir que els enginyers rebin la formació adequada i treballin sota estàndards d’alta qualitat, ètica i seguretat. “Les organitzacions professionals han de liderar aquest procés, proporcionant eines, criteris i formació contínua per afrontar els nous reptes amb rigor i responsabilitat”, ha conclòs.
