Marc Torrent: ''Ens cal alfabetització digital i algorítmica''

L'enginyer de Telecomunicacions Marc Torrent (Barcelona, 1977) dirigeix el CIDAI, el Center for Innovation in Data tech and Artificial Intelligence. És un dels eixos de l'Estratègia d'Intel·ligència Artificial de Catalunya (Catalonia.ai) i vol consolidar Barcelona com un referent del sector ajudant a les empreses catalanes a utilitzar la tecnologia basada en la intel·ligència artificial. En una entrevista als Fulls d'Enginyeria, Torrent repassa els reptes de la institució, els objectius i reflexiona sobre la funció que té i tindrà la intel·ligència artificial i la tecnologia de dades en una societat que l'usa sense adonar-se'n. Per Torrent, el més important és afegir ''fiable'' darrere el binomi intel·ligència artificial i es mostra convençut que l'estratègia europea és respectuosa amb l'ètica i els drets, un dels àmbits que genera més reticència en aquest tipus de tecnologia.

 

Quin és el paper del CIDAI dins l'Estratègia d'Intel·ligència Artificial de Catalunya?

L'estratègia catalana d'intel·ligència artificial el que vol fer és que Catalunya també sigui un dels països desenvolupadors d'intel·ligència artificial fiable i que, a més, les organitzacions de Catalunya se'n puguin beneficiar. L'estratègia inclou altres iniciatives com ara l'Observatori d'ètica que lidera la UdG, i el CIDAI, liderat per Eurecat, però amb vuit socis més darrera, n'és una altra. 

Però amb quin objectiu neix?

La missió que tenim és accelerar la transferència de tecnologia i l'adopció per part de les organitzacions i empreses del país, de la tecnologia de dades amb intel·ligència artificial fiable, aprofitant la capacitat innovadora del país amb la visió de reforçar encara més el posicionament de 'hub' europeu al voltant d'aquesta tecnologia. La paraula de moda amb què s'ha convertit la intel·ligència artificial és un gran àmbit però hi ha molta feina a fer amb els processos d'adquisició, gestió i analítica de dades. Només alguns d'ells acaben amb l'aplicació de 'machine learning' , on tenen més impacte. Nosaltres intentem treballar tot el cicle de valor de les dades.

I això com ho fareu?

Tenim quatre àmbits d'activitats. Un intenta impulsar la innovació i la transferència, un altre per fer un mapa de tot l'ecosistema català d'IA i acostar-nos a les empreses per veure les oportunitats i reptes per treballar amb ells. També volem oferir serveis i ser una mica el canalitzador d'iniciatives i el punt de contacte entre les diferents organitzacions. Alhora, tenim la intenció d'evangelitzar i disseminar coneixement per ajudar al futur talent. I per últim, desplegar una estratègia d'internacionalització per poder ser presents als fòrums de debat internacional, seguint les recomanacions de la Comissió Europea.

No voleu, doncs, quedar-vos amb la recerca sinó que voleu aportar en el teixit empresarial del país, doncs?

No. De fet, nosaltres no fem recerca, com a CIDAI. Intentem mapenjar el desenvolupament de recerca, que ja tracten les universitats i els centres de recerca. Estem atents a la recerca catalana i mundial però ens enfoquem en la part de transferència i adopció empresarial, per ajudar les empreses.

Que l'empresa catalana sigui majoritàriament petita i mitjana és un escull?

La resposta curta és que és cert. La mida i nivell d'innovació d'una empresa sempre va relacionat amb la velocitat amb què adopta les noves tecnologies, però hi ha moltes tecnologies, sobretot de 'machine learning' que estan molt madures i que formen part de solucions que s'utilitzen cada dia, en sistemes de gestió de clients i d'identificació de potencials clients, per exemple. Una bona part de sistema de gestió de clients de les pimes estan utilitzen analítica avançada, per exemple. Des d'Eurecat estem ajudant empreses catalanes, pimes, que incorporen intel·ligència artificial als seus productes i que amb els seus productes acabaran donant servei a altres pimes sense saber que estan utilitzant intel·ligència artificial, com pot ser el Cloud o el 'software as a service'.

I això és un gran repte, doncs...

Més que el nivell d'inversió, quan parlem d'intel·ligència artificial i de tecnologies de dades, el repte és la cultura empresarial que permeti prendre decisions en base a evidències i aprofitar la capacitat de les màquines en analitzar les dades. Podem entrenar algoritmes per solucionar reptes concrets, però no hem ensenyat a raonar com una persona humana. En canvi, sí que poden analitzar dades molt més ràpid amb molts més paràmetres, etc. És a dir, procurem que les empreses implantin un sistema de dades compartides que requereix d'una banda, un canvi de cultura, i de l'altra, inversió. L'altre repte és aconseguir dades de qualitat, és a dir, tenir el procés digitalitzat i ben digitalitzat perquè generi les dades rellevants. És la manera de solucionar un tercer repte: els biaixos i la inexplicabilitat de les recomanacions que pugui prendre una caixa negra. Cal ser molt rigorós en la definició de principis ètics i els valors amb els quals dissenyes el sistema i que tinguis molt en compte les dades que tens, amb totes les realitats que vols representar.

Ens podries posar algun exemple?

Són famosos els casos d'un algoritme que classificava gent i animals i amb una fotografia d'una persona negra va dir orangutan. O un cas d'Amazon, el 2018, que utilitzava un filtre de candidats amb un biaix cap al gènere masculí. O un sistema de predicció de reincidència per a presos als EUA que donava un risc de reincidència més elevat amb persones negres. Tot pot ser per diferents raons però està clar que si tens un conjunt de dades que descriuen una societat o un passat esbiaixat, l'algoritme aprendrà a representar aquesta realitat. Si en el passat, a la teva empresa han promocionat més ràpidament els homes que venen de les universitats més bones, quan arribin currículums, l'algoritme triarà això. Són decisions que s'han de prendre quan es dissenya l'algoritme perquè no acabin tenint un impacte indesitjat. Per exemple, en aplicacions de l'àmbit de la salut es tenen molt en compte.

Precisament és l'àmbit de la salut un dels més delicats, oi?

És un dels àmbits amb més aplicació, ja que genera moltes dades que poden tenir un impacte gegantí a la societat. Tots els hospitals mitjans i grans estan fent projectes i nosaltres estem coordinant la part tècnica de tecnologies de big data a la predicció i gestió de pandèmies, amb la MWC, la Generalitat, la Fundació Lluita contra la SIDA, el BSC, Eurecat, la URV i la UdG.

I en què consisteix aquest projecte?

Ja hi ha models epidemiològics però podem intentar afinar més la predicció intentant veure dades més fines, de mobilitat, amb les companyies de telefonia mòbil, de salut, a través de l'AQUAS, ambientals a través de la UdG, i també podem intentar també identificar millors polítiques de mobilitat, on la comunicació i les restriccions són més o menys efectives. I no per penalitzar sinó, per identificar on poden ser adoptades amb millor o pitjor mesura i on cal reforçar la comunicació. Ho estem intentant. Tant a l'Hospital Clínic com a l'Hospital del Mar també han utilitzat de manera efectiva algoritmes de machine learning per ajudar al diagnòstic i la gestió. En aquest darrer cas, van ser capaços d'agafar tecnologies semidesenvolupades i en poc temps, van ser capaços d'aportar valor.

És que la intel·ligència artificial ha tingut un paper important durant la pandèmia...

Sí, per exemple, la comunitat de covidmakers que feien mascaretes i altres productes, va replicar machine learning perquè els ajudés a fer les rutes i la distribució de tot el material. L'ajuntament de Barcelona va utilitzar intel·ligència artificial per gestionar l'aforament a les platges, per treure indicadors d'afluència. És una aplicació multitransversal altament beneficiosa en situacions de crisi.

Hi ha límits per a la intel·ligència artificial? Quina importància tindrà a la societat?

Ja n'està tenint moltíssima. Tothom utilitza un navegador per sortir al carrer basat en intel·ligència artificial, quan fem compres, les recomanacions estan basades en intel·ligència artificial, quan fem cerques a Google o utilitzem un traductor o interfície de veu, també, o la mateixa rumba. Tothom està utilitzant intel·ligència artificial, i serà cada vegada més present i hem d'entendre tots que ens cal alfabetització digital i algorítmica. Estem vivint en una societat basada en dades i algoritmes: un algoritme de matemàtica simple diu a quina escola pot anar el teu fill i a quina no. La gent n'ha de ser conscient i si tenim gent informada i que és conscient de quines decisions es prenen amb algoritmes i com s'utilitzen les seves dades, molt millor. Perquè els beneficis són tan grans! Per les empreses, però també per la societat: si les administracions públiques incorporen aquests processos traurem colls d'ampolla a departament d'afers socials, per exemple, podrem ajudar a una millor distribució dels recursos; si guanyem eficiència, les persones podran aportar més valor... És un impacte totalment transversal.

Creus que encara hi ha reticència entre la societat a la intel·ligència artificial?

Els mitjans de comunicació tenen una part de culpa en aquest tema. Hi ha una tendència a l'escandalització, a portar les coses a l'extrem, per aconseguir el que més ven, el més llegit, etc. Hem de tenir molt clar el que pot fer la i que hi ha moltes organitzacions que fan molt bona feina i de manera molt rigorosa per intentar pal·liar tots aquests possibles riscos. Tot i que no ho tenim tot solucionat, es va molt en compte quan poses coses a funcionar. Hi ha ciutats líders, com Amsterdam i Helsinki que han publicat quins algoritmes estan utilitzant i expliquen quines mesures han fet per saber-ne l'impacte i reduir el risc. Ho comparteixen perquè la gent en sigui conscient o altres ho utilitzin i validin. Quan es fan les coses coherentment i de manera rigorosa i controlada, i sempre en aquests processos hi ha algú que n'està al càrrec. Són processos per intentar ajudar la persona que ha de prendre la decisió. Per tant, qualsevol tecnologia mal gestionada és un perill, la clau està en fer-ho bé. Crec que des d'Europa s'està treballant amb una línia molt respectuosa amb els drets de les persones. I ara mateix estem llunyíssim de veure un ''robot terminator''.

Catalunya està ben posicionada?

Jo crec que a nivell d'innovació ja som un dels pols d'innovació a Europa, perquè tenim universitats i centres tecnològics amb publicacions i experts de primer nivell i hi ha un bon conjunt d'empreses internacionals amb equips d'analítica de dades. A nivell europeu estem ben posicionats, però volem acabar d'enllaçar-ho per fer-ho més fort. Ens manquen referents com Facebook, Microsoft o Google, o altres, però també són empreses que tenen llums i ombres. Jo crec que Europa s'està diferenciant de l'estratègia de la Xina i els EUA per a una intel·ligència artificial fiable i respectuosa amb les persones.

Som referent a Catalunya, però què ens falta?

Per com estan avançant les coses i els beneficis que pot tenir la societat digital basada en aquestes tecnologies, ens falten formacions tecnològiques, perfils, formació de tota la ciutadania per ser crítics i més participatius en aquesta societat digital futura. Ens manca, i si ho tinguéssim, podríem aprofitar molt més els beneficis que tot això ens brinda.

CAPTCHA
This question is for testing whether or not you are a human visitor and to prevent automated spam submissions.