Investigadors de la Universitat Politècnica de València (UPV) han desenvolupat un sistema d’intel·ligència artificial capaç de detectar notícies falses, desinformació i missatges d’odi a les xarxes socials. En la fase de prototip, el sistema ha pogut detectar atacs contra les dones i les persones immigrants.
Avui en dia, tant a internet com a les xarxes socials podem trobar molta informació, fins i tot massa, com apunten molts experts en aquest camp. És fàcil que sorgeixin fenòmens com la viralitat (quan un contingut capta l’atenció de la gent i es reprodueix per totes les pàgines web, xarxes socials i mitjans de comunicació), les bombolles d’informació o filtres bombolla (quan els resultats de les cerques es fan en funció d’un algoritme que selecciona els continguts més adients segons els gustos de la persona). També podem trobar altres fenòmens, com càmera d’eco (quan els discursos dels mitjans es repeteixen fins que s’assumeixen com a únics) o la que va ser la paraula de l’any el 2016, la postveritat, que consisteix en la distorsió deliberada de la realitat, amb més influència de les emocions que dels fets objectius.
De tots aquests fenòmens, les notícies falses, més popularment conegudes com a “fake news” i la desinformació són les principals problemàtiques que trobem a internet i a les xarxes socials, amb resultats molt negatius per a la societat. Les notícies falses i la desinformació poden canviar el transcurs d’unes eleccions, difonent missatges falsos per tal que guanyi una altra persona (com en el cas de la victòria de Donald Trump als EEUU, o la victòria del Brexit), o ajudar a construir missatges intolerants contra col·lectius minoritaris o més amenaçats.
MISMIS-FAKEnHATE memoritza l’estructura dels missatges i en destria les emocions
Donada aquesta problemàtica, investigadors de la UPV i del Pattern Recognition and Human Language Technology (PRHLT-UPV) han dissenyat un sistema d’intel·ligència artificial, anomenat MISMIS-FAKEnHATE el qual, tot i trobar-se en fase de prototip, ha aconseguit detectar missatges d’odi (explícits i implícits), de moment, contra les dones i les persones immigrants.
MISMIS-FAKEnHATE realitza una aprenentatge profund (“deep learning”) de la informació, analitzant automàticament el llenguatge utilitzat i les emocions que s’amaguen en el mateix text. La finalitat és que el sistema memoritzi l’estructura que segueixen aquests tipus de missatges, de manera que els pugui detectar amb la màxima fiabilitat possible.
"L’objectiu és identificar la desinformació des d'una perspectiva multimodal, combinant la informació textual amb la visual a través de tècniques basades en l'aprenentatge profund. A més, es durà a terme una anàlisi multilingüe quan la informació siga en llenguatges diferents" va explicar a la UPV Giachanou, una de les investigadores del projecte.
El projecte, MISMIS-FAKEnHATE està liderat pel PRHLT-UPV, finançat pel Ministeri de Ciència, Innovació i Universitats, i compta amb la col·laboració d’experts de la Universitat Nacional d’Educació a Distància (UNED) i la Universitat de Barcelona (UB).
Quines mesures s’han pres contra les “fake news”?
Institucions supranacionals, com ara la Unió Europea, han intentat trobar mesures per lluitar contra aquest fenomen o, si més no, contrarestar-ne els possibles efectes. Així doncs, en un comunicat de 2015, la UE anunciava que començaria a monitorar les notícies falses.
En els transcurs d’aquest any, s’han llançat també dues iniciatives: fer una consulta pública als ciutadans i crear un Grup d’Experts d’Alt Nivell que assessori en l’assumpte. Tot plegat, però, no ha resultat tan eficaç com s’esperava. L’esperança en detectar les notícies falses, la desinformació i els discursos d’odi sembla estar posada, ara, en la intel·ligència artificial.
