Projet CONFIRMA : un logiciel permettant de lutter contre la désinformation

VerDi et CONFIRMA interviennent dans un contexte où la désinformation prend de l’ampleur à la faveur notamment du développement des réseaux sociaux. Une étude¹ publiée en 2019 montrait qu’en un an le nombre de tweets ayant relayé un fausse information était passé de 35,5 à 45,5 millions. La désinformation perturbe le débat démocratique et est un instrument de déstabilisation, voire offensif d’ores et déjà utilisé par des états hostiles. La désinformation peut conduire à la violence comme dans le cas de l’attentat de Christchuch en Nouvelle-Zélande ou l’envahissement du Capitole aux Etats-Unis. Deux événements dont les auteurs étaient nourris de fausses informations et théories imaginaires. La désinformation accompagne aussi des opérations militaires comme lors de l’annexion de la Crimée, ou encore aujourd’hui le conflit du Donbass. Dans tous les cas il s’agit d’une menace qu’il convient de connaître et de surveiller afin de l’anticiper et de la contrer.

Dans son objectif de lutte contre la désinformation, CONFIRMA a permis de mieux caractériser la désinformation en proposant des analyses textuelles plus fines ainsi qu’une chronologie de la diffusion des informations pour mieux comprendre l´origine de la désinformation et mieux identifier les réseaux d'acteurs qui la propagent.

Un autre volet a consisté à identifier les communautés qui partagent de fausses informations au sein des réseaux sociaux, pour proposer des méthodes et des outils aptes à construire de manière automatique des contre-arguments et à maximiser leur efficacité auprès des communautés cibles.

CONFIRMA a réussi à créer un prototype de logiciel utilisant une approche d’apprentissage automatique supervisée capable d’extraire correctement les arguments en faveur ou contre un sujet particulier.

Projet pluridisciplinaire, CONFIRMA a fait appel à l’intelligence artificielle et, plus précisément, au traitement automatique du langage naturel, à l'extraction de structures argumentaires et à la psychologie expérimentale.

Comprendre les mécanismes d’adhésion à des fausses informations

Des travaux expérimentaux ont consisté à élaborer un chatbot permettant d’émuler les conditions d’une discussion, conditions propices à l’échange d’arguments, à la transmission d’informations, et au changement d’opinion. D'autres travaux ont porté sur la désinformation, tels que les mécanismes cognitifs motivant son partage au sein de la population.

Des travaux théoriques pour caractériser l’argumentation et la contre-argumentation comme ripostes à la désinformation ont aussi été menés.

Des retombées technologiques et économiques directes

Certaines briques développées au sein du projet CONFIRMA ont atteint un niveau de maturité technologique suffisant pour qu’elles soient intégrées dans la plateforme d´analyse de la désinformation de Storyzy, utilisée depuis 2019 par des clients dans le domaine militaire/sécuritaire et dans le domaine civil en France et à l'international. Storyzy classifie les sources d'information grâce à l’intelligence artificielle et l’expertise humaine. La base de données de Storyzy contient plus de deux millions de sources indexées en plus de 35 langues, permettant d’avoir une couverture mondiale.

La technologie développée lors du projet CONFIRMA est notamment utilisée par le Ministère des Armées, le Ministère de l'Intérieur, l'OTAN et Security and Freedom for Europe (SAFE).

 ^1- https://www.visibrain.com/fr/ressources/livre-blanc-fake-news-2019/