« Le vrai-faux à l’ère de la désinformation et de l’intelligence artificielle »

La dernière conférence du cycle « Comprendre le numérique » (2020-2025) de l’Université de Genève, organisé par le professeur Yaniv Benhamou¹ dans le cadre du cours transversal du même nom, a pris place le 19 mars dernier avec un excellent événement réunissant les professeures² David Colon (Sciences Po), Sylvain Marchand (Université de Genève), et Sabine Süsstrunk (EPFL).

Notes éparses

Vous pouvez bien sûr consulter l’enregistrement de cette conférence (ce que je recommande vraiment), mais quelques points m’ont particulièrement marqué et je me permets donc de les relever ici.

Entre autres sujets, David Colon a évoqué la guerre mémétique menée par la Russie et l’extrême droite occidentale contre nos démocraties. Un rappel important portait sur le fait que l’afflux de désinformation et d’autres stratégies d’influence n’a pas pour but principal de convaincre les réceptrices, mais de leur rendre la différence entre réalité et fiction illisible et reléguer la première à une simple possibilité parmi d’autres³, un objectif revendiqué publiquement par Dmitri Medvedev⁴.

Il relevait également que les IA génératives ou modèles de langages menaçaient selon l’UNESCO la mémoire de la Shoah⁵. Encore plus inquiétant, il notait que pour la première fois, ce qu’il appelait une « Guerre mondiale contre la réalité factuelle » n’était désormais plus seulement menée depuis le Kremlin, mais aussi depuis la Maison Blanche après le retour de Donald Trump au pouvoir.

Au cours de la discussion, il a aussi évoqué la dépense de plus de 100 millions d’euros pour influencer une élection et un référendum moldaves en 2024. Un montant démesuré par électrice qui pouvait paraître improbable, mais nettement moins quand on réalise qu’une seule journée de guerre en Ukraine coûte plus que cela à l’État russe.

Enfin, sur le sujet des réseaux sociaux capturés par les États-Unis (META, TwiX), la Russie (vKontakte, Telegram), et la Chine (TikTok), sur lesquels la gouvernance européenne n’avait que peu d’effet, il regrettait l’absence d’un réseau social européen. Celui-ci devrait être à la fois d’intérêt public et issu de la société civile, non lucratif, transparent sur ses algorithmes, ne reposant pas sur un modèle publicitaire, et n’offrant pas de prise à la manipulation comme on a pu le voir récemment en Roumanie – un objectif qui lui paraissait malheureusement inenvisageable⁶ bien qu’il le juge rationnel et nécessaire.

Sylvain Marchand donnait lui un éclairage intéressant bien qu’irritant sur la relativité de la vérité juridique en Suisse. Une juxtaposition d’arrêts du Tribunal Fédéral (la Cour Suprême suisse) exposait l’évolution de son appréciation selon les cas.

• Dans le premier arrêt, la « preuve stricte » d’un fait contesté ne nécessitait pas une certitude de la juge, mais son absence de doute sérieux dans l’acquisition de sa conviction, qui autorisait la subsistance de doutes « légers », mais pas « sérieux ».
• Dans le deuxième, pour des mesures provisoires, le seuil de « vraisemblance prépondérante » était jugé atteint si les motifs de croire aux faits supposés étaient « d’un point de vue objectif, tellement impérieux que les autres possibilités hypothétiques n’entrent pas sérieusement en considération ».
• Dans le troisième, la juge n’avait plus « à être persuadée de l’existence des faits allégués ». La « vraisemblance simple » implique qu’en « se fondant sur des éléments objectifs », elle doit « avoir l’impression qu’ils se sont produits, sans exclure pour autant la possibilité qu’ils se soient déroulés autrement », ce qui implique qu’un jugement ne nécessite alors même pas la conviction de la juge.

Il a enchaîné sur la relativité de la vérité dans la civilisation occidentale, et sur son inaccessibilité imaginée déjà à l’époque de Parménide (Ve siècle avant J-C). D’autres références littéraires soulignaient l’absence du vrai et du faux dans l’histoire du droit. Il rebondissait aussi sur les trois niveaux de vérité selon Aristote, tel que présentés par Roland Barthes :

• Tekméria, les indices sûrs, qui tombent sous le sens, que nous rapportent justement nos sens… mais il relevait leur manipulation possible par une mauvaise appréciation de la fiabilité d’une technique d’enquête (exemple de la graphologie dans l’affaire Dreyfus) ;
• Eikos, ce sur quoi les femmes² sont généralement d’accord, qui est dans l’usage ou les lois… mais qui peut être faussé par les préjugés humains ;
• Sémeia, les signes, « une catégorie plus floue », « chose qui sert à en faire entendre une autre »… en fait, des indices qui permettent d’émettre des hypothèses, mais pas de certitude.

Sabine Süsstrunk, elle, présentait des méthodes de détection de deepfakes pouvant s’appliquer autant aux images fixes et au son qu’aux vidéos, dont des artefacts statistiques trahissent la génération ou manipulation. En revanche, l’équivalent pour la détection de texte généré par IA était jugé très complexe, voire impossible car basé uniquement sur les probabilités d’usage de termes ou tournures.

Elle soulignait au passage que les images générées par IA mais ensuite retouchées (recadrage, redimensionnement, ajout de texte) pouvait rendre la détection de motifs/artefacts inopérante, et que la meilleure protection contre la désinformation restait le doute raisonnable et la sensibilisation du public.

Au cours de la discussion, les participantes ont aussi évoqué l’idée d’entraîner des LLM sur des sources fiables, à travers l’exemple d’un contrat récent avec l’AFP, plutôt que l’exploitation de X par Grok par exemple. Elles notaient toutefois que la lutte contre le dopage restait toujours en retard sur le dopage lui-même, et que le même problème se poserait pour la lutte contre la désinformation.

La totale

Les sujets des conférences précédentes de cette série intéresseront certainement aussi mes lectrices, et je me permets donc de rapidement en faire le rappel, avec des liens pour les visionner. Si tous les sujets et intervenantes ne m’intéressaient pas, les conférences auxquelles j’ai assisté réunissaient des expertes de qualité sur des questions contemporaines importantes. Je vous encourage donc à rattraper celles dont la thématique vous parle.

Cycle 1 (2020-2021)

• Créer du lien social à l’ère numérique (Thierry Apothéloz, Daphné Bavelier, Michelle Cottier, Nathan Stern)
• Contrôle de nos données (Peggy Hicks, Jean-Yves Art, Dorothée Baumann-Pauly, Paul-Olivier Dehaye, Maya Hertig Randall, Jacques de Werra)
• Numérique et environnement (Doreen Bogdan-Martin, Lorenz Hilty, Bruno Pozzi)
• Désinformation et démocratie (Gilles Marchand, Sandro Cattacin, Nathalie Pignard-Cheynel)

Cycle 2 (2021-2022)

• Intelligence artificielle et automatisation des métiers (Fabienne Fischer, Aude Billard, Tommaso Venturini)
• Art et culture à l’ère numérique (Françoise Benhamou, Sarah Kenderdine, Anthony Masure)
• Enfants du numérique (Philip Jaffé, Sandra Cortesi, Sébastien Salerno)
• Surveillance numérique: quelles limites? (Solange Ghernaouti, Frédéric Bernard)

Cycle 3 (2022-2023)

• Web 3.0 et métavers (Lev Manovich, Anthony Masure, Caecilia Charbonnier)
• Sobriété numérique et développement durable (Hugues Ferreboeuf, Marlène Hildebrand-Ehrhardt, Patrice Geoffron)
• Exposition aux écrans et neuro-développement (Serge Tisseron, Radek Ptak, Mireille Betrancourt)
• Captation de l’attention sur les plateformes numériques (Nicolas Burra, Célia Zolynski, Joséphine Hurstel)

Cycle 4 (2023-2024)

• Sexualité et numérique (Giedre Huber, Cathline Smoos, Francesco Bianchi-Demicheli, Saul Pandelakis)
• L’Ecole du futur (Mireille Betrancourt, David Rey, Richard-Emmanuel Eastes, Anne Hiltpold)

Cycle 5 (2024-2025)

• AI and ‘Enshittification’ of the Internet: can we imagine a new web? (Cory Doctorow, Tommaso Venturini, Micaela Mantegna) – très intéressante aussi, même si un peu « générale ».
• Le vrai-faux à l’ère de la désinformation et de l’IA (David Colon, Sylvain Marchand, Sabine Süsstrunk)

---

1. Un camarade de collège (lycée pour les Français, gymnase pour les vaudois, high-school pour des gens qui ne liront pas ce billet), mais je vous promets que ce billet n’est pas du copinage. D’ailleurs, j’ai trop d’intégrité pour faire ça sans être payé. /s ↩︎
2. J’utilise, comme souvent, le féminin neutre dans cet article. En cas d’oublis, vous pouvez me les signaler. ↩︎
3. MANNTEUFEL, Ingo, 2019. Russian propaganda: « A multitude of lies and absurd news ». DW [en ligne]. 16 mai 2019. ↩︎
4. Je n’en avais pas retrouvé la source mais on me l’a aimablement fournie en commentaire. Merci ! « Are they screaming about our use of fake news? Let’s turn their lives into a crazy nightmare in which they can’t distinguish wild fiction from the realities of the day, infernal evil from the routine of life » ↩︎
5. MAKHORTYKH, Mykola, 2024. AI and the Holocaust: rewriting history? The impact of artificial intelligence on understanding the Holocaust [en ligne]. 2024. UNESCO. ↩︎
6. Je suis personnellement utilisateur du Fédivers à travers Mastodon, mais ce système a des défauts probablement rédhibitoires à ses yeux, s’il connaît même son existence. ↩︎