Déjouer les rouages et les biais des réseaux sociaux

Pour sortir du paradigme diviser pour mieux régner.

Biais cognitifs

En psychologie cognitive, les biais sont des raccourcis de la pensée. Ils mènent à des conclusions rapides, par exemple la présence ou non d’un danger, et donnent un certain avantage d’un point de vue évolutif (par exemple pour se défendre), mais ils peuvent aussi mener à des stéréotypes et conclusions érronées.

Les biais de sélection, fréquents dans les sondages, donnent lieu à une généralisation erronée des résultats et des fausses conclusions, par exemple où renforcer un avion en étudiant le criblage des survivants (les avions qui sont revenus du front). En effet, pour répondre à cette question il faudrait plutôt étudier les avions tombés au combat mais ceux-ci ne sont pas représentés.

Les biais de confirmation, fréquents sur les réseaux sociaux, renforcent des croyances. On finit par trouver ce qu’on cherche plutôt que d’apprendre et explorer de nouvelles choses, sortir de sa zone de comfort.

Parmi les autres biais fréquents, on peut citer

Aversion pour les pertes : Les humains surévaluent ce qu’ils possèdent. La dissymétrie entre les gains et les pertes entraîne une réticence au changement.
Refus du Hasard : Assure le succès des théories complotistes, basées sur des coïncidences expliquées.
Illusion du choix : L’adhérence est renforcée chez les sujets qui pensent qu’ils ont eu le choix, par exemple à travers la customisation d’un profil ou les réglages d’un compte.
Surconfiance et illusion de contrôle : Plus un expert est expert, plus il se trompe avec confiance (Dunning Kruger effect, 2011), fréquent sur les plateaux télévisions.

Le découplage entre la reconnaissance et l’action laisse le temps à la réflexion en inhibant la réaction instantanée (Houdé, 2014) et les raccourcis. La décision est un compromis, voir le test du Marshmallow.

Biais de l’IA

Exemple de biais de genre de LLaMA, un concurrent de ChatGPT. Source: [LLaMA: Open and efficient foundation language models. Arxiv, 2023](https://arxiv.org/abs/2302.13971). — Exemple de biais de genre de LLaMA, un concurrent de ChatGPT. Source: LLaMA: Open and efficient foundation language models. Arxiv, 2023.

Retweet de @[Yann Lecun](https://twitter.com/ylecun/status/1629845738170597376?lang=en), directeur de la recherche en IA de Facebook, en février 2023. Comment expliquer le sexisme des modèles LLaMA et que 13 sur 14 des auteurs sont des hommes? Comment la startup Mistral.ai, co-fondée par 2 auteurs des modèles LLaMA, compte s'adresser au sexisme de l'IA? — Retweet de @Yann Lecun, directeur de la recherche en IA de **Facebook**, en février 2023. Comment expliquer le sexisme des modèles LLaMA et que 13 sur 14 des auteurs sont des hommes? Comment la startup Mistral.ai, co-fondée par 2 auteurs des modèles LLaMA, compte s’adresser au sexisme de l’IA?

Sortir du paradigme “diviser pour mieux régner”

Montée du climatosceptisme sur Twitter. Une importante communauté s’est structurée à partir de l’été 2022. Plus de 10 000 comptes actifs relaient des fausses informations et attaquent le [GIEC](https://www.ecologie.gouv.fr/publication-du-6e-rapport-synthese-du-giec), à coups de milliers de tweets quotidiens. Source: [Climatosceptiques : sur Twitter, enquête sur les mercenaires de l’intox, CNRS, 2023](https://lejournal.cnrs.fr/articles/climatosceptiques-sur-twitter-enquete-sur-les-mercenaires-de-lintox). Voir aussi [Réseaux sociaux : les rouages de la manipulation de l’opinion](https://lejournal.cnrs.fr/articles/reseaux-sociaux-les-rouages-de-la-manipulation-de-lopinion) et [Internet, l’autoroute de la désinformation ?](https://lejournal.cnrs.fr/articles/internet-lautoroute-de-la-desinformation) CNRS, 2022. — Montée du climatosceptisme sur **Twitter**. Une importante communauté s’est structurée à partir de l’été 2022. Plus de 10 000 comptes actifs relaient des fausses informations et attaquent le GIEC, à coups de milliers de tweets quotidiens. Source: Climatosceptiques : sur Twitter, enquête sur les mercenaires de l’intox, CNRS, 2023. Voir aussi Réseaux sociaux : les rouages de la manipulation de l’opinion et Internet, l’autoroute de la désinformation ? CNRS, 2022.

Quel est le but des climatosceptiques? Que défendent-ils? Pourquoi ChatGPT représente une source de désinformation?

Le but de la désinformation est de détourner l’attention, les débats, les investissements… manipuler, influencer. Pour lutter contre la désinformation, il ne faut pas commenter ou partager les contenus (car plus de réactions, plus de vues, plus de réactions…), mais plutôt signaler/bloquer ces contenus ou simplement quitter l’application et éteindre ses écrans pour prendre soin de soi.

Reconnaître les perles de greenwashing. Capture d’écran d’un étudiant en février 2023. Une IA qui écrit une prose convaincante risque de produire en masse de fausses nouvelles (ChatGPT2). Source: [MIT Technology Review](https://www.technologyreview.com/2019/02/14/137426/an-ai-tool-auto-generates-fake-news-bogus-tweets-and-plenty-of-gibberish/), février 2019. — **Reconnaître les perles de greenwashing**. Capture d’écran d’un étudiant en février 2023. *Une IA qui écrit une prose convaincante risque de produire en masse de fausses nouvelles* (ChatGPT2). Source: MIT Technology Review, février 2019.

Reconnaître les conflits d’intérêts. Capitalisation boursière de NVIDIA (2.25 trilliards en 2024), leader mondial du calcul en intelligence artificielle qui [lutte contre le changement climatique](https://www.climatechange.ai/events/neurips2022) avec l'IA. — **Reconnaître les conflits d’intérêts**. Capitalisation boursière de NVIDIA (2.25 trilliards en 2024), leader mondial du calcul en intelligence artificielle qui lutte contre le changement climatique avec l’IA.

Les GAFAM creusent les inégalités sociales, et divisent pour mieux régner. Une autre vision du monde existe, “celle qui unit” disait Paul Valéry.

Faut il continuer d’investir massivement dans l’IA (Galactica 120B, ChatGPT3, LLaMA 65B, ChatGPT4, Mistral…), la désinformation, l’armement plutôt qu’ailleurs, la solidarité, l’éducation et l’environnement? Quels sont les bénéfices et les risques?

Source image: [Pour un Réveil Écologique](https://pour-un-reveil-ecologique.org/fr/). — Source image: Pour un Réveil Écologique.

Voir le guide anti greenwashing Pour un Réveil Écologique et l’outil en ligne de l’ADEME.

Lutter contre la désinformation par la formation

Cette dernière section apporte quelques conseils pratiques pour déjouer les rouages des réseaux sociaux en pratique:

Prendre soin de soi, de sa santé physique et mentale 🎗. Apprendre à lacher prise, à s’écouter et être davatange présent.
Privilégier un appel ou une visite pour communiquer avec votre entourage.
S’informer auprès de sources fiables. Privilégier la qualité sur la quantité.
Faire preuve de discernement et d’esprit critique. Être attentif aux conflits d’intérêts et greenwashing, aux biais et aux non dits. D’où vient l’argent? Quel est le but? Qui est invisibilisé?
Investir son temps et énergie sur le long terme. Apprendre une langue, à cuisiner, à bricoler… faire du sport, de la musique, du bénévolat, de l’artisanat. Soutenir une cause. Réécrire le futur avec de nouveaux imaginaires.

Défi de déconnexion du 22 au 25 mai 2024. Trois jours sans réseaux sociaux, prêt à relever le défi? — **Défi de déconnexion** du 22 au 25 mai 2024. Trois jours sans réseaux sociaux, prêt à relever le défi?

Textes de loi

Loi n° 2021-1104 portant lutte contre le dérèglement climatique et renforcement de la résilience face à ses effets. legifrance.gouv.fr. 2021.

Loi n° 2018-1202 relative à la lutte contre la manipulation de l’information. legifrance.gouv.fr. 2018.

Réglement Général sur la Protection des Données. CNIL. 2018.

Dernière mise à jour le 10 mai 2024