Déjouer les rouages des algorithmes et des réseaux sociaux

Comprendre leurs origines et sortir du paradigme diviser pour mieux régner.

Biais cognitifs

Illustration de biais cognitifs.
Illustration de biais cognitifs.

Les biais de sélection et biais de confirmation sont fréquents dans les sondages et sur les réseaux sociaux.

Parmi les autres biais fréquents, on peut citer

  • Aversion pour les pertes : Les humains surévaluent ce qu’ils possèdent. La dissymétrie entre les gains et les pertes entraîne une réticence au changement.
  • Refus du Hasard : Assure le succès des théories complotistes (coïncidences expliquées).
  • Illusion du choix : L’adhérence est renforcée chez les sujets qui pensent qu’ils ont eu le choix.
  • Surconfiance et illusion de contrôle, fréquent chez les experts (Dunning Kruger effect, 2011)

Le découplage entre la reconnaissance et l’action laisse le temps à la réflexion en inhibant la réaction instantanée (Houdé, 2014). La décision est un compromis. Voir le test du Marshmallow.

Biais de l’IA

Les femmes ne sont que 10 % dans les écoles d’ingénieur en informatique. Ce manque de diversité peut conduire les algorithmes à reproduire des biais. - Ce qu’il faut retenir du rapport de Cedric Villani, entretien avec Cédric Villani dans le Monde, le 28 mars 2018, par Morgane Tual et Vincent Fagot.

Exemple de biais de genre d'un concurrent de ChatGPT. Source: [LLaMA: Open and efficient foundation language models. Arxiv, 2023.](https://arxiv.org/abs/2302.13971) (Annexe).
Exemple de biais de genre d’un concurrent de ChatGPT. Source: LLaMA: Open and efficient foundation language models. Arxiv, 2023. (Annexe).
Y a-t-il un lien entre les biais de l'IA et la privatisation de la recherche? Retweet de @[Yann Lecun](https://twitter.com/ylecun/status/1629845738170597376?lang=en), directeur de la recherche en IA de Facebook, en février 2023.
Y a-t-il un lien entre les biais de l’IA et la privatisation de la recherche? Retweet de @Yann Lecun, directeur de la recherche en IA de Facebook, en février 2023.

Sortir du paradigme “diviser pour mieux régner”

Source: [https://lejournal.cnrs.fr/articles/climatosceptiques-sur-twitter-enquete-sur-les-mercenaires-de-lintox](https://lejournal.cnrs.fr/articles/climatosceptiques-sur-twitter-enquete-sur-les-mercenaires-de-lintox). Voir aussi [Désinformation : la Commission européenne suspend toutes ses publicités sur le réseau social X](https://www.lemonde.fr/pixels/article/2023/11/17/desinformation-la-commission-europeenne-suspend-toutes-ses-publicites-sur-le-reseau-social-x_6200746_4408996.html), Le Monde, nov 2023.
Source: https://lejournal.cnrs.fr/articles/climatosceptiques-sur-twitter-enquete-sur-les-mercenaires-de-lintox. Voir aussi Désinformation : la Commission européenne suspend toutes ses publicités sur le réseau social X, Le Monde, nov 2023.
Reconnaître les perles de greenwashing. Capture d’écran d’un étudiant de Paul Valéry en licence MIASHS.
Reconnaître les perles de greenwashing. Capture d’écran d’un étudiant de Paul Valéry en licence MIASHS.
Reconnaître les conflits d’intérêts. Capitalisation boursière de NVIDIA (2.25 trilliards en 2024).
Reconnaître les conflits d’intérêts. Capitalisation boursière de NVIDIA (2.25 trilliards en 2024).

Les GAFAM creusent les inégalités sociales, et divisent pour mieux régner. Une autre vision du monde existe, “celle qui unit” - Paul Valéry.

Voir le guide anti greenwashing Pour un Réveil Écologique sur pour-un-reveil-ecologique.org et l’outil en ligne de l’ADEME.

Source image: [Pour un Réveil Écologique](https://pour-un-reveil-ecologique.org/fr/)
Source image: Pour un Réveil Écologique

Références

David Chavalarias, Paul Bouchaud, Victor Chomel et Maziyar Panahi. Climatosceptiques : sur Twitter, enquête sur les mercenaires de l’intox. CNRS. 2023.

Internet, l’autoroute de la désinformation ? CNRS. 2022.

Les fichiers Facebook. Une enquête du Wall Street Journal. 2021.

Une IA qui écrit une prose convaincante risque de produire en masse de fausses nouvelles. MIT Revue Technologique. 2019.

Laure Delisle et al. Une analyse participative à grande échelle des abus contre les femmes journalistes et politiciennes sur Twitter. NeurIPS. 2018.

Garg Nikhil, Londa Schiebinger, Dan Jurafsky et James Zou. Les plongements de mots quantifient 100 ans de stéréotypes de genre et ethniques. Proceedings of the National Academy of Sciences. 2018.

Guide anti greenwashing. Pour un Réveil Écologique, 2018.

Dunning, David. “The Dunning–Kruger effect: On being ignorant of one’s own ignorance.” Advances in experimental social psychology. Vol. 44. Academic Press, 2011. 247-296.

Textes de loi

Loi n° 2021-1104 portant lutte contre le dérèglement climatique et renforcement de la résilience face à ses effets. legifrance.gouv.fr. 2021.

Loi n° 2018-1202 relative à la lutte contre la manipulation de l’information. legifrance.gouv.fr. 2018.

Règlement Général sur la Protection des Données. CNIL. 2018.

Précédent
Suivant