Printemps 2018. L’IA ne peut pas être une nouvelle machine à exclure.

Entretien avec Cédric Villani, mathématicien, médaille Fields français et député La République en Marche de l’Essonne, dans le Monde, le 28 mars 2018, par Morgane Tual et Vincent Fagot.

Extraits de l’article

Cédric Villani a rendu, le 28 mars, son rapport sur l’intelligence artificielle (IA), commandé par le premier ministre Edouard Philippe: 420 experts auditionnés, le rapport balaye des problématiques variées et propose une série de recommandations.

Une intelligence artificielle éthique

« L’IA ne peut pas être une nouvelle machine à exclure », écrit M. Villani. Entre les biais de certains programmes – qui reproduisent le racisme et le sexisme humain par exemple –, le manque de mixité dans les équipes de recherche et les risques sociaux que peuvent représenter ces programmes, l’IA peut inquiéter. Il souhaite « des modalités nouvelles de production et de répartition de la valeur ». Le rapport insiste aussi sur le besoin de féminisation de l’IA – les femmes ne sont que 10 % dans les écoles d’ingénieur en informatique. « Ce manque de diversité peut conduire les algorithmes à reproduire des biais », explique le document, qui recommande une « politique incitative » visant à atteindre un taux de 40 % d’étudiantes d’ici à 2020. Plus largement, le député recommande la mise en place d’un comité d’éthique de l’IA, chargé d’organiser le débat public et de fournir des avis et recommandations « en toute indépendance ». Il souhaite aussi que les pouvoirs publics puissent, « dans le cadre d’une procédure judiciaire ou sur saisine du Défenseur des droits », examiner ces « boîtes noires » pour en comprendre le fonctionnement.

Des propositions non chiffrées

Le rapport de M. Villani propose un grand nombre de recommandations très concrètes, mais comment les financer? Le document n’avance aucun chiffre. “On a fait ces calculs, et plutôt trois fois qu’une”, a assuré M. Villani au Monde. “Mais on ne voulait pas qu’ils soient dans le rapport pour éviter que l’expression publique se précipite dessus”. (…) A l’occasion d’un sommet sur l’IA, organisé au Collège de France à Paris ce jeudi, le président Emmanuel Macron doit présenter son plan pour l’intelligence artificielle.

Il y a une question de souveraineté, qui concerne toute l’Europe.

Entretien avec Cédric Villani dans le Monde, le 9 septembre 2017, par Morgane Tual.

Extraits de l’IA est l’affaire de tout le monde

Le gouvernement a chargé le mathématicien et député LRM Cédric Villani d’une nouvelle mission sur l’intelligence artificielle. Sa mission consiste à dresser une feuille de route pour le gouvernement dans les années à venir… avec l’idée que l’IA ne doit pas être vue comme un domaine spécialisé, mais comme l’affaire de tout le monde.

Nathanaël Ackerman, le coordinateur du rapport France IA qui prévoyait une enveloppe chiffrée à 1,5 milliard d’euros, sera associé de près à [nos] travaux… il manifeste un très grand enthousiasme.

Avez-vous déjà en tête des priorités pour l’action de la France dans ce domaine? Un enjeu très important est comment faire en sorte que l’intelligence artificielle profite à tout le monde, soit associée à un renforcement de la démocratie et pas le contraire. Un certain nombre d’exemples montrent que dans certains cas l’utilisation de l’IA peut avoir des effets ravageurs sur les questions économiques et le tissu démocratique. Un ouvrage m’a beaucoup marqué, celui de Cathy O’Neil, Weapons of Math Destruction (2016, non traduit), qui montre que l’IA profite déjà à des entreprises très fortes, aboutit à des régressions sociales, des erreurs, est utilisée pour le ciblage publicitaire à des fins qui ne sont pas acceptables…

Comment la France peut-elle rivaliser face aux géants comme les GAFAM, qui investissent massivement dans l’IA et débauchent les meilleurs experts, notamment français? La France est en pointe dans la recherche en intelligence artificielle. Nous avons aussi des institutions comme l’Inria, le CNRS, des chercheurs comme Yann LeCun… J’en ai d’autres, des collègues qui sont partis chez Facebook, chez Google… Ce sera une des grandes questions dans le rapport… Il y a aussi une question de souveraineté, qui concerne toute l’Europe… de qui on met à la tête des projets…

Où trouvera-t-on l’argent nécessaire? Je n’ai pas les idées claires là-dessus, c’est un problème majeur…. Sur certains projets, l’Europe s’est montrée capable de débloquer des sommes phénoménales, y compris pour des projets scientifiques très audacieux, comme le Human Brain Project. Mais dans des conditions très compliquées, avec des problèmes de gouvernance considérables… C’est aussi une question de confiance.

Au début du mois, Vladimir Poutine a déclaré que le pays « qui deviendra leader de ce secteur [l’IA] sera celui qui dominera le monde ». Ça montre bien les attentes énormes qui sont placées sur ces nouvelles technologies… Il se peut aussi que l’environnement légal joue de façon importante sur s’il y aura bouleversement ou pas… la loi peut influer sur la vitesse, voire la violence ou la facilité d’une révolution.

Elon Musk, le patron de Tesla, a rebondi sur la déclaration en disant que « la course à la supériorité en IA des Etats causerait probablement une troisième guerre mondiale ». C’est fondamental pour son modèle économique.

Quiz