Algorithmes, intelligence artificielle, numérique, big data… L’utilisation à haute fréquence de ces termes, souvent vus comme interchangeables, produit un effet paradoxal : elle masque leur omniprésence. De la régulation du trafic automobile à l’approvisionnement en électricité, des prestations sociales aux diagnostics médicaux, de l’affectation des bacheliers aux caméras de surveillance, les technologies numériques gèrent une grande partie de notre quotidien. La pandémie a fonctionné à la fois comme un accélérateur, un test grandeur nature et la justification d’un recours accru à ces outils. Mais il convient d’interroger l’amélioration, les fausses promesses ou les menaces dont ils sont porteurs pour le fonctionnement des régimes démocratiques.

La transformation numérique des États englobe la dématérialisation des services, la mise à disposition de données publiques (l’open data) mais aussi le recours croissant à des algorithmes de simulation ou de décision. Cette dématérialisation et le recours à la décision automatisée incarnent le croisement entre la révolution technologique promue par la Silicon Valley et les impératifs du New Public Management1. Mais comment ignorer que ces outils peuvent, en incorporant les biais de leurs concepteurs, discriminer des territoires et des populations entières ?

Les algorithmes de justice aux États-Unis ont mené à des majorations de peines de prison pour les afro-américains.

Ainsi, l’utilisation d’algorithmes de justice ou de police prédictive aux États-Unis a mené à des majorations de peines de prison pour les populations afro-américaines ou au renforcement des patrouilles (et donc des arrestations) dans certains quartiers. Au-delà de ces utilisations parfois problématiques, existe-t-il des usages du numérique qui permettent des décisions politico-administratives éclairées ou laissant une prise à la population ?

Fausses promesses

Au XX^e siècle, le sondage était l’outil privilégié de la démocratie d’opinion. Désormais, c’est grâce à l’écoute des réseaux sociaux que se recueille l’opinion de façon routinière, par le transfert des techniques du marketing dans la sphère politique. L’augmentation vertigineuse du nombre d’utilisateurs (53 % de la population mondiale) et du temps passé sur internet (six heures par jour en moyenne), incite à diverses formes de veille. L’« opinion mining » désigne le processus d’extraction, de représentation, d’analyse et de modélisation des données des médias sociaux. Les résultats alimentent la prise de décision, de la mise à l’agenda d’un sujet à l’évaluation d’une politique publique en fonction de ses résultats et de sa popularité.

Un récent appel d’offres du service d’information du gouvernement (SIG) prévoit de mesurer l’impact des contenus publics hébergés sur les espaces d’expression en ligne, mais surtout, grâce à une veille en temps réel, il souhaite en identifier les acteurs les plus influents. Le gouvernement anglais, lui, formule plus explicitement encore ses objectifs : exploiter « les données sociales pour pouvoir comprendre ce que les décideurs et les influenceurs voient, les personnes et les contenus qui les influencent (dans toutes les langues) et les implications stratégiques qui en découlent ». Il s’agit donc, d’une part, de prendre le pouls de l’opinion et, d’autre part, de l’influencer via des canaux privilégiés.

L’analyse des discours du public et l’identification des rumeurs et fausses nouvelles guident les annonces et les politiques liées au coronavirus. Au plus fort de la crise, l’Organisation mondiale de la santé (OMS) a mis en place une plateforme d’écoute en temps réel des réseaux sociaux : EARS (Early AI-supported Response with Social listening) sur quarante-et-un sujets liés au Covid-19 dans vingt pays, en anglais, français, espagnol et portugais. Les données fournies aux gouvernements par les réseaux sociaux sur le ressenti des citoyens s’ajoutent à celles recueillies via statistiques, capteurs, internet des objets, géolocalisation, etc. Les politiques publiques sont désormais informées et adaptées grâce à toutes ces données.

L’écoute des réseaux sociaux par les gouvernements favorise une culture de la réaction.

Les entreprises d’analyse des réseaux pour les décideurs politiques clament que le social listening permet de capter la spontanéité des expressions, en grand volume, en temps réel et de façon fine, et cela pour seulement une fraction du coût des sondages. Mais les critiques classiques adressées aux sondages, à savoir la fabrication d’une opinion publique artificielle, résultante de questions non spontanées et peu représentatives, restent ici valables.

D’abord, la fracture numérique relativise cette lecture de l’opinion des citoyens, car tout le monde n’utilise pas les réseaux sociaux. S’y ajoute la difficulté de détection des signaux faibles et significatifs dans le bruit ambiant des nombreuses expressions on line, ou des obstacles techniques. Comment repérer, par exemple, un commentaire ironique ? Enfin, l’écoute des réseaux sociaux est porteuse d’un risque pour les gouvernements : favoriser une culture de la réaction plus que l’action politique.

Opinions numérisées

La participation numérique via des plateformes dédiées peut également permettre aux citoyens de contribuer à la décision politique. De plus en plus fréquentes, les plateformes délibératives ou participatives, mises en place par des partis politiques, recueillent l’opinion de leurs soutiens (choix des candidats aux élections, participation ou non au gouvernement, élaboration du programme, etc.). Qu’on pense aux plateformes Consul pour Podemos (Espagne), Rousseau pour le Mouvement 5 étoiles (Italie) ou Liquid feedback pour le Piratenpartei (Allemagne).

Conçues comme un substitut aux partis de masse, un garde-fou contre leurs dérives oligarchiques ou un moyen de favoriser la démocratie directe et impérative, ces plateformes incarnent la désintermédiation numérique dans le domaine politique. Cette suppression des structures intermédiaires que sont classiquement les partis traduit le rêve d’un possible lien direct avec l’opinion. La politique ne se vit plus dans les sièges des partis ou dans les cellules des usines disparues, mais à distance.

Pour autant, les dispositifs qui invitent les internautes d’un parti à s’exprimer se heurtent aux obstacles classiques de l’« illectronisme » et de la concentration d’un petit nombre d’utilisateurs sur-actifs. Par ailleurs, les responsables peuvent largement canaliser cette expression : formulation des questions, délais de votation en temps très limités, proposition de listes bloquées de candidats… L’arsenal de restrictions possibles à cette participation numérique incite à relativiser. Le recueil numérique de l’opinion ne redonnera pas voix aux citoyens qui le souhaitent sans une politique d’éducation généralisée au numérique et sans un réel encadrement juridique.

Indispensable éducation

Régulation juridique et littératie numérique2 sont les conditions minimales de l’utilisation de l’intelligence artificielle dans la décision politique et administrative. Les portes que l’épidémie de Covid-19 a ouvertes à la surveillance montrent la faiblesse des incantations éthiques et l’importance fondamentale de garants comme la Commission nationale de l’informatique et des libertés (Cnil), qui peinent parfois à réfréner les ambitions des États. L’encadrement juridique fourni par les législations française et européenne3 est appelé à se préciser.

L’automatisation des sociétés satisfait aussi bien les tenants du « moins d’État » que des régimes autoritaires.

Il a fallu des dizaines d’années pour voir émerger des journalistes et des publications spécialisés en environnement, et pour que le changement climatique se constitue en problème public. Mais l’automatisation des sociétés4 ne nous laisse pas ce temps. Dès lors, les cursus éducatifs doivent systématiser l’initiation au numérique dans ses aspects techniques, environnementaux et éthiques. Mais cette littératie numérique concerne aussi bien des élites trop souvent peu connectées, dans un monde où les Gafam (Google, Apple, Facebook, Amazon, Microsoft) ont une puissance économique et technologique comparable à celle des États. Rappelons que la valorisation boursière des Gafam fait d’eux la troisième puissance économique mondiale derrière les États-Unis et la Chine.

Dans une ellipse paradoxale, l’automatisation des sociétés satisfait aussi bien les tenants de la dérégulation libérale et du « moins d’État » que des régimes autoritaires comme la Chine, à même désormais d’encager l’ensemble de leur population. Pour éviter la détérioration de la démocratie, identifions des responsables de l’usage de l’intelligence artificielle, demandons des garanties d’une transparence majeure des dispositifs et formons les dirigeants politiques, administratifs et citoyens aux bénéfices et aux risques des sociétés automatisées.