Dans le passé jusqu’au cou


2001. J’y ai repensé hier en écoutant Le vent nous portera, de Bertrand Cantat et Noir Désir. Le single est sorti il y a presque vingt ans, jour pour jour. Vingt ans, c’est l’écart entre 1929 et 1949, entre les années folles et le rideau de fer. C’est l’écart entre 1968 et 1988, entre la révolution sexuelle et la révolution conservatrice. Entre 2001 et 2021, rien de tel.

Bien sûr, il s’en est passé, des choses. 12 millions de Français·es sont mort·es, 16 millions sont né·es. Mais les idées n’ont pas changé. Le Pen est toujours au centre de la vie politique. Le débat public reste obsédé par l’insécurité, surtout ressentie par ceux et celles qui ne la subisse pas. La plupart des intellectuel·les refusent toujours d’admettre que ce thème n’est qu’un appeau à haine, un code qui désigne les Noir·es et les musulman·es comme coupables, de tout. (Dans le même temps, les intellectuel·les étasunien-nes ont développé le concept de dog-whistle pour appréhender ce genre de discours).

Le monde a évolué. Les problèmes de 2001, soigneusement ignorés par le personnel politique, ont largement empiré. Les relations entre humains sont empoisonnées par des inégalités toujours croissantes, et la catastrophe climatique grandissante détruit les relations entre êtres vivants.

Quant à Bertrand Cantat, il continue sa carrière. Après quatre ans en prison pour un féminicide commis en 2003, il chante à nouveau, même si de nombreuses personnes font pression sur les festivals et les salles de concert pour ne plus le voir sur scène.


Les données sont des particules de passé que l’on stocke au lieu de laisser s’envoler. Elles portent en elles la vision du monde de ceux qui les ont collectées. Des recensements du 18e siècle aux traces numériques du 21e, les organisations commerciales ou étatiques captent de plus en plus de ces grains de passé, et les conservent jalousement.

Plus on produit de passé, plus il est difficile de s’en extirper. On s’y embourbe et on reste bloqué. Ce n’est pas une fatalité. Les archives peuvent être contextualisées, la recherche historique nous permet de mieux comprendre le présent. Mais les historien·nes n’ont pas encore été appelé·es pour prendre la tête de la cordée.

Au contraire, le gouvernement français dénonce régulièrement la recherche. À en croire les ministres, elle excuse le terrorisme (en 2016), cause les tensions sociales (en 2017) et gangrène la société (en 2021).

Loin de nous éclairer, ce passé nous opprime. Les systèmes d’inférences automatiques (IA)1, qui font des prédictions à partir d’immenses bases de données, sont construits pour répliquer le passé. Un programme comme GPT-3, par exemple, un générateur de langage naturel, a ingurgité des millions de textes du 19e et du 20e siècle. Les phrases qu’il produit portent en elles les valeurs de ceux qui les ont écrits. Utiliser GPT-3 ou les systèmes équivalents intégrés aux chatbots et aux assistants vocaux, c’est reproduire et propager les valeurs du passé.

Les livres aussi reproduisent les valeurs de ceux qui les ont écrits. Mettre au programme scolaire des auteurs violemment racistes comme Kant ou misogynes comme Rousseau permet de perpétuer leur idées (il n’y a pas une femme parmi les auteurs des Lumières étudiés en Terminale).

Mais les systèmes d’IA sont différents. On ne peut pas retracer l’origine des idées qu’ils propagent. Les millions de Français·es qui passent du temps sur Instagram voient ce que Facebook décide de leur montrer. Mais à la différence des archives en papier, les données sur lesquelles son IA fonde ses décisions ne sont connues que de Facebook. Ce qui est vrai de Facebook l’est aussi des autres systèmes d’IA. Les détecteurs de comportements anormaux, qu’ils soient alimentés par les caméras de surveillance dans la rue ou par les données captées par le fisc ou les caisses d’allocations familiales, imposent une norme connue d’eux seuls.

Sous couvert de modernité et de futur, les IA sont en réalité de formidables forces conservatrices. La normalité qu’ils imposent est celle du passé. Le monde évolue, mais ces systèmes continueront à l’interpréter avec les données des années, voire des siècles passés. Ils empêchent l’émergence de nouvelles idées, qui seraient fondées sur le monde tel qu’il est, et non tel qu’il était.


Impossible de résister contre une force omniprésente et invisible. Les activistes qui révèlent les travers des systèmes d’IA permettent certaines avancées, mais leurs efforts restent dérisoires face à l’ampleur du problème.

Les IA imposent le passé comme une chape de plomb. Lutter contre elles nécessite de refuser leur vision du passé. Les faits passés sont inaltérables, mais leur interprétation peut changer. Voir le Néolithique non pas comme l’avènement d’une civilisation supérieure mais comme la domestication des humains, comme le fait l’anthropologue James Scott, c’est un acte de résistance. Voir le 17e siècle non pas comme un siècle d’or mais comme une apocalypse, comme le fait l’historien Gerald Horne ; considérer la mort de Marie Trintignant comme un féminicide et non pas comme un drame conjugal, aussi.

La virulence des attaques d’une large partie du personnel politique français contre les travaux portant sur l’esclavage et la colonisation, ou contre les initiatives visant à nous libérer de l’écriture masculiniste, montre à quel point ils se sentent menacés par la réinterprétation du passé.

Changer la loi pour mieux encadrer Facebook et les autres monopolistes, ou changer le système fiscal pour que chaque citoyen·ne paye sa juste part d’impôt, sont des étapes nécessaires pour résoudre les crises que nous traversons. Changer notre regard sur passé est aussi indispensable, et sans doute une précondition pour le reste.

Notes

1. La formule est de Mireille Hildebrandt dans The Artificial Intelligence of European Union Law.