Navigation – Plan du site
Dossier : Le tournant numérique… Et après?
Débat

Le régime de vérité numérique

De la gouvernementalité algorithmique à un nouvel État de droit
Antoinette Rouvroy et Bernard Stiegler
p. 113-140

Texte intégral

  • 1 Nous adressons nos remerciements aux deux intervenants Bernard Stiegler et Antoinette Rouvroy, ain (...)
  • 2 Association internationale pour une politique industrielle des technologies de l’esprit.

1Le texte présenté ici est issu d’une séance du séminaire « Digital Studies » qui s’est tenue le 7 octobre 2014 au Centre Georges-Pompidou1. Ce séminaire, sous la direction de Bernard Stiegler, philosophe, président du groupe de réflexion « Ars Industrialis2 » et directeur de l’Institut de recherche et d’innovation, interroge l’influence des technologies numériques sur le savoir d’un point de vue épistémologique et les manières dont elles affectent les différentes disciplines académiques.

2L’enjeu est d’ouvrir un débat sur le statut de ces technologies dans les sociétés présentes et à venir et de faire émerger sur cette base un collectif international d’échanges et de contributions autour des études numériques. Lors de cette séance, Bernard Stiegler, qui rédige actuellement un ouvrage (La société automatique) sur les enjeux de la production et de l’exploitation automatisée des données numériques (les data), a conversé avec Antoinette Rouvroy, docteur en droit, chercheur du FNRS à l’université de Namur, qui développe depuis quelques années une ligne de recherche autour de ce qu’elle a appelé la « gouvernementalité algorithmique » (Rouvroy et Berns, 2013). Nous transcrivons ici son intervention et la première partie du débat qui s’est ensuivi.

Intervention d’Antoinette Rouvroy

3Je réfléchis depuis un certain nombre d’années sur la question de la gouvernementalité algorithmique pour tenter de cerner un phénomène qui, véritablement, échappe aux sens. Je vous donnerai quelques exemples pour vous montrer qu’on assiste au développement d’un nouveau mode de gouvernement des conduites, et que des glissements épistémiques, épistémologiques et sémiotiques ont, grâce ou à cause du tournant numérique, des répercussions fondamentales, qui m’intéressent sur le plan du métabolisme normatif, ou quant à la façon dont les normes se fabriquent et fabriquent de l’obéissance.

4En rebondissant sur le titre très évocateur qui n’est pas le mien, « le régime de vérité numérique », j’aimerais tout d’abord examiner cette adéquation qu’on ressent intuitivement entre la notion de régime de vérité chez Foucault et les nouveaux modes de catégorisation du réel que permettent les big data et surtout les techniques de data analytics et, en particulier, le data mining (exploration de données), afin de voir si effectivement cette importation sous la notion de régime de vérité tient. Ensuite, je voudrais montrer un certain nombre de glissements qui tiennent au fait que si l’on veut problématiser cet engouement pour les big data et pour la présentation ou le façonnage, la modélisation algorithmique du réel, le problème qu’on essaie de résoudre à travers cela est principalement celui d’une crise de la représentation. C’est aussi une crise à la fois de la notion d’épreuve et de la notion d’événement, donc une crise de la critique.

5Représentation, épreuve, événement et critique se trouvent en quelque sorte contournés par les nouvelles possibilités de modélisation du monde. Quand je parle de crise de la représentation, il s’agit bien évidemment d’une crise radicale : ce n’est pas simplement une crise de la représentation en tant qu’elle est représentation politique, algorithmique ou non, mais vraiment une crise de la représentation en tant que telle. Représentation, c’est-à-dire après coup, résultat d’une transcription, d’une interprétation. C’est en ce sens que je voudrais montrer qu’avec la gouvernementalité algorithmique nous avons justement affaire à une crise des régimes de vérité. À mon avis, nous sommes moins face à l’émergence d’un nouveau régime de vérité qu’à une crise des régimes de vérité. Toute une série de notions sont, elles aussi, en crise : les notions de personne, d’autorité, de témoignage.

6Pour entrer dans la chair assez désincarnée de ce sujet, je m’intéresserai aussi à la notion de donnée brute comme degré zéro de l’écriture. Il m’importera à cet égard de distinguer assez nettement ce qui se produit effectivement dans la pratique de ceux qui font du data mining, qui font exister les algorithmes, de le distinguer, donc, d’une certaine idéologie des big data. Je tenterai aussi de montrer qu’à travers la mise en crise du régime de vérité par le numérique, ce qu’on peut percevoir est une recherche d’objectivité absolue, une recherche pour coller au plus près du réel, qui est en fait une recherche de sécurité se traduisant par une recherche de certitude. C’est une trajectoire assez particulière : recherche d’objectivité et de sécurité qui se traduit par une recherche, je ne dirais pas d'éradication de l'incertitude, mais de neutralisation de ceux des effets de l’incertitude radicale qui sont suspensifs des flux.

7Des flux de quoi ? De données, de personnes, de capitaux. De cette manière, on peut montrer, je pense, qu’il existe une complicité assez étroite entre ce que j’appelle la gouvernementalité algorithmique et le capitalisme avancé, alors même que la gouvernementalité algorithmique ne produit pas nécessairement les mêmes effets de disciplinarisation sur les personnes que ceux que produirait le néolibéralisme. Ce que je voudrais montrer in fine, c’est que le problème principal dont, par ailleurs, on pourrait se réjouir, est que la réalité ou le réel comme tel est aujourd’hui en train de prendre toute la place. Le concept de vérité se trouve de plus en plus replié sur celui de la réalité ou de l’actualité pure, au point, finalement, que les choses semblent parler pour elles-mêmes.

8Il ne s’agit même plus des choses, puisqu’il n’y a plus de choses, il n’y a plus d’objets résilients : il n’y a que des réseaux de données évolutifs en temps réel qui s’agrègent de temps en temps sous forme de profils, de patterns, etc. Mais les données brutes ont l’air de parler pour elles-mêmes. On ne distingue plus ce qui relevait précédemment du signe ou du signal et la chose. Ce qu’on perd évidemment dans cet accolement, c’est la possibilité de la critique. La question qu’il serait aujourd’hui intéressant de poser c’est : quelle est l’importance de la critique ? Que perd-on dans cette clôture du numérique sur lui-même ?

9Tout d’abord, je rappelle que les données, dans leur prolifération, effectivement, ne sont pas données. On l’entend à profusion. Les données sont travaillées, triées, etc. Il y a bien un travail extrêmement sophistiqué de production des données, y compris des données brutes, qui dans l’idéologie des big data paraissent des émanations spontanées de la nature. Il existe un vrai travail des data scientists autour du nettoyage des données, du tri. Ce nettoyage est, à mon avis, essentiellement une opération de purification dans laquelle les données sont expurgées de tout ce qui fait leur contexte, leur rapport avec la singularité des vies, leur signification singulière.

10Le travail de production de big data, ou plutôt des données brutes, est donc un travail de suppression de toute signification, afin que ces données brutes puissent être calculables et fonctionnent non plus comme des signes qui signifient quelque chose en rapport à ce qu’ils représentent, mais comme quelque chose qui se substitue à la réalité signifiante, la fasse disparaître. Se substitue ainsi à la réalité signifiante un ensemble de réseaux de données a-signifiantes qui fonctionnent comme des signaux, c’est-à-dire que bien qu’elles n’aient aucune signification, ou plutôt grâce à cela, elles deviennent calculables. En fait, c’est la définition du signal donnée par Umberto Eco : un signal, c’est un élément sans signification, qui ne signifie rien, mais, parce qu’il ne signifie rien justement, devient d’autant plus calculable.

11Aujourd’hui, les données sont soit ce qu’on appelle des hard data, c’est-à-dire des données dures, consolidées, produites par exemple par les administrations publiques, soit des soft data, c’est-à-dire des données des réseaux sociaux, de géolocalisation recueillies à partir d’appareils GPS, des données produites par des objets communicants (Internet des objets), des données à la fois images, sons, localisations. Une définition des big data qui défait un peu le caractère triomphaliste de l’expression big data, c’est tout simplement le passage d’un seuil de vélocité, de rapidité, de quantité de données, de complexité à partir duquel on ne comprend plus rien avec notre rationalité moderne, c’est-à-dire la rationalité qui consistait à comprendre les phénomènes en les liant à leurs causes. On est obligé de l’abandonner, au profit d’une sorte de rationalité postmoderne purement inductive qui renonce à la recherche des causes des phénomènes et vise tout simplement à plus ou moins prévoir leur survenue. Je caricature un peu, mais c’est le passage d’une logique déductive à une logique purement inductive.

12C’est déjà un saut relativement important dans la manière de présenter ce qui compte comme réel. Je ne vais pas présupposer que le réel nous soit accessible ou nous ait été accessible autrement auparavant. Chaque époque a sa manière de rendre le réel gérable sans qu’il soit nécessairement accessible. Boltanski fait ainsi une distinction très intéressante entre l’idée de monde et l’idée de réalité. Pour lui, finalement, le monde est ce qui survient, c’est-à-dire ce qui est prévisible en ajoutant la part de radicale et irréductible imprévisibilité. Tous les événements qui peuvent se produire et qu’on ne peut pas prévoir, c’est l’excès du possible sur le probable, c’est-à-dire tout ce qui échappe, par exemple, à la réalité actuarielle à travers laquelle on essaie précisément de rendre le monde gérable en le réduisant à ce qui est prévisible. Je caricature un peu, mais on est sorti aujourd’hui de cette idée de réalité actuarielle au profit d’une réalité que je dirais postactuarielle dans laquelle on vise à ne plus se contenter de calculer des probabilités, mais à prendre en charge par avance ce qui échappe à la probabilité, donc l’excès du possible sur le probable.

13Deuxième caractéristique de cette nouvelle prise sur le monde : on a l’impression, grâce aux big data, de ne plus avoir à produire de connaissances à propos du monde, mais de pouvoir découvrir le savoir à même le monde. Grâce notamment aux big data qui émanent des réseaux sociaux, on pense pouvoir enfin modéliser le social à même le social. Cela paraît très émancipateur dans une certaine mesure, parce que cela ne présuppose plus aucun modèle a priori, quasiment plus aucun tri non plus, on a ainsi un sentiment de très grande objectivité. Cela semble, de plus, tout à fait démocratique puisque cela ne passe plus du tout par des catégorisations qui auraient été dictées par des rapports de force politiques. On a affaire à une abondance de données, on pourrait même dire à une mise en nombres de la vie même, les individus étant considérés comme agrégats temporaires de données exploitables en masse à l’échelle industrielle.

14On remarque aussi une dissipation ou une explosion de toutes les formes, objet ou personne. Ne restent plus que des ensembles d’indexations. On peut également observer une complicité, ou en tout cas un parallèle, entre certains modes de gouvernement néolibéraux et la manière dont les individus se vivent comme n’ayant de valeur qu’indexés sur leur popularité dans les réseaux sociaux, sur le nombre de citations de leurs travaux, sur toute cette sorte de quantification de soi. Ce côté « machine » affecte les individus dans la manière qu’ils ont de se construire autobiographiquement, biographiquement, de se concevoir eux-mêmes. Cette explosion des données, mais aussi des formes et des personnes, c’est une hyperindexation d’absolument tout, y compris de la forme personnelle. Quelque chose me semble très inquiétant : le fait que les individus eux-mêmes en viennent à ne plus se concevoir que comme hyperquantifiés – on parle de quantified self –, comme n’ayant de valeur que par rapport à l’extérieur, aux performances des autres.

15On est bien là dans une société hypercompétitive, y compris sur le plan de la subjectivation et de l’individuation. On pourrait dire que c’est très bien de se comparer aux autres. Au moins n’est-on plus enfermé sur soi-même et a-t-on affaire à de l’individuation interpersonnelle. Sauf que chaque individu hyperindexé est effectivement une multitude, mais une multitude sans autres puisque finalement dans ces dispositifs, par exemple le quantified self ou les profils de lecteurs sur certaines librairies en ligne, chaque individu devient sa propre référence statistique. Si, sur votre librairie en ligne, tel ou tel ouvrage vous est recommandé parce que des personnes ayant acheté les mêmes ouvrages que vous ont également acheté ces autres livres, vous pouvez avoir l’impression d’appartenir à une communauté ; c’est pourtant une communauté que vous n’avez aucune chance de rencontrer. Cette récolte assez massive de données ne génère absolument aucune récalcitrance, bien entendu, d’autant que ces signaux sont insignifiants pour les personnes qui les émettent. Même si vous n’allez jamais sur Internet, même si vous vous déconnectez absolument de tout, ce qui est une perspective assez peu plausible aujourd’hui, il suffit que votre voisin soit sur Internet pour qu’on puisse inférer beaucoup d’informations à votre propos, du fait que vous habitez à côté d’untel, etc.

16Cette mise en nombres de la vie même, à laquelle est substituée non pas une vérité, mais une réalité numérique, une réalité qui se prétend le monde, c’est-à-dire qui se prétend non construite, est un phénomène très significatif de notre époque, bien qu’il paraisse abstrait. On peut avoir l’impression que ça ne nous touche pas dans nos affects quotidiens, mais je pense que c’est faux, et je fais l’hypothèse que c’est d’autant plus efficace que cela paraît tout à fait inoffensif. Dès lors qu'il suffit de faire tourner des algorithmes sur des quantités massives de données pour en faire surgir comme par magie des hypothèses à propos du monde, lesquelles ne vont pas nécessairement être vérifiées, mais seront opérationnelles, on a effectivement l’impression d’avoir décroché le Graal, d’avoir atteint l’idée d’une « vérité » qui ne doit plus, pour s’imposer, passer par aucune épreuve, aucune enquête, aucun examen et qui, pour surgir, ne dépend plus d’aucun événement. Dans cette mesure, on s’écarte, me semble-t-il, à la fois la notion de régime de vérité chez Foucault et du lien qu’Alain Badiou faisait entre « événement » et « vérité ».

17On est dans une sorte d’immanence qui paraît tout à fait parfaite, dont rien ne semble dépasser qui ne laisse aucun reste. C’est la prétention à une sorte de totalité. On parle de big data en disant que tout ce qui est enregistrable, numérisable va en faire partie. Or, comme tout devient numérisable, tout, la totalité, va faire partie des big data. Mais c’est oublier qu’il y a des restes, et je pense qu’ils sont ce sur quoi on peut appuyer une éventuelle récalcitrance. Ils sont, à mon sens, de trois ordres : il y a des restes temporels – l’expression est maladroite, et je ne suis pas encore fixée sur le terme. Cela comprend ce qui relève de l’ineffectué dans l’histoire. À partir du moment où vous enregistrez tous les événements, seuls vont être enregistrés ceux qui se sont réellement produits. Or on sait que le passé est fort d’une multitude de projets inaboutis, d’utopies non réalisées par définition – on en trouve d’ailleurs des traces dans les œuvres d’art (voir Bailly, 2010). Tout cet ineffectué, qui représente une ressource incomparable et incroyablement riche pour penser les utopies d’aujourd’hui et de l’avenir, ne se retrouve pas dans le numérique parce que précisément cela n’a pas été effectué, n’a pas été actualisé, et donc n’a trouvé de place dans aucun présent. Ces restes-là échappent à la numérisation, alors qu’ils sont tout à fait importants culturellement et politiquement.

18Un autre reste qui échappe, je pense, à la numérisation, c’est l’avenir. Spinoza disait qu’on ne sait jamais ce que peut un corps. Cette dimension conditionnelle de ce que pourrait un corps, c’est la dimension conditionnelle en tant que telle. J’ai écrit dans le passé que la cible de la gouvernementalité algorithmique est précisément cet ineffectué de l’avenir, cette actualisation du virtuel. Mais, bien entendu, il y a une récalcitrance de la vie humaine à toute tentative d’organisation excessive (voir Manchev, 2009). Je pense que l’ineffectué dans l’avenir est effectivement une source de récalcitrance, même si on croit, et cela relève de l’idéologie des big data, qu’on va tout pouvoir prévoir, crunching numbers is the new way to be smart.

19En troisième lieu, tout n’est pas numérisable, en particulier tout ce qui relève de la mansuétude humaine. Par exemple la misère, la pitié ne sont pas numérisables. C’est ce qui fait notamment la différence entre un robot juge et un juge humain. Des personnes travaillent très sérieusement sur une sorte de robotisation de la justice : en définitive, les codes ne sont que des algorithmes et les juges doivent les suivre, pourquoi alors ne pas gagner en impartialité, en rapidité, en effectivité en automatisant toute une série de décisions de justice ? C’est déjà en cours. Notamment, il existe des systèmes de recommandations par rapport aux possibilités de libération anticipée de prévenus ou pour évaluer les risques de récidive : des modèles comportementaux fondés sur l’analyse de big data, consistant en profils de récidivistes types ont été construits. Évidemment, il est extrêmement tentant de se soumettre à de tels systèmes de recommandations pour un juge ou pour quelqu’un qui doit décider de libérer ou de garder en prison quelqu’un. Si on s’écarte de ces recommandations, si on décide contre l’avis de la machine, on prend personnellement la responsabilité d’une éventuelle récidive. On y gagne, peut-être, sur le plan d’une certaine notion de l’objectivité, mais on peut perdre sur le plan de la notion, à mon sens, importante de justice comme horizon inclôturable et indécidable.

20Un autre exemple pour rendre la chose plus explicite : on pourrait bien imaginer que les assureurs, notamment les assureurs sur la vie, utilisent toutes les données des réseaux sociaux, des mailing lists pour évaluer ceux qui, parmi les assurés ou les candidats à l’assurance, subissent de la violence conjugale. C’est assez facile parce que les forums regorgent de personnes cherchant du soutien, des conseils, cherchant en somme à faire communauté face à cette calamité. Le point de vue de la justice actuarielle consisterait à dire que chacun doit payer pour son propre risque. C’est l’obsession du coût réel : les primes d’assurance doivent être ajustées le plus précisément possible aux risques présentés par chaque assuré, et il est injuste que certains qui ont moins de risques paient pour d’autres qui en ont plus – tout le contraire de l’assurance sociale, évidemment.

21Le principe est tout à fait rationnel et très objectif : chacun paie pour son risque. Cependant, il entre en collision directe avec la notion de justice sociale ou d’équité. On se dit : franchement, le fait d’être victime de violence conjugale est quelque chose contre quoi la société doit être solidaire. La recherche d’objectivité telle qu’elle apparaît dans ce genre d’exemple pose de fait un problème. Elle renvoie aussi à une recherche de sécurité, et mène à une recherche de sécurité économique par repli sur soi et détricotage des formes de solidarité. C’est aussi une recherche de certitude dans la mesure où la personne qui risque de mourir prématurément par violence conjugale va être considérée comme si elle était quasiment déjà morte. Donc on l’éjecte de l'assurance.

22C’est l’actualisation du virtuel : on fait exister par avance ce qui n’existe que sur un mode virtuel, en séparant les individus de la possibilité de ne pas toujours faire ce dont ils sont capables, ou de ne pas toujours subir tout ce qu’ils sont susceptibles de subir. C’est cette distinction entre actualité et capacité spécifique, qui se trouve menacée par la gouvernementalité algorithmique, qu’on n’arrive pas encore à protéger en droit, mais qui, à mon sens, est absolument fondamentale. C’est cette possibilité de ne pas être assimilé à la totalité de notre potentialité, donc de ne pas être jugé par avance par le fait qu’on a un profil un peu comme ceci ou comme cela, de ne pas subir dans l’actualité de sa propre vie les conséquences de ces profilages. On est donc face à une recherche d’objectivité, de sécurité, de certitude, avec comme objectif de gérer la part incompressible d’incertitude radicale en tant qu’elle est suspensive des flux. La société Amazon qui brevette un logiciel lui permettant d’envoyer par avance les commandes pas encore passées fournit un exemple éclairant. Cette réduction de l’effet suspensif des flux qui caractérise l’incertitude radicale passe par la suppression ou le contournement de trois sources principales d’incertitude qui sont la subjectivité, la sélectivité et la virtualité.

23Ce sont les sources principales d’incertitude que la gouvernementalité algorithmique permet de contourner. On contourne la subjectivité : le fait qu’on ne sait jamais si l’individu va toujours faire tout ce dont il est capable, cette possibilité de ne pas faire, cette possibilité de désobéir, y compris à une interdiction légale, cette subjectivité dans l’évaluation. On va remplacer l’évaluation humaine par des algorithmes, on va remplacer par exemple l’évaluation par un douanier des risques de fraude par des systèmes de détection automatique fondés sur de l’observation multimodale. Il y a beaucoup de projets européens qui vont dans ce sens-là. On contourne donc la subjectivité par l’automatisation.

24L’automatisation et l’accélération de la production de connaissances à partir de données de toutes sortes, très nombreuses, sont devenues une nécessité. On évite la subjectivité des personnes observées. On va vous catégoriser en fonction de données brutes qui pour vous n’ont aucune signification, en fonction d’algorithmes dont vous ne savez pas comment ils fonctionnent, et cela va avoir des impacts sur votre vie, cela va vous affecter parfois sur le mode du réflexe plutôt que de la réflexivité, c’est-à-dire qu’on va vous envoyer des alertes. Par exemple, dans le domaine du marketing, vous allez avoir votre attention attirée par telle chose, tel objet. Rien n’est moins volontaire que d’avoir son attention attirée.

25Et là aussi on contourne la subjectivité, puisqu’on ne fait pas appel à vos capacités d’entendement et de volonté pour vous gouverner, ou faire en sorte que vous passiez à l’acte d’achat, ou, au contraire, que vous n’imaginiez même pas désobéir à une règle. Ce n’est plus en vous menaçant ou en vous incitant, c’est tout simplement en vous envoyant des signaux qui provoquent du réflexe, donc des stimuli et des réflexes. Il n’y a plus de sujet, en fait. Ce n’est pas seulement qu’il n’y a plus de subjectivité, c’est que la notion de sujet est elle-même complètement évacuée grâce à cette collecte de données infra-individuelle, recomposée à un niveau supra-individuel sous forme de profil. Vous n’apparaissez plus jamais.

26Je comprends bien le souci des législateurs de protéger, d’ériger des barrières autour de l’individu sujet-personne, mais ces barrières marquent précisément les enjeux que j’essaie de faire surgir ici, qui n’ont plus rien à voir avec la notion de personne. On peut donner des droits à l’individu sur ses données à caractère personnel, et c’est nécessaire par ailleurs, mais ce sont des droits qui ne sont pas applicables à tout ce que je décris ici. Ce dont il s’agit, c’est de catégorisation de quantité de personnes, sans s’intéresser à aucune de ces personnes individuellement. On contourne la subjectivité et on arrive ainsi à une sorte d’opérationnalité très objective ou d’objectivité machinique.

27Il y a différents types d’objectivité (voir Daston et Galison, 2012). On peut penser à des objectivités critiques de l’observateur qui se remet en question. Justement, c’est la présence du sujet observateur qui rend la chose objective parce qu’il exerce sa critique, mais il ne s’agit pas du tout de cela ici. On peut penser à une objectivité un peu à la façon des naturalistes. Leurs représentations étaient d’autant plus objectives qu’elles étaient transmissibles à d’autres. Ils dessinaient par exemple des fleurs qui étaient l’idéal type de la fleur, et ces images étaient transmissibles. Ils voulaient dire quelque chose pour tout le monde, et c’était donc vraiment lié à la communication à ce moment-là. Mais ici, on est dans une autre sorte d’objectivité qui résulte de l’absence de tout sujet et de l’incommunicabilité, de l’inintelligibilité. C’est très paradoxal.

28On a aussi affaire à la recherche de suspension des effets interruptifs des flux liés à l’incertitude en supprimant la sélectivité. On donne un sentiment de très grande objectivité, comme je l’ai déjà évoqué, par l’idéologie des big data, pas nécessairement par les gens qui en font réellement sérieusement. (Par « idéologie », j’entends ici me référer non à l’idéologie politique [à la Althusser] mais à la notion d’idéologie technique décrite par Macherey [2008] à la suite de Michel Pêcheux.) Tout est enregistré, donc c’est exhaustif. Il n’y a pas de tri a priori, vous ne pouvez donc pas dire que vous avez été catégorisé de telle ou telle manière parce qu’on n’a pas recueilli de données sur d’autres personnes, et que c’est vous qu’on visait. C’est exactement l’opposé du ciblage, cela paraît par conséquent parfaitement démocratique. Cette impression de non-sélectivité ou d’exhaustivité se traduit aussi dans les évolutions que les pratiques de big data ont fait subir à la statistique. On est très loin des pratiques de statistiques traditionnelles dans lesquelles les points les plus éloignés de la moyenne ou de la ligne de répartition des points les plus probables étaient ignorés comme autant de facteurs de bruit, de perturbation.

29Aujourd’hui, les capacités de gestion de quantités massives de données par les ordinateurs font que non seulement on n’a plus besoin de sélectionner les données – on peut tout prendre en compte –, mais aussi, pour faire résonner « du profil » ou des patterns, on a besoin du bruit. Rien n’est du bruit, tout est potentiellement utile, tout est potentiellement pris en compte. Grâce à cette non-sélectivité, il semble que l’on puisse tout prendre en compte, même ce qu’il y a de plus éloigné de la moyenne, des grands nombres, et de plus singulier, et que l’on va pouvoir faire ainsi proliférer des profils en nombre quasiment infini. Tant de profils que finalement les personnes seront tellement bien entourées de tous leurs profils, comme une seconde peau, que ne pas vouloir être profilé reviendra à ne pas se vouloir soi-même. C’est tout le paradoxe d’une personnalisation industrielle qui part de cette prétention à l’exhaustivité.

30Enfin, je l’ai déjà abordé, la troisième source d’incertitude radicale qu’on vise non pas à domestiquer mais à neutraliser dans ses effets, c’est la virtualité. Par virtuel, je n’entends pas ce qu’on appelle couramment le virtuel, c’est-à-dire tout ce qui se passe sur un écran d’ordinateur et que l'on oppose indûment à la vie « réelle ». Ce qui se passe sur un écran d’ordinateur et derrière l’écran est tout aussi réel que ce qui se passe aujourd’hui entre nous. Je reprends plutôt les distinctions que faisait Deleuze. J’oppose le virtuel à l’actuel, et pas du tout le virtuel au réel. Le virtuel, c’est toute cette dimension dont tremble l’actuel, dont tremble toute forme de présence, cette dimension de possibilités. Le fait, par exemple, pour nous les êtres humains, individuellement, que nous ne sommes pas complètement contenus dans l’actualité. Nous sommes habités par nos rêves, par notre passé, habités aussi par notre futur, par les projections que nous faisons, ce que nous imaginons autour de nous.

31Peut-être un peu naïvement, je me représente la virtualité comme ce qui, pour un individu, est l’équivalent de l’utopie pour les collectifs. C’est une réserve pour l’évolution, pour l’individuation. C’est l’ineffectué dans l’individu. Cette virtualité est précisément ce qui fait que nous sommes des êtres pouvant nous dire libres. Je prends toutes les précautions en disant cela, parce que c’est ce qui fait que nous pouvons nous dire libres alors même que nous considérons sérieusement que nous sommes peut-être dans un monde complètement déterministe. C’est ce qui permet de ne plus opposer déterminisme et liberté. Le virtuel, c'est pour cela que c’est assez intéressant, me semble-t-il, parce que je ne veux pas en revenir à l’idée d’un sujet autoposé, autonome, rationnel : c’est une fiction fonctionnelle, pour le droit en particulier. C’est une fiction à laquelle moi, je ne tiens pas à donner plus ou moins de réalité, car ce n’est pas l’enjeu. Nous n’avons jamais été autonomes.

32En insistant sur la notion de virtualité comme ce qui nous permet de concevoir notre liberté en situation de déterminisme, je rejoins un peu, je crois, si je l’ai compris, certaines présentations qu’Henri Atlan a faites à cet égard. Il expliquait qu’en fait, la liberté est cette capacité que nous avons de nous croire libres, de nous sentir libres de faire des choix alors même que ces choix sont, dans une certaine mesure, déterminés. C’est ce que Robert Musil décrivait comme cette capacité que nous avons de faire volontairement ce que nous voulons involontairement. Cela paraît indescriptible sans le recours à cette notion de virtualité, justement, ou de potentialité, ou d’agency, comme on dit en anglais, « agentivité », notion pour laquelle nous n’avons pas vraiment d’équivalent en français. Cette virtualité a toujours été un défi pour les institutions et cela a toujours été considéré comme quelque chose de dangereux. Mais à d’autres époques on s’en est contenté, on a géré ça autrement qu’en neutralisant ses effets.

33Par exemple pour le droit, cette virtualité, le fait que certains comportements soient interdits par la loi n’ont pas pour résultat que ces comportements ne seront plus posés. Il y a là une différence entre la norme ou la loi et le sujet. Ce n’est pas que le sujet préexiste à la norme, mais il se construit d’une façon différente, avec tout un ensemble de virtualités, dont la potentialité ou la possibilité de désobéir, que le droit ménage malgré lui. On a toujours cette possibilité de désobéir à la loi. Ce n’est pas parce que c’est interdit qu’on ne peut pas le faire. Toutefois, quand on passe d’une interdiction légale à d’autres modes de gouvernementalité comme la gouvernementalité algorithmique qui permettrait d’actualiser le virtuel, donc de faire exister par avance des actes qui n’ont pas encore été commis, on passe d’une logique pénale à une logique de renseignement et, effectivement, cette possibilité de désobéir disparaît complètement, elle n’est plus ménagée.

34Alors on peut dire : « Tant mieux », parce qu’on gagne en effectivité. Mais aussi : « Tant pis », parce qu’on y perd la possibilité, justement, de contester la norme. La norme n’est plus explicite, n’est plus aussi explicite qu’une loi et n’est plus contestable. Elle n’est plus contestable devant les tribunaux puisqu’il n’y a plus de désobéissance et que, donc, elle n’est plus appelée à être interprétée. C’est ce qu’on appelle la préemption. Il s’agit de préemption et pas de prévention. C’est une nuance qui peut paraître un peu vaine, mais je ne pense pas que ce soit le cas. Il ne s’agit pas de prédiction non plus. C’est un régime d’action sur l’avenir, tout à fait nouveau à mon avis. La prévention consiste à jouer sur les causes des phénomènes, afin qu’ils se produisent à coup sûr ou qu’ils ne se produisent pas. On n’est pas du tout là-dedans puisqu’on a oublié la causalité, et que l’on n’est plus dans un régime causal. Il s’agit de préemption, c’est-à-dire de jouer non plus sur les causes, mais sur l’environnement informationnel et physique des personnes pour que certaines choses soient ou ne soient pas actualisées, ou ne soient pas possibles. C’est très différent : c’est l’actualité augmentée du possible. La réalité prend ainsi toute la place, la réalité en tant qu’actualité. C’est une actualité assez particulière qui prend la forme d’un vortex aspirant à la fois le passé et l’avenir. Tout devient actuel.

35On pourrait se demander quelle est la place du concept de vérité par rapport à cela. Je pense que le concept de vérité n’a plus beaucoup de place. Enfin, tout dépend de la façon dont on définit la vérité. Si on définit la vérité comme les régimes de vérité de Michel Foucault, qui disait qu’ils étaient des processus à travers lesquels s’établit ce que l’on tient pour vrai, alors cela, d’accord. Mais la notion de processus ici est fortement ramassée sur une actualité pure. Les régimes de vérité chez Foucault présupposent des ensembles de procédés et institutions. Ici, on fait l’économie de toute institution et de tout procédé par lesquels les individus seraient engagés. Ici, il n’y a plus d’engagement, il n’y a plus d’individus engagés à produire la vérité. Il n’y a plus vraiment de contraintes non plus. On ne s’est peut-être jamais senti aussi libre que dans un régime de gouvernementalité algorithmique. Dans l’hypothèse foucaldienne des régimes de vérité, les individus sont contraints donc à poser dans certaines conditions et avec certains effets des actes bien définis de vérité, comme l’aveu, le témoignage, ce genre de choses. Bien évidemment, la gouvernementalité algorithmique permet de faire l’économie de toutes ces rencontres, comparutions, aveux, témoignages, en fait de tout ce qui passe par le langage humain. Le cours du langage a complètement chuté, on n'est plus du tout là-dedans. Dans le livre Mal faire, dire vrai (Foucault, 2012), recueil de conférences qu’il a tenues à l’université de Louvain, Foucault décrit l’aveu comme étant justement ce par quoi l’individu s’engage à devenir qui il est, devenir ce qu’il a fait. Cet aspect très subjectivant de l’aveu, ici, on ne le retrouve plus du tout, bien évidemment.

36Il n’y a pas d’occasion de subjectivation, il n’y a pas d’interpellation autre que des interpellations par des machines, par des profils, et ce ne sont pas vraiment des interpellations puisque au contraire la machine répond pour vous. Vous n’avez pas à faire rapport de vos activités. D’ailleurs, on le voit dans un nombre croissant d’activités, le fait de faire rapport est concomitant, voire confondu avec l’activité même. Quand on participe à des projets de recherche, on sait bien que la seule chose qu’on fait ce sont des rapports. Ce qui disparaît, c’est l’après-coup.

37C’est pourquoi je disais pour commencer qu’on est dans une crise de la représentation, dans tout ce qu’elle a de connotations retardataires. La représentation implique qu’on présente quelque chose qui n’est plus. Le témoignage, c’est une manière de faire revenir des personnes qui n’existent plus. Et donc il y a une sorte de manque, de hiatus. C’est précisément ce manque, ce hiatus qui constitue aussi le caractère tragique de l’être humain. Ce hiatus, ce manque, cette impossibilité de se retrouver dans ses propres gestes. La biographie d’Althusser (1992), L’avenir dure longtemps, est aussi cette méditation mélancolique sur le fait qu’il a été privé d’un procès qui lui aurait permis de se retrouver dans ses propres gestes a posteriori, dans l’après-coup.

38Cet après-coup, nous n’en voulons plus. Nous sommes pris dans une passion du réel pour le réel, passion de l’actuel pour l’actuel, donc finie la représentation. Or je pense que nous n’avons effectivement accès au monde que par toutes sortes de représentations souvent contradictiores les unes avec les autres, et surtout que c’est bien parce que nous avons besoin de nous représenter les choses les uns aux autres, que nous avons besoin du commun, et que nous avons besoin de nous rencontrer. C’est bien parce que nous n’arrivons jamais à nous retrouver nous-mêmes dans nos propres gestes que nous avons besoin d'être interpellés et de nous interpeller mutuellement.

39C’est parce qu’il n’y a personne que nous parlons. Je ne suis pas du tout revenue à une vision personnologique, au contraire. Justement, il n’y a personne, contrairement à ce que veut nous faire croire l’hyperpersonnalisation dont nous faisons les frais, dont nous sommes gratifiés journellement dès que nous allumons notre ordinateur. Nous ne sommes personne. Pierre Legendre parle des institutions comme de place vide peuplée. Deleuze dit que le peuple manque. C’est ce manque, précisément, qui nous fait parler, qui nous fait dire notre vérité. On peut parler de la « parrêsia » chez Foucault, aussi. Dire notre vérité, c’est ce que j’ai essayé de faire maladroitement ici, en prenant des risques moi aussi : s’exposer aux autres. Mais si les choses parlent pour elles-mêmes et si nous sommes uniquement considérés comme des choses, ou plutôt même des fragments de choses, c’est-à-dire des données, et si ces données parlaient pour nous-mêmes, eh bien nous n’aurons plus rien à dire.

Discussion par Bernard Stiegler

40La position que nous avons ici, à l’Institut de recherche et d’innovation (IRI), c’est que ce que vous avez décrit relève pour nous de ce que nous appelons la grammatisation, c’est-à-dire la discrétisation des flux, leur spatialisation et leur calculabilité résultante. Mais pas seulement calculabilité : interprétation aussi. Et c’est là que je vais vous proposer un petit écart avec votre analyse. Nous posons que ces processus que vous avez décrits sont entropiques, et donc autodestructeurs – pour le dire dans une langue extrêmement dépassée : irrationnels. C’est-à-dire que ce qui se développe avec ce que vous décrivez comme une gouvernementalité algorithmique ne peut pas se dire, ne peut que conduire à l’échec.

41Donc pour nous, la question de la gouvernementalité algorithmique des big data, ou de l’économie des data plus généralement, parce qu’il n’y a pas que les big data, ou des open data, c’est un état de fait dans un processus de grammatisation. Nous ne croyons absolument pas à l’interdiction possible des big data, des open data ou des data en général.

42Le sujet big data en soi, pour moi, est le sujet fait et droit. C’est le fameux texte de Chris Anderson (2008), maintes fois commenté, qui dit que la théorie est finie, la méthode scientifique est obsolète. Qu’est-ce que cela signifie ? Cela signifie que la différence entre fait et droit est dépassée. Et c’est cela qui m’intéresse, parce que la différence entre le fait et le droit est ce qui est commun aux mathématiciens, aux philosophes, à tous ceux qui raisonnent de manière rationnelle, et aux juristes.

43Un juge sait très bien, si c’est vraiment un juge, et non un robot, que le droit n’est pas le fait, que le droit est une promesse, que le monde est injuste, foncièrement injuste, sera d’ailleurs toujours injuste, mais que le problème n’est pas là. Le problème, ce n’est pas ce qu’est le monde, mais ce que nous voulons que soit le monde. Ce n’est pas du tout la même chose, c’est ce que vous appeliez tout à l’heure le virtuel, et que j’appelle les « protensions », ou encore le désir. Le droit n’existe pas, le droit c’est une promesse. C’est quelque chose que nous nous promettons en commun de tenir autant que nous le pouvons, sachant que cela ne tient jamais en réalité, sinon il n’y aurait pas d’injustices, pas de criminels, il n’y aurait pas de cours de justice, on n’en aurait pas besoin.

44Je ne suis pas sûr que la gouvernementalité algorithmique, telle que vous la décrivez, soit un régime de vérité. Je pense que Foucault ne voyait pas simplement la question des régimes de vérité comme ça. Mais en revanche je pense que Foucault conteste ce régime de vérité qui pose comme une évidence ce que je disais : le fait n’est pas le droit. Je voudrais aussi souligner que vous avez employé l’expression « idéologie des big data », et Foucault dit que l’idéologie n’existe pas, que c’est une erreur. Moi je crois qu’il a absolument tort. J’ai écrit un livre intitulé États de choc (2012) dans lequel j’ai essayé de montrer que Foucault, Derrida, Lyotard, Guattari ont cassé des instruments fondamentaux parce qu’ils ont cru que l’idéologie était ce que racontaient les marxistes. Mais l’idéologie, ce n’est pas ce que racontent les marxistes. C’est ce dont parlent Engels et Marx dans L’idéologie allemande à une époque où ils ne sont pas du tout marxistes.

45Dans L’idéologie allemande, Marx et Engels (1962) disent que l’homme est un être technique. En tant que tel, il est leurré par ses techniques. Il y a une classe dominante qui s’empare de ce pouvoir de leurre de la technique pour dominer ceux qui sont leurrés. Et cela, c’est dans l’ordre des choses. Ce ne sont pas des méchants ou des gentils : c’est comme ça. Ils disent exactement qu’il se passe avec les techniques et dans le rapport entre l’homme et la technique la même chose que dans la rétine : on inverse les causes, et du coup on va chercher les causes du côté du ciel, du côté des idées, alors qu’en fait c’est dans l’immanence. Cette immanence technique, moi je l’appelle organologique.

46Comme vous l’avez décrit, ce qui se passe avec la manière dont la statistique personnaliste de la gouvernementalité algorithmique décompose les personnalités en les profilant, les double à travers leurs profils – on parle de doubles – et, finalement, articule cette décomposition en graphes permettant d’agir par des calculs de corrélation, c’est alors là que fonctionnent les big data. Cela produit ce que des Guattari et Deleuze, quand ils ont commencé à douter d’eux-mêmes, ont appelé les « dividuels ». Le post-scriptum sur les « sociétés de contrôle », c’est une remise en question de Deleuze par Deleuze. Cela ne veut pas dire qu’il renie ce qu’il a dit, mais qu’il demande si l’on a bien mesuré tout ce qui se passe.

47Quoi qu’il en soit, le travail que vous faites m’intéresse à bien des titres. D’abord votre analyse du numérique est extraordinairement efficace et nécessaire. Ensuite, vous mettez en question tout un héritage qu’on rabâche comme des perroquets : Deleuze, Foucault, Blanchot… et qu’on ne sait pas travailler. Et je me dis que si Foucault était là, il aurait quatre-vingts et quelques années, il serait fasciné par la gouvernementalité algorithmique. Il dirait : « Mais oh ! Mais tout ce que j’ai raconté avant c’est… » Donc, il serait confronté à ce dont nous parlons là, il remettrait absolument tout en cause, comme le font toujours les philosophes, les vrais.

48Maintenant, à propos de la multitude. Oui, d’accord : la multitude, mais quand elle devient la base de la gouvernementalité algorithmique, ne faut-il pas aller un peu au-delà ? Ce n’est pas du tout pour régler des comptes avec de très grands penseurs, que personnellement j’admire et que je lis sans arrêt car je ne m’en lasse pas. Ces grandes pensées ne sont pas devenues caduques parce que tout à coup le réel les complexifie. Au contraire, elles sont devenues encore plus nécessaires, mais à une condition : ne pas les perroquetiser, sinon on devient des singes savants, et là c’est une catastrophe. L’immanence parfaite, c’est pareil.

49Tels sont les sujets, et vous montrez que tout cela est en train de s’accomplir. Et qu’est-ce que cela fait ? Cela nous laisse avec des restes par rapport auxquels on va se poser le problème d’une récalcitrance. Dans votre article (Rouvroy et Berns, 2013), pour ne pas parler de « restes », vous parliez de « ratés ». Cela m’intéresse beaucoup, les ratés. Le reste est pensé par Derrida, c’est ce qu’il appelle la « restance ». Je dois dire qu’il ne m’a jamais convaincu là-dessus. En revanche, le raté me convainc tout à fait : c’est toujours dans les ratés que s’invente le futur. Les réussites ne sont pas intéressantes. Les accidents, les échecs dont Épiméthée est le héros, le dieu, eux, le sont.

50Je voudrais essayer de filer quelques propositions. Je vous fais une objection. Vous posiez la question de ce qui n’est pas numérisable. Moi, je pense qu’absolument tout est numérisable et que le problème n’est pas que ce soit numérisable ou non, le problème est plutôt : est-ce réductible au calcul ou pas ? J’ai été pendant trente ans un militant de la pratique du numérique parce que j’ai fait ma thèse avec des instruments numériques. À l’époque, on était vraiment très peu nombreux car il n’y avait pas ces machines très faciles. C’est à cette époque-là que j’ai connu des gens comme Philippe Aigrain, et que nous avons travaillé ensemble avec la Bibliothèque nationale de France (BnF) pour développer des modèles de machines computationnelles ne se réduisant pas au comput, mais permettant l’interprétation. Pour pouvoir interpréter, il faut calculer. À un moment donné, des données vous arrivent, à interpréter, qui ne sont pas calculables, et vous allez faire des calculs pour les établir comme des données ou des ensembles de données. Lorsque Kant pose que la raison est en fait éclatée en différentes facultés, et que l’entendement analytique est analytique, c’est-à-dire qu’il est computationnalisable en réalité ; l’entendement est transformable en calcul.

51Je pense que pour Kant, cela ne poserait aucun problème de dire qu’on va automatiser le fonctionnement de l’entendement. Il aurait un peu de mal à l’imaginer, mais en se creusant la tête, puisqu’il avait une tête qui marchait très bien, il arriverait assez vite à comprendre que oui, bien sûr… À partir du moment où l’entendement peut se transformer, je ne sais pas, moi, en machine de calcul de Leibniz, par exemple, pourquoi ne se transformerait-il pas en big data ? Mais c’est l’entendement. Et Kant dit que la seule chose qui compte est la raison, et la raison, ce n’est pas l’entendement. La raison, c’est ce qui recueille les données captées dans l’empirie, dans l’intuition par l’entendement pour trancher, c’est-à-dire pour prendre des décisions. La raison, ça décide. C’est l’expérience de ce qu’il appelle le règne des fins. Dans un langage un peu approximatif, on pourrait nommer cela la volonté. Ce n’est évidemment pas simplement cela.

52À la fin de votre article déjà évoqué (Rouvroy et Berns, 2013), mais aussi dans d’autres papiers, notamment celui que vous aviez écrit pour Mediapart (Rouvroy, 2012), vous posez la question d’un droit dans la gouvernementalité algorithmique. Je soutiens que ce droit serait forcément un droit qui revisiterait la différence du fait et du droit, et qui ré-instruirait pourquoi le droit n’est jamais réductible au fait, et donc ferait son compte à la fable de Chris Anderson (2008). Pour moi, le problème commence là, et l’article d’Anderson est pour nous extrêmement important, parce que, pour la première fois, en tout cas à ma connaissance, on pose le problème de ce qu’on a appelé plus tard les big data (puisqu’en premier lieu on ne les nomme pas ainsi, mais plutôt les « livres de données »). L’expression big data est venue il n’y a pas très longtemps, trois ou quatre ans. Chris Anderson pose qu’on n’a plus besoin de théories, c’est-à-dire de droit, de modèles : il suffit d’avoir des corrélations entre des faits. Pour lui, l’entendement, en fait, est devenu autosuffisant. On n’a pas besoin de raison, pas besoin de raisonner, ni de débattre.

53Le premier contradicteur de Chris Anderson sera Alan Greenspan qui quatre mois plus tard devant le Sénat américain déclare que, lui a cru ce que disent les économistes, à savoir qu’on peut automatiser les raisonnements rationnels de tous les acheteurs, et qu’il a laissé l’automatisation se produire, et que maintenant il se rend compte qu’il avait tort. Parce que, du coup, on a perdu la raison. On a gagné l’entendement, on a perdu la raison. On n’est alors plus capable de critiquer, de voir que les modèles, par exemple – il le dit très explicitement –, ne portaient que sur vingt ans de données et qu’il aurait fallu les infinitiser, car, en réalité, il y a de l’improbable en économie au sens de Blanchot, cette fois-ci. La réponse de Kant est de dire : il y a de l’improbable donc il faut la raison pour trancher. Il faut donc pouvoir désautomatiser. Nous, à l’IRI, nous pensons que la question n’est pas d’empêcher les automates de se développer. Il s’agit plutôt d’être capable de les désautomatiser et d’en faire des processus rationnels, et non pas uniquement analytiques, puisque les processus de l’entendement sont purement analytiques. Les processus de la raison sont des processus synthétiques. C’est-à-dire qu’à un moment donné, il faut faire une synthèse.

54Comme nous avons un peu évoqué Foucault et l’idéologie, je reprendrai moi-même dans les Entretiens du monde industriel au mois de décembre la problématique « régime de vérité » qui, au demeurant, est une problématique peu développée chez Foucault. Je dirais, moi, qu’il y a des régimes de vérité, et que ces régimes de vérité sont des « organologies de la vérité ». Pour l’IRI, le processus de la « véritativité », ce qu’on appelle la production d’énoncés « véritatifs » c’est-à-dire qui établissent ce qu’est la vérité dans tel ou tel domaine, les conditions, les protocoles, etc., ce sont des questions d’agencement entre rétention et protension et entre rétention primaire, rétention secondaire et rétention tertiaire.

55J’emploie des termes qui ne sont pas forcément connus de tous. Ce sont des concepts qui viennent de Husserl et ont été utilisés par un certain nombre d’autres. J’ai moi-même repris à mon compte les concepts de rétention primaire et rétention secondaire de Husserl, et j’y ai ajouté celui de rétention tertiaire. Une rétention primaire, c’est ce que vous êtes en train de faire en essayant de comprendre ce que je veux dire : vous essayez de le retenir, de le concaténer, de l’articuler et de l’agréger, comme dit Husserl, avec ce que je suis en train de dire maintenant. De ce processus agrégatif Husserl disait que ce n’est pas du passé, mais du présent parce que vous êtes en train en ce moment, présentement, d’essayer de retenir ce que j’ai dit depuis le début de mon discours. C’est donc du présent.

56Les rétentions secondaires, c’est du passé, ce sont des choses que vous avez vécues autrefois, et la manière dont vous agrégez les choses que je suis en train de dire dépend de ce que vous avez vécu autrefois. Ainsi les rétentions secondaires factorisent les rétentions primaires, ou plutôt les conditionnent. Ce n’est pas exactement le point de vue de Husserl, c’est le mien. C’est la raison pour laquelle les gens qui écoutent ce débat entendent tous quelque chose de différent dans ce que nous disons.

57Ce que nous soutenons à l’IRI, et ailleurs, c’est l’idée qu’il y a des rétentions tertiaires. Ainsi lorsque Husserl dit que la géométrie a été rendue possible par l’écriture alphabétique, c’est parce que l’écriture alphabétique permet à Thalès, par exemple, de garder la trace, de tracer. L’écriture alphabétique permet de tracer pas à pas le raisonnement géométrique de Thalès, pas pour vous et moi, pour lui-même. Comme Thalès ne peut raisonner more geometrico, comme il maîtrise pas à pas son raisonnement, il l’a extériorisé, il l’a spatialisé, il l’a détemporalisé. Ce n’est plus seulement dans sa tête, il l’a mis sur du papier, ou sur du sable. De même le carré que trace Socrate pour l’esclave de Ménon : il l’a extériorisé, il en a fait une rétention tertiaire, et à partir de là il peut s’autocontrôler.

58Nous pensons que les régimes de vérité sont liés à des évolutions des rétentions tertiaires, et que quand on vit dans un monde où il y a des rétentions tertiaires alphabétiques, on ne pense pas comme quand on vit dans un monde où il n’y a que des rétentions tertiaires idéographiques. La Chine, pendant des millénaires, a vécu et pensé avec des rétentions tertiaires idéographiques ; du coup, un lettré chinois d’alors ne pense pas comme un lettré européen. Il y a donc une raison qui n’est pas du tout lettrée, bien entendu. La raison, ce n’est pas ce qu’il y a en Occident, mais c’est ce qui en Occident passe par la lettre et par le raisonnement.

59Ce qui m’intéresse dans ce que vous faites, c’est que vous identifiez ce que je considère être des facteurs d’entropie, et donc des facteurs irrationnels qui ne peuvent pas durer. C’est là que Frédéric Kaplan est intéressant parce qu’il considère que le modèle de Google, si on le prolonge de façon purement abstraite, s’autodétruit parce qu’il dés-orthographie les jours, il détruit la diversité sémantique des langues et, à un moment donné, l’exploitation du capitalisme de la langue va faire qu’il n’y aura plus de langue, donc plus d’exploitation possible. Nous, nous disons que le numérique redeviendra néguentropique et donnera lieu à une néguentropologie, c’est-à-dire non pas à un posthumanisme, un transhumanisme, mais à une anthropologie négative, seulement à partir du moment où il sera capable de remettre de l’interprétation. Non seulement nous pensons qu’il peut le faire très bientôt, mais nous essayons de le faire : nous développons des outils pour ça. Ce sont des outils qui ont pour but de produire de la bifurcation, comme disait Deleuze reprenant Borges.

60Je voudrais passer sur un autre plan pour indiquer que tout ce que nous venons de dire, ce que vous avez dit sur la gouvernementalité algorithmique se traduit en ce moment par d’innombrables travaux montrant partout dans le monde, sauf en France – c’est stupéfiant le silence en France sur ce sujet –, que l’automatisation généralisée est maintenant là. Je pose le problème parce que la gouvernementalité algorithmique, à quoi conduit-elle finalement ? Il n’y a plus d’emploi, il n’y a donc plus de pouvoir d’achat, plus de redistribution salariale. Alors comment cela marche ? Cela ne peut pas marcher.

61Nous soutenons, à l’IRI, que les technologies dont vous parlez, qui sont celles de la gouvernementalité algorithmique, peuvent au contraire permettre de produire ce que j’ai appelé, il y a déjà dix ans, un « otium du peuple ». L’otium, ou la scholê chez les Grecs, c’était la faculté qu’avaient les nobles de contempler, de penser intermittemment, en toute liberté ; c’est ce que Leibniz appelle le « loisir ». La question, aujourd’hui, est : comment va-t-on redistribuer du temps de loisir pour produire des communs, c’est-à-dire un droit à produire de l’intelligence collective en utilisant ces technologies ? Parce que, évidemment, ces technologies sont la condition pour faire ça. Ce n’est pas du tout ce qu’il faut rejeter.

62Je pense que les dix ans qui viennent vont être terrifiants de gravité à l’échelle planétaire, comme jamais l’humanité n’a rencontré des problèmes, jamais. Un Japonais a dit : « Je vais embaucher des robots », il dit « embaucher ». Parce que ce ne sont pas simplement des automates, ce sont des humanoïdes, et il dit qu’ils vont être bien meilleurs que les ouvriers japonais. C’est une question très sérieuse, ce n’est pas du tout du story telling, c’est vraiment très sérieux. Et il y a quatre mois, Amazon a annoncé l’achat d’une entreprise de robotisation pour produire dix mille robots pour son usage, et il va licencier tout le monde.

  • 3 Économiste français, commissaire général de France Stratégie, le Commissariat général à la stratég (...)

63Le processus est maintenant en train de s’installer. Il est absolument irrationnel, il ne peut fonctionner. Et Bill Gates a répondu en disant qu’il n’y avait qu’à baisser les salaires pour que les gens soient plus compétitifs avec les robots. Ils continueront à travailler tant qu’ils seront compétitifs par rapport aux robots. Mais d’abord, combien de temps cela va-t-il durer ? À mon avis, pas très longtemps. De plus c’est une absurdité parce que baisser encore les salaires c’est encore diminuer le pouvoir d’achat, aggraver la crise, c’est donc remettre des subprimes et produire de l’insolvabilité à moyen terme. C’est donc totalement absurde. Il faut par conséquent passer à un autre modèle. Il faut que nous produisions ce nouveau modèle. Il ne faut pas demander à Bill Gates de penser cela, ni à des énarques ou à M. Pisani-Ferry3. Il faut le développer, il faut faire des propositions parce que c’est cela qui va produire de la valeur demain.

64Voilà ce que je voulais dire pour ouvrir une discussion. Je crois aussi que cela vaudrait le coup, je ne sais pas à quelle occasion, que nous fassions ensemble, avec d’autres aussi, avec Thomas Berns et d’autres, une cartographie de ce que l’on fait de Foucault, de Guattari, de Deleuze, face à ces objets. Comment on reprend leurs problématiques en les individuant, comme disait le même Guattari et Deleuze ? En les individuant dans un contexte qui aboutit à produire, avec ces concepts-là, en les critiquant, en allant au-delà, finalement de nouveaux concepts.

Réponse d’Antoinette Rouvroy

65Je voudrais simplement revenir sur Foucault, Deleuze, Guattari, tous ces penseurs de la critique et de l’émancipation. Peut-être que je me trompe, mais j’ai l’impression que ce qu’ils présentaient à travers la métaphore du rhizome, l’idée d’une revanche du plan de l’immanence, sur la transcendance, et tout ce genre de choses, se plaçait dans une perspective très stratégique, en opposition à quelque chose qui leur paraissait très oppressif, très hiérarchique, et qui précède ce qui a dénoué tout ça, c’est-à-dire la substitution de la gouvernance au gouvernement.

66Tout ce qui s'est passé avec l’avènement de la gouvernance c'est précisément une dilution absolue, une sorte d’horizontalisation de tout ce qui a trait à l’autorité, soit la disparition même de l’autorité. Autorité en tant que détention de la capacité de décider, c’est-à-dire de poser des gestes qui peuvent rater, justement. On ne décide plus quand on fait de la gouvernance, on ne décide plus de rien finalement. Alain Supiot l’a très bien montré dans son livre L’esprit de Philadelphie (2010) : on quantifie, on quantifie, et finalement les images quantifiées viennent prendre la place du réel quantifié. On gouverne sans décider, c’est donc vraiment la disparition de la décision et, du coup, aussi, de toute forme de structure apparemment oppressive.

67Je pense que les temps ont changé depuis les années 1960 à cet égard, grâce ou à cause des institutions européennes, de la globalisation. On a changé de modèle de gouvernement, déjà, sans parler de la gouvernementalité algorithmique. Et désormais, la critique et le réel sont ramassés l’un sur l’autre, se plient, et il n’y a plus d’espace entre les deux.

68La critique des années 1960, je pense, nous aide à faire le diagnostic, mais ne va peut-être pas nous donner les solutions, ni les sorties. Il est intéressant de reprendre Foucault pour éventuellement décaper les concepts les plus usuels à l’heure actuelle, et leur rendre un peu de vaillance. Les choses ont changé : par exemple, la posture foucaldienne un peu archéologique devient difficile à tenir par rapport à une actualité pure qui se renouvelle en continu, juxtaposition de maintenant successifs, comme dit Franck Fischbach (2011). Que devient une posture archéologique par rapport à cela ? Que devient une posture généalogique, alors qu’on est dans un univers extrêmement multiculturel, sans communauté culturelle vraiment fermée, suffisamment fermée, sans microcosme culturel ? Cela devient très difficile.

69En revanche, ce qu’on peut faire avec Foucault, comme il est mort, c’est le retourner sur sa tête pour, par exemple, montrer que dans la gouvernementalité algorithmique, il ne s’agit plus du tout de rendre les corps dociles par rapport à la norme, mais de rendre les normes dociles par rapport au corps. Pour moi, ces structures de pensée sont très efficaces, et comme j’ai l’alibi d’être juriste et non philosophe, je ne me sens aucunement redevable d’une quelconque fidélité, je ne suis pas une exégète de Foucault. Je pense qu’ils avaient à cette époque une façon presque géométrique d’exprimer leur pensée, qui manque un peu aujourd’hui.

70Les restes que nous avons évoqués précédemment, c’est effectivement l’équivalent des ratés, et ces ratés présupposent des gestes qui peuvent rater. Michaël Baltus, un très bon ami qui travaille dans le domaine du design, des arts plastiques m’expliquait de quelle manière le geste dans son métier, dans ses pratiques, avait changé depuis l’arrivée de l’ordinateur. Il me disait qu’avant, on était toujours obligé de raturer, de gommer, mais il restait toujours des stigmates de l’erreur, du trait raté. Et parfois ces stigmates produisaient quelque chose de très intéressant. Maintenant, lorsque l'on dessine avec les tablettes et que l’on se trompe, on efface. La fonction effacement « pomme Z » a tué la rature. Or il y a effectivement quelque chose d’intéressant dans la rature. Je pense qu’il en est de même dans le domaine politique avec Twitter. Les hommes politiques qui tweetent, c’est la rapidité, c’est la continuité du fil qui efface ou recouvre d’une opacité pratique les tweets anciens, et permet finalement de tout oublier. Ce n’est peut-être pas si neuf.

71Kundera, je crois que c’est dans La Lenteur, expliquait qu’on pense toujours que rien ne sera oublié, que tout sera pardonné. C’est exactement l’inverse : rien n’est pardonné et tout est toujours oublié. Le rôle du pardon est aujourd’hui tenu par l’oubli, et c’est peut-être beaucoup plus vrai aujourd’hui qu’avant : on pense qu’on retient tout, que la mémoire numérique est cumulative. Pour les machines, oui, mais pour les humains pas du tout. On n’a jamais eu aussi mauvaise mémoire depuis que nous disposons de tous ces appareils qui retiennent les choses pour nous et qui les oublient aussi pour nous, ou qui nous disent : « C’est archivé, vous pourrez les retrouver. » Ayant un compte Facebook, par exemple, je sais qu’il est très difficile de retrouver une information qu’on y a soi-même posée, cela prend un temps fou.

72D’où effectivement l’importance des ratés, des restes. Ce sont des ressources de récalcitrance dont il faudrait ne pas nous priver. Il faut donc trouver des techniques matérielles, logicielles, d’archivage de l’erreur, du raté, du geste inefficace, de l’inefficacité, de l’errance aussi. Je crois que ce dont on se sent privé aujourd’hui, et c’est d’ailleurs pour ça qu’on procrastine tellement sur les réseaux sociaux, c’est précisément cette notion d’errance, qu’on recherche ailleurs, sur Internet, etc. On erre, mais on erre différemment que lorsqu’on se promenait beaucoup plus souvent dans les villes parce qu’on n’était pas devant l’ordinateur. Cette errance dans les villes, me semble-t-il, nous exposait à de l’altérité, à des autres, tandis que l’errance devant l’ordinateur, ou même l’errance en ville avec les écouteurs et l’iPad en main, avec les yeux rivés sur Google Maps, ne nous expose pas exactement aux mêmes types de rencontres et d’altérité que l’errance matérielle.

73Je pense aussi qu’une ressource de récalcitrance, outre tout ce que vous faites à l’IRI qui est extrêmement précieux pour réinstaurer de l’interprétation et de l’individuation à travers l’interprétation, réside également dans les ratés du corps : notre physicalité. Même si tout est numérisable, je ne sais pas si, à terme, les posthumains ou les transhumanistes – je ne sais pas comment il faut dire, je les confonds toujours – auront raison : va-t-on vraiment mettre l’homme dans la machine, non pas au sens de Guattari, mais à celui des posthumains ? Va-t-on « uploader » notre cerveau dans des machines ? Cela, je ne le sais pas, c’est à voir. Toujours est-il qu’aujourd’hui nous sommes, que nous le voulions ou non, affectés dans notre corps de toute une série d’événements, pour l’instant non numérisables, non prévisibles ou relativement non prévisibles. Bon, la naissance devient de plus en plus prévisible, mais pas pour celui qui naît, malheureusement pour lui. Mais la naissance quand même, la mort, la maladie, la souffrance physique, l’affectation ne sont pas nécessairement numérisables, alors même que c’est ce qui provoque de l’empathie.

74Si on parle de commun, je pense que le commun n’est pas nécessairement vivable, ni souhaitable sans cette empathie, c’est-à-dire cette capacité à être affecté par des souffrances tombées sur quelqu’un d’autre. Le commun est très charnel, et c’est complémentaire, ce n’est pas opposé du tout à tout ce que vous développez. C’est une dimension tout à fait complémentaire.

75Je suis d’accord avec vous sur ces distinctions entre raison et entendement. J’ai l’impression que ce que la gouvernementalité algorithmique est en train de mettre en œuvre est une possibilité de faire des jugements synthétiques a priori dont on sait très bien qu’ils ne tiennent pas. Mais pourtant, c’est ce qu’ils font, cela montre bien que vous avez raison, qu’il s’agit bien d’une irrationalité, puisque c’est effectivement synthétique, mais avant toute expérience. C’est assez particulier, c’est quelque chose que je devrais certainement creuser.

76Je suis tout à fait d’accord : le droit est irréductible au fait. Malheureusement, afin de gagner en effectivité, mais aussi pour s’assurer un surcroît de légitimité, on a tendance de plus en plus en droit à s’en remettre aux faits, aux faits tels qu’ils sont donnés par les économistes, etc. Il devient très difficile pour le droit de garder son reste qui est précisément ses modes singuliers d’énonciation et de véridiction : c’est le régime de vérité juridique qui n’a absolument rien à voir avec le régime de vérité algorithmique ou statistique, ou encore le régime de vérité en physique ou en économie.

77Il y a une pluralité, et c’est très souhaitable, de modes de construction de ce qu’on tient pour la réalité, et c’est précisément dans cette disparité des modes de construction de la réalité qu’on peut espérer non pas parler d’une seule voix, mais au contraire montrer que jamais on n’arrivera à être d’accord, et que justement ce désaccord, qui n’a pas été prévu, constitue le commun. C’est-à-dire que ce désaccord justifie la nécessité d’espaces de délibération. Desrosières définissait l’espace public de cette façon. Il disait que l’espace public est un espace de délibération à propos des choses collectives non rabattues sur la seule concurrence des intérêts individuels égoïstes. Pour cela, il faut de l’incertitude, alors que la tendance actuellement est de se dire : pour discuter ensemble, il faut avoir le même vocabulaire, les mêmes objets, il faut être d’accord sur tout.

78Finalement, on recherche une sorte de vérité, de nécessité, alors qu’il n’y a pas de nécessité, qu’il y a une pluralité et que justement cette polyphonie et ces désaccords font la vitalité de ce que peut être éventuellement un commun, me semble-t-il. Je crois qu’il faut renoncer à la vérité. Il est heureux de renoncer à se mettre d’accord. Oui, on peut s’accorder sur certaines choses. C’est ce que fait un orchestre. Il y a un très beau texte de Bruno Latour, « La preuve par l’orchestre » (2011). Plutôt que la recherche de vérité, il évoque une sorte de recherche d’écho, de résonance, celle qui se produit lorsque tout d’un coup tous les instruments de l’orchestre se mettent à jouer en même temps : c’est quand même assez étrange que cela produise quelque chose qui fasse sens malgré les désaccords.

79Le droit, dans tout ça ? Je pense qu’il faut faire du droit sérieusement, vraiment sérieusement, et dans toute son aridité, son inélégance. Le droit a ses propres règles de fonctionnement, sa propre manière de faire exister le réel. Par exemple, l’aveu d’un délit devant un tribunal a valeur de vérité non pas par adéquation de ce qui a été dit par rapport à ce qui s’est effectivement produit, peu importe le vrai ou le faux sous cet angle-là, mais parce que le droit assigne une valeur de vérité à l’aveu. C’est une opération juridique. Ce n’est pas une opération dans le réel. C’est une opération dans le réel du droit, si vous voulez, mais le réel du droit n’est pas le réel de la commission de l’acte.

80Je pense qu’il faut garder cette distance. Or aujourd’hui la recherche d’absolue objectivité, d’absolue impartialité fait qu’on tente de se rapprocher du fait, c’est-à-dire du réel comme tel. On empêche l’interprétation, et là ça pose effectivement des problèmes pour le métabolisme juridique lui-même. Pour moi, même les big data, le data mining, le profilage, etc., ne sont pas les causes ultimes de ce que j’essaie de décrire en termes de glissement dans la gouvernementalité. Je pense qu’ils en sont plus simplement des symptômes, mais les causes sont ailleurs. Je pense que les causes se trouvent dans une certaine paresse que nous avons. On s’en remet de plus en plus facilement à des algorithmes, quand bien même ils fonctionnent sur une rationalité qui n’est plus la nôtre pour décider à notre place. C’est la paresse, une paresse qui produit un déclin et un appauvrissement terribles du langage. Ce n’est le langage qu’il faut accuser, mais la paresse regressive de la pensée qui n’a de cesse de dévitaliser le langage.

Haut de page

Bibliographie

Références bibliographiques

Althusser, Louis, 1992, L’avenir dure longtemps, Paris, Stock et IMEC.

Anderson, Chris, 2008, « The end of theory: The data deluge lakes the scientific method obsolete », Wired Magazine, 23 juin. Consultable en ligne : <http://archive.wired.com/science/discoveries/magazine/16-07/pb_theory>.

Ayres, Ian, 2007, Super Crunchers: Why Thinking-by-Numbers Is the New Way to Be Smart, New York, Bantam Books.

Bailly, Jean-Christophe, 2010, « Tout passe, rien ne disparaît», Vacarme, no 50, 21 janvier.

Daston, Lorraine et Galison, Peter, 2012, Objectivité, Dijon, Les Presses du réel.

Desrosières, Αlain, 1992, « Discuter l’indiscutable », Raisons pratiques, no 3.

Fischbach, Franck, 2011, La privation de monde, Paris, Vrin.

Foucault, Michel, 2012, Mal faire, dire vrai. Fonction de l’aveu en justice. Cours de Louvain, 1981, édition dirigée par Fabienne Brion et Bernard E. Harcourt, Louvain, Presses universitaires de Louvain.

Latour, Bruno, 2011, « La société comme possession. La “preuve par l’orchestre” », in Didier Debaise (dir.), Philosophie des possessions, Dijon, Les Presses du Réel.

Legendre, Pierre, 2001, De la société comme texte. Linéaments d’une anthropologie dogmatique, Fayard.

Manchev, Boyan, 2009, La métamorphose de l’instant. désorganisation de la vie, Strasbourg, La Phocide.

Marx, Karl et Engels, Friedrich, 1962 [1932], L’idéologie allemande, Paris, Éditions sociales.

Rouvroy, Antoinette, 2012, « Mise en (n)ombres de la vie même : face à la gouvernementalité algorithmique, repenser le sujet comme puissance », Mediapart, 27 août. Consultable en ligne : <http://blogs.mediapart.fr/blog/antoinette-rouvroy/270812/mise-en-nombres-de-la-vie-meme-face-la-gouvernementalite-algorit>.

Rouvroy, Antoinette et Berns, Thomas, 2013, « Gouvernementalité algorithmique et perspectives d’émancipation », Réseaux, no 177, p. 163-196.

Rouvroy, Antoinette et Hildebrandt, Mireille (éd.), 2011, Law, Human Agency and Autonomic Computing. The Philosophy of Law Meets the Philosophy of Technology, Londres, Routledge.

Stiegler, Bernard, 2012, États de choc. Bêtise et savoir au xxie siècle, Paris, Mille et une nuits.

Supiot, Alain, 2010, L’esprit de Philadelphie. La justice sociale face au marché total, Paris, Éditions du Seuil.

Haut de page

Notes

1 Nous adressons nos remerciements aux deux intervenants Bernard Stiegler et Antoinette Rouvroy, ainsi qu’à Vincent Puig de l’Institut de recherche et d’innovation pour avoir accepté la publication de ce débat.

2 Association internationale pour une politique industrielle des technologies de l’esprit.

3 Économiste français, commissaire général de France Stratégie, le Commissariat général à la stratégie et à la prospective.

Haut de page

Pour citer cet article

Référence papier

Antoinette Rouvroy et Bernard Stiegler, « Le régime de vérité numérique », Socio, 4 | 2015, 113-140.

Référence électronique

Antoinette Rouvroy et Bernard Stiegler, « Le régime de vérité numérique », Socio [En ligne], 4 | 2015, mis en ligne le 28 mai 2015, consulté le 24 août 2017. URL : http://socio.revues.org/1251 ; DOI : 10.4000/socio.1251

Haut de page

Droits d’auteur

© Éditions de la Maison des sciences de l’homme

Haut de page
  • Logo Éditions de la Maison des sciences de l'homme
  • Revues.org