Séance du 09/06/2020 CALM (Cours A La Maison) TL2: 1h30

Bonjour à toutes et à tous,

C'est la dernière ligne droite et elle descend sacrément! YAOUOUHHHH!!!!!

C’est bien d’un écrasement du sujet dont il s’agit ici de mesurer l’efficience et les conséquences. La notion de « pharmakon », c’est-à-dire d’artefact consistant directement dans un remède et un poison (poison dont le remède est le poison lui-même mais autrement administré) est intéressant à plaquer sur les propos d’Antoinette Rouvroy parce que les Big Data sont le poison d’instruments numériques qui ne sont pas en eux-mêmes toxiques et même la pratique statistique ne doit pas être considérée comme nuisible ou dangereuse en elle-même. Mais quelle est la différence entre la statistique traditionnelle et la statistique des data mining (extraction de connaissances à partir de données)?
- D’abord la finalité: les statistiques traditionnelles visent à objectiver des hypothèses à partir de données alors que dans les big data, il n’y a pas d’hypothèses, tout est récolté et on fait tourner des algorithmes sur cette masse et on fait surgir des données des hypothèses. C’est une inversion complète de la pratique scientifique telle que Kant la définissait dans la préface à la seconde édition de la critique de la raison pure. Ce n’est pas la pensée qui élabore d’abord des hypothèses que les data infirmeraient ou confirmeraient ensuite. On part des données pour élaborer à partir d’elles des hypothèses.
         

Cela signifie en droit qu’aucun principe de droit dans la sélection ne peut prévaloir. Tout est récolté indifféremment. Il s’agit de faire surgir les catégories des données recueillies et non d’aborder les données à partir des catégories or ce processus coupe l’herbe sous le pied de la critique, puisque la critique selon Foucault s’adresse à la manière dont se forme les catégories à partir desquelles on perçoit le monde. Ici cette critique, au sens philosophique du terme n’est plus possible. La production automatique des catégories rend la critique inopérante et en même temps comme ces catégories s’adapte en temps réel aux données, sont finalement données en même temps qu’elles. Cela signifie que la gouvernementalité algorithmique effectue une espèce de critique toujours en marche « déjà ». On a affaire à un métabolisme inhérent à la vie même, à une normativité immanente. Les normes émanent de la vie et du coup ne sont plus contestables. En fait on pourrait dire que « c’est comme ça »: comme les catégories que l’on pourrait critiquer sont construites en même temps que les données que l’on est sensé analyser à partir de ces catégories.
                  Le benchmarking (analyse comparative de la concurrence sur un marché) a pour finalité de rendre comparable des travaux, des métiers, des pratiques pourtant incommensurables en elles-mêmes (performances de deux chercheurs dans des domaines différents). On fait donc des conventions de quantification qui vont permettre d’évaluer deux performances de nature distincte comparables. L’objectif de cette démarche est de pouvoir en discuter en posant des « conventions ». Ça c’est de la statistique traditionnelle mais pour les big data, il n’y a aucune convention. Cela veut dire que l’on ne cherche pas du tout à mettre sur un plan de comparaison possible deux démarches distinctes. Les évènements du monde sont imprévisibles et incommensurables. Les normes viennent purement et simplement des données qu’elles sont pourtant censées « subsumer », c’est-à-dire ordonner. En d’autres termes dans les big data les catégories au travers desquelles on est censé classer les données se constituent en temps réel en même temps que ces données elles-mêmes.
   

Ensuite ce qui distingue les statistiques traditionnelles des statistiques du data mining c’est la notion de « moyenne »  qui disparaît avec les big data. Antoinette Rouvroy utilise la référence à un écrivain: Robert Musil, et à son livre: « l’homme sans qualités » pour pointer la notion de moyenne et de sélectivité. Dans les statistiques classiques, il y a un principe de sélection (alors qu’il n’y en a pas dans les big data qui recueille tout indifféremment) et il y a aussi un principe de resserrement des données des chiffres autour d’une moyenne. Les écarts par rapport à la moyenne n’entrent pas en ligne de compte. C’est l’incitation que l’on entend parfois qui nous conseille de ne pas vraiment prendre en compte les statistiques puisque elle valent « pour la moyenne », « globalement », mais jamais précisément, un peu comme si elles ne s’appliquaient pas aux cas particuliers. Dans les big data, il n’y a plus vraiment de moyenne, d’enseignements généraux puisque les données grossissent exponentiellement constamment de microseconde en microseconde. La valeur moyenne n’a plus de raison d’être. Les modèles statistiques valent donc pour les cas les plus singuliers, ce qui rend possible de faire de la personnalisation à l’échelle industrielle. Ce point est vraiment fondamental. Les big data s’adaptent à chaque profil mais en même temps ce n’est qu’un profil. On crée des profils de consommateurs qui peuvent correspondre à des cas précis mais en même temps au gré d’une sérialité de production en masse. Les big data permettent donc de se dégager de l’homme moyen, de l’homme normal. Les big data cassent cette notion de normalité, comme si on pouvait posséder des données objectives.  
 Les catégorisations algorithmiques deviennent donc indiscutables puisque elles cassent cette notion de norme à partir de laquelle on aurait pu les contester. Or Antoinette Rouvroy adresse ici une première critique très pertinente à cette procédure, à savoir que c’est justement parce qu’on ne peut pas les contester qu’elles ne sont pas légitimes. C’est le critère de la discutabilité, assez proche de celui de la falsifiabilité en sciences (Karl Popper). Les Big Data s’imposent comme réelles en dehors de toute remise en question possible.
  

            La question se pose donc maintenant de savoir comment ces big data constituent cette gouvernementalité algorithmique, comment jouent-elles sur l’avenir? Comment modélisent-les des comportements dans une perspective préventive aussi bien en justice que pour les assurances, etc. Est-ce que ça gouverne vraiment? L’attention que l’on pourrait porter à la dangerosité par rapport aux faits n’est pas nouvelle en soi. Antoinette Rouvroy évoque ici cette attention portée par la justice  à la menace de certains individus présumés dangereux avant même qu’ils ne passent à l’acte. Mais il y a une différence entre ce souci qui a vu le jour dés le 19e siècle et des lois nouvelles nées du terrorisme portant sur des individus présentant le risque d’être radicalisés. La différence est celle qui sépare la prévision de la préemption. Il ne s’agit pas de réformer l’individu dangereux mais de devancer (préempter, c’est « agir avant » alors que prévoir c’est  seulement penser quelque chose avant que cela se produise).
         

Par conséquent, nous ne sommes pas très loin de Minority Report. Les Big Data légitiment que l’on agisse préalablement à une action qui n’a pas encore été effectuée. On considère comme déjà advenue une action qui dans la réalité n’est encore que possible. Prenons l’exemple d’un organisme d’ assurance sur la vie qui va avoir accès aux réseaux sociaux et qui constate que telle ou telle assurée est victime de violence conjugale. Il peut parfaitement considérer que le risque de mort anticipé est réel. Il n’y a plus de calcul de risque. On est passé d’un logique actuarielle à une logique post-actuarielle. On considère cette personne comme déjà morte quasiment.  On peut ainsi faire monter les primes indifféremment. Cet espace vide laissé par la norme ouvre ainsi la place à l’appétit de toutes les personnes qui peuvent tirer un parti financier de l’exploitation des données. Toute demande du client doit être satisfaite et tout bénéfice moral ou pas doit être enregistré. On est dans une culture de la pure opportunité.
         

Comment est-ce que ça gouverne, la gouvernementalité algorithmique? Pour Foucault, ce qui gouverne c’est ce qui structure par avance le champ d’action d’autrui. Donc la publicité, l’architecture, la politique dans une certaine mesure, les médias pratiquent une certaine gouvernementalité. Mais ce qui est en train de se produire par les Big Data, c’est que ce n’est plus le réel, l’actuel,  ce qui se produit, qui gouverne mais seulement ce qui est possible. Un individu peut être arrêté, interrogé à cause d’une présomption de terrorisme. Une prime peut être augmentée à cause d’une suspicion née de telle ou telle trace recueillie sur le réseau social. C’est la potentialité pure qui gouverne. Ce qui gouverne c’est le virtuel c’est-à-dire personne, autrement dit ce ne sont plus des corps réels, physiques, humains qui gouvernent, mais un corps impalpable, numérique, statistique qui est supra-individuel, composé par une infinité de données qui annule la notion de sujet, d’ipséïté.
        Cette gouvernementalité désubjectivée, impersonnelle nous dirige sans récalcitrance mais elle nous affecte en en ce sens qu’elle travaille l’avenir. Ce qui est visé , attaqué, réduit, c’est notre capacité à ne pas être là où nous  sommes attendus. A partir du moment où la seule possibilité que l’on devienne terroriste suffit à ce que vous soyez considéré comme en étant un, on vous dénie le droit de ne pas être ce qu’il est possible que vous soyez. Ce n’est plus le passage à l’acte qui compte, c’est la possibilité du passage à l’acte qui prime.
        Cette suspicion peut donner lieu à une surveillance, à un contrôle doté d’une certaine puissance d’affectation réelle. Il convient donc de faire une critique de cette gouvernementalité algorithmique. Mais cette critique n’est pas évidente parce que ce mode de gouvernement traverse toutes les catégories de telle sorte que l’on ne peut pas imaginer une action collective contre lui. Il ne stigmatise aucune catégorie en particulier. On ne peut pas la suspecter de racisme ou de sexisme. Peut-être correspond-t-elle finalement à quelque chose que l’on a toujours voulu. On est ramené à un profil mais après tout, comme on fait nécessairement partie de ces profils, on ne peut pas vouloir ne pas être profilé puisque cela reviendrait à ne pas se vouloir soi-même. Cela dit justement il va de soi que ce profil n’est pas moi-même, c’est tout le danger. On adhère à une image de soi qui semble correspondre mais qui en même temps ne peut absolument pas être moi au sens d’ipséïté. C’est la raison pour laquelle il faut critiquer l’idéologie des Big Data. Il y a une prétention à l’exhaustivité contre laquelle il faut lutter. Il est faux de penser que les big data numérisent tout ou que tout soit numérisable. Nos rêves ne le sont pas, nos peines, nos joies ne sont pas numérisables non plus. C’est ce que l’on peut appeler « l’innéfectué ». Tout ce qui disparaît avec ce processus de substitution de la réalité physique au profit des données numériques, c’est l’écart entre le monde et sa représentation, la distinction entre le fait et le droit, c’est la possibilité de se dire que l’objectivité n’est pas la justice. L’assureur qui exclue les clients qui risquent des violences conjugales adopte un point de vue rentable mais absolument abject d’un point de vue éthique, du point de vue de la justice sociale.
         

La question est aussi celle de la production de catégories immanentes  à la collection des données faites par la machine. Cela revient à confier à des machines ce qui relevait avant de la politique au sens pur et noble du terme, « décider ensemble », faire advenir une réalité humaine par la parole et par l’action (Hannah Arendt). On laisse finalement les machines décider des critères de dangerosité, de mérite de désidérabilité des individus. C’est bien l’enjeu de ce qui se passe aujourd’hui.
        La conclusion de cette intervention porte sur le véritable enjeu des Big Data. Elles nous dispensent de décider. Il faut réassurer cette fonction là. Or toute décision implique l’incertitude et la nature non prédictive de l’avenir parce que lorsque l’avenir est programmable, prédictible, il n’y a pas de décision, de « pari ». Une décision suppose une prise de risque. Si l’on ne fait qu’agir en situation de certitude, on ne fait que suivre ce dont on pense (probablement à tort) que cela va nécessairement se produire. Antoinette Rouvroy conclue sur une phrase du philosophe Giorgio Agamben: « ce qui compte c’est de se tenir dans une relation juste par rapport à notre propre ignorance. » Cette justesse est menacée par la prétention à l’objectivité et à l’anticipation du réel par les Big Data.

Récapitulons:    Je souhaiterai d’abord mettre clairement en perspective l’intervention d’Antoinette Rouvroy par rapport à la plupart des notions que nous avons explorées dernièrement depuis le confinement. Elles sont toutes à mettre en rapport avec deux « moments-clé » qui sont très liés: l’avènement du dernier des hommes dont nous parle Nietzsche dans « Ainsi parlait Zarathoustra » et « l’anthropocène » qu’évoque notamment Bernard Stiegler dans le sillage médiatique de Greta Thunberg. Il s’agit dans les deux cas de pointer un danger et éventuellement de déterminer une attitude.
        Gilles Deleuze  avait évoqué la succession de trois types de société: celles que l’on peut dire de souveraineté, celles qu’il qualifie de  « disciplinaires » et enfin celles que l’on peut qualifier « de contrôle ». L’illustration la plus parfaite des sociétés de contrôle est l’appli téléchargeable du covid 19 qui nous avertit si nous sommes en présence d’une personne que l’hôpital a enregistré comme contaminée. Que nous acceptions cette mesure au nom d’un protocole sanitaire certes légitime mais extrêmement invasif et stigmatisant sans réagir pose vraiment problème et atteste de la justesse de la prophétie de Gilles Deleuze.
        C’est à la lumière de ce climat qui nous met directement en prise  avec l’actualité la plus récente ainsi qu’avec de nombreuses références étudiées cette année qu’il faut situer les paroles d’Antoinette Rouvroy.
        Ce qui est extrêmement intéressant ici c’est aussi le fait qu’elle soit juriste de formation. Elle n’est pas philosophe mais le fait que cette question des sociétés de contrôle et de l’influence des Big data sur notre vie la plus quotidienne soit ainsi au croisement de plusieurs disciplines prouve son urgence et sa gravité.
       

Aussi durs que soient certaines régimes de gouvernementalité politique, ils sont identifiables. Il nous est possible de situer leur influence et les dommages qu’ils créent mais la gouvernementalité algorithmique consiste dans un autre type de pouvoir, un pouvoir sans autorité visible, indétectable, et c’est en cela qu’elle requiert de nous une attention, une sensibilité vive, travaillée, alertée. En fait il n’est pas du tout sûr que les personnes qui tirent avantage de cette gouvernementalité algorithmique, et l’on pense évidemment en premier lieu aux PDG des GAFA, aient vraiment conscience de ce qu’implique ce bouleversement dans l’histoire même de l’humanité car c’est bien de cela dont il est question et Madame Rouvroy nous permet de le saisir notamment grâce à cette formulation-choc:  la gouvernementalité algorithmique est celle d’une fiabilité sans vérité, d’une personnalisation sans sujet et d’un pouvoir sans autorité.
- Une fiabilité sans vérité: les données recueillies sont très fiables voire même d’une efficacité sans équivalent, simplement elle ne décrivent pas la relation à un fait mais plutôt à des « informations », à des indications, à des « signaux ». Dire la vérité c’est émettre une proposition qui correspond effectivement à un état de fait. Je dis la vérité quand disant qu’il pleut, il pleut effectivement. Mais ce n’est plus du tout le problème ici. La question n’est pas de connaître les faits, de poser l’équivalence entre une proposition et un fait, mais de collecter des masses incroyables de données que l’on va pouvoir interpréter au gré d’une multitude de questions, avec une fiabilité certaine mais en l’absence de toute relation authentique au vrai.
 

- Une personnalisation sans sujet: les Big Data nous analysent, nous observent, nous devinent avec un degré de prédictibilité impressionnant et inconnu jusqu’alors. Qu’est-ce que cela veut dire? Il ne faut pas craindre d’user ici de formulations apparemment ambiguës (avant de les clarifier): elles savent ce que nous allons décider précisément parce qu’elles ne font aucun cas de notre volonté, de notre libre-arbitre, de notre singularité. Nous ne sommes pas un être unique, nous sommes un profil. Le meilleur exemple ici est celui de Facebook: il nous est demandé de constituer, ou d’aider par nos réponses à leurs questions, à composer notre « profil », c’est-à-dire ce qui, via les algorithmes, va nous trouver des « amis », c’est-à-dire créer des intérêts « communs » et ça va « marcher » pour autant que l’alchimie et l’imprévu des rencontres, des situations, du hasard seront totalement éludés, exclus des échanges. Mais n’est-ce pas précisément ce qui définit en fait le fond de la rencontre? Quelque chose ici entre en jeu qui est de l’ordre d’une rationalité sans humanité, ni sensibilité. L’amitié est, au sens littéral du terme, calculée. La simple idée qu’on puisse considérer une relation comme calculable devrait nous dégoûter d’elle, à tout jamais. De plus, il y a des sentiments qui ne se traduisent jamais par des actes et qui n’en demeurent pas moins des sentiments. C’est ce qu’Antoinette Rouvroy appelle l’ineffectué ou le non effectué. Il y a du non effectué dans toute relation humaine, du non avoué, du non dit, du non-fait mais c’est peut-être aussi dans ce fond complexe et diffus de non effectuation que se tissent des liens subtils. Le problème ici n’est pas tant que cette subtilité échappe aux algorithme mais que la plupart des relations qui se tissent soient justement des relations privées de cette subtilité, peut-être donc finalement des fausses relations: deux profils se parlent, échangent sans jamais vraiment s’intéresser à l’autre en tant que tel.
 

- Un pouvoir sans autorité: c’est l’un des aspects les plus troublants et les plus ravageurs. Les données recueillies sont très, très « parlantes ». Elles peuvent être utilisées efficacement dans une multitude de domaines. Qu’est-ce qu’un pouvoir? Ce qui gouverne par avance le champ d’action d’autrui. On ne peut rien imaginer de plus contraignant que le pouvoir de la gouvernementalité algorithmique parce qu’il s’impose à nous d’une façon toujours première et finalement indétectable. Ce n’est pas quelqu’un, un organisme ou des lois illégitimes qui s’imposent à nous en nous disant: « faites ça! », C’est un processus de captation des données qui anticipe et surtout manipule, intercède sur ce que nous voulons de telle sorte que nous pensons vouloir ce qui en réalité a été calculé, recoupé, proposé. L’acte de volonté et de décision a été court-circuité à la racine. Il existe dans le monde un excellent exemple de cette gouvernementalité là qui finalement nous contraint précisément en jouant de la pseudo liberté de consommer. C’est la Corée. Le pouvoir de la Corée du Nord et autoritaire, dictatorial et les libertés y sont presque explicitement réduites à néant. Mais la Corée du Sud n’est pas moins gangrenée par un autre genre de gouvernementalité que politique, celui d’un hyper libéralisme et d’une logique infernale de sur-consommation, de promotion de modèle de vies totalement artificiels, superficiels et contraignants. Entre l’esprit d’agressivité militaire qu’illustre un défilé de l’armée de Kim Jong-Un et les prestations d’ados anorexiques de la K-pop sud-coréenne il n’est pas forcément évident de promouvoir l’une au détriment de l’autre.
 

            Il est enfin un dernier point sur lequel Antoinette Rouvroy nous invite à réfléchir avec beaucoup de gravité, c’est celui de la disparition du fait au profit de la donnée brute. La violence des attentats terroristes aux EU et en Europe a petit à petit rendu effectives des lois et des décrets dont l’effectivité n’est plus contestée. Ce climat à l’égard duquel nous aurions du faire preuve de plus de vigilance a évolué avec l’utilisation banalisée des Big Data vers des mesures parfaitement illégitimes grâce auquel la présomption de collusion avec des terroristes suffit à justifier une arrestation, une incarcération voire suivant la juridiction de certains pays (US) bien pire que cela. Qu’est- ce que cela veut dire clairement? Que « le passage à l’acte » ne constitue pas dans certaines affaires la condition première et minimale de l’arrestation. Le soupçon fort suffit. C’est finalement exactement comme dans Minorité Report, le film inspiré de l’oeuvre de Philippe K. Dick dans lequel on voit une brigade baptisée « pré-crime" qui grâce à des pré-cognitifs, des personnes dotées d’une vision du futur est capable d’arrêter des supposés criminels juste avant qu’ils passent à l’acte. Mais peut-on condamner quelqu’un pour une intention, aussi forte soit-elle? Comment considérer une personne  comme juridiquement responsable d’un acte qu’elle n’a pas encore commis mais dont on pense qu’elle était à deux doigts de le commettre? Déjà Aux EU, les big Data font jouer les statistiques de prévision des crimes pour placer plus d’agents dans tel quartier que dans tel autre. Cela veut dire que l’on considère l’imprévisibilité comme cela même qu’il s’agit d’éradiquer de la vie humaine. Mais qu’est-ce qu’une vie humaine sans imprévisibilité des actions humaines? Ce n’est ni plus  ni moins qu’une matrice.
 

  

Et pour l'année aussi!

Bonne continuation à vous toutes et à vous tous. Merci pour cette année!

Séance du 08/06/2020 CALM (Cours A La Maison) TL2: 1h

         

 Nous continuons l'explication de l'intervention d'Antoinette Rouvroy sur la gouvernementalité algorithmique.

     

C’est déjà sur le fond de cette gouvernementalité là que nous vivons aujourd’hui. Il n’est vraiment pas acquis que la tâche qui consisterait à détruire cette gouvernementalité puisse réussir pour des raisons qu’Antoinette Rouvroy formule avec  autant de justesse que de précision. Face à une telle abdication, peut-être s’agit-il d’abord d’acquérir simplement une forme de lucidité, de capacité d’assomption de ce qui se produit, de telle sorte que nous puissions être simplement à la hauteur de ce qui arrive, et avoir honte d’être Homme, au sens donné par Gilles Deleuze à cette expression, laquelle constitue selon lui, le plus puissant moteur de la pratique de la Philosophie et de l’art, aujourd’hui.

          

                Parmi les chercheurs américains travaillant sur cette question, Ryan Calo a écrit un livre évoquant les « digital market manipulations » intitulé « Consommer à l’ère des algorithmes: une nouvelle servitude volontaire ». Antoinette Rouvroy  évoque le nom de cet auteur parce que les algorithmes rendent possibles une sorte de devancement des désirs du consommateur. Amazon a obtenu les brevets d’un protocole de vente qui anticipe sur la décision du consommateur d’acheter. On sait déjà que dans l’approvisionnement des plates formes logistiques d’Amazon, des hangars où travaillent la main d’oeuvre chargée de faire les colis, les algorithmes travaillent déjà en anticipant les achats, mais là il serait question d’anticiper déjà sur les désirs. Le client donne son numéro de carte bleue et Amazon se charge elle même d’approvisionner le client en fonction de ces achat et des de ces données brutes. Le consommateur n’ même plus à se donner la peine de cliquer, de faire le choix. C’est un peu comme une industrie qui fonctionnerait en circuit fermé décidant non plus de l’offre en fonction de la demande mais fermant définitivement la boucle, de telle sorte que la demande est suffisamment anticipable pour convenir à une offre qui ne fait que se valider elle-même en manipulant la demande: « Digital market manipulations. »

         

Pour reprendre les termes d’Antoinette Rouvroy il s’agit de court-circuiter les capacités de résistance du consommateur à la réflexivité, au retour à soi, à notre statut de sujet (identité comme ipséité) au temps de la réflexion qui pourrait nous retenir de faire un achat inconsidéré. On va détecter un profil psychologique de consommateur prenant en compte les heures durant laquelle l’individu est vulnérable. On est dans le signal, dans l’alarme, dans l’urgence, nous pourrions presque dire dans l’injonction ou dans un mode de conditionnement très proche finalement du chien de Pavlov. Nous entrons dans des comportements compulsifs qui ne sont même pas liés à l’inconscient individuel du sujet, à son histoire, à sa psyché mais à cet inconscient algorithmique aussi efficace que brut.

        Antoinette Rouvroy compare alors avec beaucoup de pertinence l’injonction de la loi  et l’injonction de la « digital market manipulation », car la loi, comme Kant nous le dit assez clairement ne s’adresse qu’à la liberté du sujet.  Je suis un sujet de droit parce que j’ai cette capacité de réflexion de délibération grâce à laquelle c’est end ans que sujet transcendantal, libre, universel que je saisis la loi et que je peux examiner son bien-fondé. Si on me menace de mort la prochaine fois que je prends de la drogue ou que je dévore mon 40e pot de crème glacée, probablement renoncerai-je à mon addiction parce que la menace physique interdit une addiction physique (sujet empirique) mais si un prince méchant me demande de porter préjudice à un homme de bien, je n’obéirai pas immédiatement et peut-être pas du tout parce que j’ai en moi la loi morale, une certaine éthique et la loi toujours s’adresse à moi sans court-circuiter la loi morale. C’est d’ailleurs comme ça que je peux refuser de me soumettre à certaines lois comme celles de Vichy. La loi, jamais, y compris la plus injuste ne s’impose à nous de façon aussi insidieuse. Dans le pire des cas, c’est la force publique qui me contraint mais ici c’est bien plus que cal c’est un mode de suggestion algorithmique eu terme duquel nous sommes alignés de l’acte même de désirer, nous qui pourtant désirons ou croyons désirer.

         

La loi présuppose les capacités de raison et de volonté du sujet auquel elle s’applique, le mode de gouvernementalité algorithmique aucunement. Y’a-t-il quelque chose de commun à la robotisation des conflits armés (via les drones) et le marketing numérique? Madame Rouvroy fait semblant de poser la question mais il est évident que la réponse est oui puisque dans les deux cas c’est à des algorithmes visant à analyse et à influencer les attitudes humaines que nous sommes confrontés. Il existe donc un nouveau mode de comportementalité numérique qu’il s’agit désormais de prendre en compte. Aller sur le net, c’est accepter d’être pris pour une variable traçable dans une masse hallucinante de données brutes, et aucun d’entre nous ne peut se reconnaître dans ce « profil (appelons ça comme ça) alors même que ce profil se révèle incroyablement efficace dans la calculabilité de notre comportement numérique. Cela ne signifie pas du tout que l’algorithme nous devine tel que nous sommes. C’est exactement le contraire, nous ne sommes pas du tout ce profil, mais nous sommes devinés, manipulés, indexés, occultés comme telle. Pour reprendre la référence au fil Matrix, ce profil c’est ce que nous faisons dans la matrice, connectés à son programme qui nous fait désirer, agir rêver tout ce que la matrice veut nous faire désirer, faire, rêver. Morpheus, Trinity, Néo sont, une fois débranchés, réinsérés dans la matrice mais au gré de mouvements motivés par leur volonté propre.

    

        Une question fondamentale se pose néanmoins: pourquoi les Big Data se sont-elles imposées avec une telle facilité? Nous comprenons bien à quel point elles génère des profits, des gains de temps et d’argent pour certaines entreprises et notamment les plate-forme Gafa, mais cela ne suffit pas à rendre compte de ce processus de servitude volontaire dénoncé par Ryan Calo.

         Antoinette Rouvroy soutient que cette facilité à s’imposer des Big data tient à tout ce qu’elles nous dispensent de:

- De représenter les choses

- De toute transcription, de toute médiation symbolique, institutionnelle ou conventionnelle

- De la décision

- De la réflexion

- De la  notion de norme et de sujet

        Nous sommes confrontés à une gouvernementalité d’un type absolument nouveau: d’une fiabilité sans vérité, d’une personnalisation sans sujet et d’un pouvoir sans autorité. C’est un gouvernement du monde numérisé par lui-même et de lui-même sans autre finalité que lui-même.

        Il faut vraiment s’arrêter sur « ces dispenses » et les considérer avec rigueur.  Le fait que les big Data soient des signaux sans signification ni sens qui analysent rapidement mais aveuglément en faisant apparaître des logiques de recoupement qui sont à la fois effectives, probantes du point de vue d’une analyse de marché mais absolument incompréhensibles pour toute finalité humaine pout toute tentative de donner et trouver du sens humain dans ces lignes de cohérence crée cette gouvernementalité sans équivalent, parfaitement déshumanisée et sans intention mais en même temps incroyablement écrasante.

A demain!

Séance du 04/06/2020 CALM (Cours A La Maison) TL2: 2h

Bonjour à toutes et à tous,

C'est l'heure de défendre une cause perdue! Mais, en fait peut-être pas, car....

Hier nous avons terminé sur une classification de tous les différentes sortes de signes à partir de Peirce: l'indice, le symbole, l'icône, le signe lui-même et le signal. 

   

                      Comment situer les données brutes (big Data) dans cette classification des signes? Déjà il faut insister sur le fait que ces données sont produites, ce qui signifies précisément qu’elle les ont pas naturellement données. Elles sont des données numériques, c’est-à-dire que le fait même qu’elles soient « données » suppose un travail préalable par le biais duquel c’est sur une interface numérique qu’elles apparaissent. Elles sont le produit d’un travail d’annihilation de tout ce qui pourrait les rattacher à un contexte de vie singulier. Une donnée n’a aucun sens intelligible en soi. L’intelligence des données va se constituer sur la base d’une absence totale d’intelligibilité humaine. Ces données sont collectées et analysées indépendamment de toute lisibilité humaine. Elles sont sorties de leur contexte.
           Ce point est important, voire fondamental. Nous sommes plutôt portés à intégrer nos achats par exemple, dans des sensibilités préférentielles: j’ai acheté tel DVD parce que le film m’a procuré du réconfort ou m’a fait réfléchir, etc. Cela les Big Data s’en moquent totalement. C’est sur la base de répétition et de recoupements inhumanisés qu’elles vont « collecter », recueillir et recouper des achats. Mais c’est peut-être aussi pour cela qu’en un sens ça va marcher. Ce qui se constitue ici c’est l’efficience d’un « inconscient numérique » totalement distincts et détaché de l’inconscient du désir du sujet lui-même (mais en même temps c’est sur la base de cet inconscient numérique qu’Amazon va lui proposer un autre produit qu’il va acheter. Ici nous apercevons parfaitement tout ce que le petit neveu de Freud, Edward Bernays va faire et détourner des travaux de son grand oncle, à savoir transformer en instrument de marketing des découvertes fondamentales sur la psyché de l’être humain.
          

                  Antoinette Rouvroy fait référence à l’expression utilisée par Gilles Deleuze et Félix Guattari de « décodage ». Nos échanges dans la vie sociale, familiale, intime se font toujours sur la base de code. Nous savons ce que veut dire le fait d’utiliser tel registre de parole, de frapper sur la table, de s’habiller en noir, de porter une cravate ou des hauts talons. Nous ne cessons ainsi d’envoyer aux autres des signes compréhensibles et intentionnels grâce à ces codes. Mais justement les big data prélèvent des données dans codage, sans leur donner un sens, sans chercher le rapport entre ce qui est signifiant et signifié. Les big datant prélèvent ces données comme des « signaux », qui sont quantifiables parce qu’ils n’ont aucune signification. Ici encore, ce point est crucial. C’est justement parce que ces signes sont recueillis en tant que signaux, c’est-à-dire indépendamment de l’intentionnalité humaine qui s’y trouve impliquée ou du soubassement de réalité humaine dont ils font signe qu’ils vont pouvoir donner lieu à une quantification qui finalement ne se soucie en aucune façon des répercussions humaines des recoupements et des suggestions ou des résultats qui seront produits par les algorithmes. Pourquoi ce point est-il aussi fondamental? Parce qu’il explique comment des comportements humains a priori imprévisibles et incalculables vont être quantifiés et finalement rendus contrôlables voire manipulables par ces algorithmes, c’est tout simplement parce que leur intentionnalité et leur réalité humaines ne sera pas prises en compte. Comment pourraient-elles l’être d’ailleurs?

          

          Les données des big data sont donc d’autant plus quantifiables qu’elles sont décontextualisées de toute signification humaine. Elles  sont décodées. C’est ce qui va nourrir une nouvelle forme de gouvernementalité, laquelle est effective en ce moment. Ce n’est pas de la science fiction. Ce mode est opérationnel dans le marketing, dans la finance, dans la gestion des ressources humaines (le personnel des centres d’appel est recruté à partir de facteurs de résistance à l’ennui - Ce sont les algorithmes qui vont ainsi sélectionner parmi les candidatures les profils les plus adéquats mais cela sur la base de critères statistiques plus que rationnels. Ici aussi, cette remarque est essentielle: les algorithmes remarquent dans les comportements des récurrences, des recoupements irrationnels mais efficients/ par exemple le fait que les personnes qui sont inscrites dans deux plate forme de réseaux sociaux sont plus résistantes à l’ennui que celles qui ne s’y inscrivent pas. Que peut-on en déduire? Les big data ne s’en préoccupent pas du tout. Nous sommes dans une logique statisticienne qui vise à l’efficacité et pas du tout dans une logique causale qui vise à comprendre philosophiquement ou sociologiquement les comportements des hommes).

        Il est un terme un peu péjoratif qu’Antoinette Rouvroy n’hésite pas à utiliser au début de son intervention , celui de « l’idéologie » des Big Data, parce que précisément, il n’y a pas d’intentionnalité personnelle de tel ou tel, de tel mouvement politique ou de telle firme commerciale. Ce n’est pas une personne en particulier même s’il est évident que Jeff Bezos, Larry Page, Reed Hastings, Marc Randolph, Mark Zuckerberg, etc, retirent un bénéfice concret et, sur le fond, parfaitement abject de cette nouvelle gouvernementalité, il n’est pas non plus évident qu’il réalise la portée de ce qu’ils utilisent.

                  

                Ce mode d’intelligibilité des comportements humains n’est pas humain, ce qui ne signifie pas du tout qu’il soit malveillant ou porteur d’une intention maléfique mais tout simplement qu’en acceptant de faire nos achats sur Amazon, de regarder des séries sur Netflix, de discuter sur Facebook, nous confions à un mode d’analyse pas humain des données qui sont humaines et que ce mode d’analyse va activer des algorithmes qui suivent une logique statisticienne plutôt qu’une logique causale. Il n’est pas question pour l’homme de comprendre qui il est mais simplement de se confier, de façon un peu suicidaire, comme une ressource à un mode d’exploitation de lui-même qui vise à produire des données et finalement à produire des capitaux mais au final pour qui?  Pour les PDG de ces plates-formes? Oui en un sens mais si nous allons plus loin, ce n’est pas vraiment une réponse satisfaisante car cette logique qui leur apporte des bénéfices n’est pas une logique qu’ils comprennent  en tout cas pas humainement.

               

C’est cela le point fondamental qu’Antoinette Rouvroy nous permet de saisir dans cette intervention: nous sommes un peu dans la situation décrites par Matrix en acceptant d’être la ressource sur laquelle s’active des algorithmes dont la finalité n’est pas de mieux nous comprendre, de mieux saisir la réalité dans laquelle nous consistons mais tout simplement de nous réduire à des données calculables, prévisibles et  ainsi de détruire toute possibilité de résistance par rapport à l’entropie (voir la vidéo de Bernard Stiegler).  Nous sommes compris par ce que nous ne pouvons pas comprendre. C’est un peu le sentiment que l’on ne peut s’empêcher de ressentir parfois devant la montée de l’obésité aux EU ainsi qu’en France: accepter de faire de son corps un territoire exploité par des algorithmes qui vont miser sur nos addictions.

          

           Repensons ici à la phrase de Pascal: « Par l’espace, l’univers me comprend et m’engloutit comme un point, par la pensée, je le comprends. » Ce que nous pouvons ajouter désormais c’est: «  par les big Data, je suis à nouveau englouti comme un point. » Nous sommes perdus dans le monde, nous aspirons à une certaine compréhension de ce monde et de nous-mêmes par la pensée mais nous voilà débordés et réduits à n’être qu’une ressource exploitable par un monde d’intelligibilité algorithmique qui nous trace et nous rend illisible à nous-mêmes, incapable de nous porter à nous-même un minimum d’attention. Ce que nous perdons, c’est la possibilité stoïcienne d’être digne de ce qui nous arrive, de jouir d’une authentique réalisation de l’évènement qui consiste à exister.        

          

Je me permets ici de faire une petite incise au propos d’Antoinette Rouvroy. Ce qu’elle décrit ici sous le terme de gouvernementalité algorithmique est probablement l’évènement le plus grave et le plus aliénant qu’il ait jamais été donné à l’homme de subir, et cela d’autant plus qu’il ne s’en rend pas compte. La plupart des plates-formes utilisant ces algorithmes sont perçues par les consommateurs comme les terres électives et infinies de leur liberté…de consommer. Quiconque entreprendrait du jour au lendemain de détruire ces plates-formes se verrait immédiatement taxé de dictateur totalitaire alors même que nous n’avons jamais été aussi manipulés qu’aujourd’hui, précisément parce que ce n’est pas une dictature politique. Il s’agit même d’une dictature qui vise à détruire la politique et qui parvient déjà à placer à des postes de très haute responsabilité des dirigeants qui ne visent qu’à détruire la politique. Il faut lire et comprendre Hannah Arendt sur ce point.

 C'est tout pour aujourd'hui! A Lundi (il n'y aura pas de séance demain!)

Séance du 03/06/2020 CALM (Cours A La Maison) TL2: 1h30

Bonjour à toutes et à tous,

Nous allons à partir d'aujourd'hui expliquer l'enregistrement vidéo de l'intervention qu'Antoinette Rouvroy a donné à l'espace Ethique, le 16 avril 2015. Non seulement elle y explique le concept de "gouvernementalité algorithmique" dont il a été question à la fin du cours Droit, morale et justice, mais elle développe des thématiques qui croisent de nombreuses perspectives déjà envisagées dans les cours portant sur le langage, l'art, "vérité et mensonge d'un point de vue extra-moral". Pour cette séance, nous n'expliquerons que les 5 premières minutes de la vidéo (elles contiennent déjà des éléments essentiels par rapport à la notion de signe notamment dans la distinction entre le signe et le signal)

Antoinette Rouvroy, docteur en sciences juridiques de l'Institut universitaire européen (Florence, 2006), est chercheuse qualifiée du FNRS au centre de Recherche en Information, droit et Société (CRIDS). Elle s’intéresse depuis 2000, aux rapports entre le droit, les modes de construction et de du risque, les sciences et technologies, et la gouvernementalité néolibérale.

 

Les cours récents sont revenus à plusieurs reprises sur ce que l’on appelle « les Big Data », à savoir cette incroyable profusion de « données brutes » rendant effectif un traçage de nos actions, de nos désirs, de nos habitudes et comportements et précipitant ainsi ce que Gilles Deleuze, à la suite de Foucault et de William Burroughs, appelaient « les sociétés de contrôle ». La principale conséquence de ça traçage réside dans le fait que nos existences ne sont plus lisibles, ne peuvent plus s’individuer au sens que Georges Simondon donnait à ce terme:

    « l’individu se distingue comme unité totale face à son environnement, d’autre part il se distingue comme unité singulière face aux autres individus (…) l’individu est singulier dans la mesure où il n’est pas particulier. Comment échapper à la particularité d’un chiffre (celui d’un génome, d’un code barre, d’une étiquette RFID) ou à celle d’un moi (une opinion, un goût, un vote) ? La particularité est reproductible, la singularité ne l’est pas : elle ne peut pas être un exemplaire – mais elle est un exemple de ce que c’est que s’individuer. Un individu est singulier dans la mesure où il n’est pas substituable : sa place ou son rôle ne peut pas préexister à son être. Il y a donc de quoi s’inquiéter des standardisations industrielles productiviste puis consumériste qui transforment le singulier en particulier, ou de ce marketing croissant qui assaille un cerveau de plus en plus formaté et de moins en moins formé. »

     On pourrait dire qu’un individu, c’est un être capable de dire « Je » grâce à un « nous ». Les algorithmes utilisés par différentes plates-formes nous assimilent purement et simplement à des « on », ce qui court-circuite radicalement l’identité narrative et l’identité en tant qu’ipséité telles qu’elles ont été définis par Paul Ricoeur.  Nous pourrions également et dans les mêmes termes évoquer le narcissisme primordial de Freud sans lequel il est impossible que nous puissions aimer ou simplement nous soucier d’une autre personne. Il n’est même pas question ici d’incriminer la volonté d’une personne ou de plusieurs personnes auxquelles bénéficient ces Big Data (même si ces personnes existent sans aucun doute). Mais c’est plutôt qu’un pouvoir anonymement et quasi inconsciemment s’instaure et nous contrôle (il ne s’agit même plus ici de surveillance mais de contrôle. Ce qui est totalement remis en cause par l’insinuation de ces big Data dans toutes les dimensions de nos vies c’est notre aptitude à nous soucier réellement de nous et à nous soucier des autres. Lorsque Gilles Châtelet  nous avertit contre des modes de vies au gré desquelles nous serions petit à petit voués à « vivre et à penser comme des porcs », c’est indiscutablement à ce mode de gouvernementalité algorithmique qu’il faut penser. C’est la raison pour laquelle il m’a semblé intéressant de travailler sur cette intervention d’Antoinette Rouvroy qui explique ici avec clarté et précision les ressorts de cette gouvernementalité algorithmique. Comme je l’avais avec la vidéo de Bernard Stiegler, j’essaierai d’expliquer cette intervention qui dure un peu plus d’une demi-heure mais qu’il importe de visionner avant de lire les développements qui suivent.
 

        Antoinette Rouvroy essaie d’abord de définir ce terme de gouvernementalité algorithmique: il désigne « un nouveau régime d’intelligibilité et de gouvernement du monde ». Le support sur lequel s’inscrivent nos actions, nos échanges, nos désirs, nos achats, nos loisirs, nos qualifications professionnelles, nos projets, bref absolument tout ce qui finalement constituent nos existences consiste dans ces big data, c’est-à-dire dans cette collecte impressionnante par le biais de laquelle des algorithme font des recoupements dans cette masse brute d’informations recueillies grâce au numérique.

        Ces banques de données mises en place par les plates-formes s’enrichissent en temps réel de telle sorte que ce n’est même plus une collecte qui serait motivée par des leitmotiv à visée commerciale, sociologique ou autre mais c’est plutôt une prolifération pure, brute et spontanée de données. On peut penser ici au réseau sociaux. Certains usagers des réseaux sociaux ont probablement l’impression de ne vivre qu’au travers de cette trace de leur existence qui s’imprime dans cette masse. Finalement on peut aller jusqu’à envisager que l’émergence d’un fait dans le réel est petit à petit supplantée par l’inscription d’une trace dans les big data. Au fait brut s’est substituée la notion de données brutes. Et comme nous l’avons vu dans le cours sur le droit, cela change tout à l’exercice et à la compréhension du droit parce que ‘on ne peut saisir ce qu’est le droit qu’en comprenant la distinction entre le fait et le droit.

          

« Quoi qu’on fasse on laisse des traces » dit Antoinette Rouvroy, j’ai envie de rapprocher cette affirmation d’une phrase de Montaigne: « nous ne cessons de nous entregloser », de commenter, de commenter ce qui a été commenté et ainsi de suite sur Twitter jusqu’à ce que finalement l’information se transforme en « ce qu’il faut penser de la nouvelle ou de l’évènement ». Les plates-formes créent ce matelas épais de commentaires des internautes au travers duquel l’évènement ne nous touche jamais en tant que tel mais est médiatisée par les avis entremêlés de tel ou tel. Déjà, de nombreuses chaînes de radio ou de télévision évoluent peut à petit vers des bulletins qui sont moins des transmissions d’évènements que des commentaires de ces évènements par les auditeurs eux-mêmes. Cela se passe « en temps réel », c’est-à-dire que notre rapport physique à un monde extérieur donné est peu à peu remplacé par cette inscription. C’est l’un des messages forts de cette intervention: à notre implication physique dans un monde extérieur, naturel, brut se substitue la notion de donnée brute capturée par des algorithmes, de telle sorte que l’individu est moins dans le monde que dans un système de capture de donnés qui sera utilisée à des fins commerciales, productives, rentables.

         

  "Il n’y a plus de distinction entre physique et numérique »: cela nous fait entrer de plein pied dans la compréhension de ce qu’est le mode de gouvernementalité algorithmique: « la traduction systématique des évènements, des trajectoires, des comportements sous forme de données numériques brutes. »

        Antoinette Rouvroy situe ensuite cette notion de données brutes par rapport à d’autres types de signes. C’est la raison pour laquelle elle fait référence à la sémiotique.    En 1938, Ch. S. Peirce distingue ainsi trois types de signes: les indices, les icônes, les symboles. L’indice est ce qui pose un rapport de causalité entre ce qui est signifié et ce qui est signifiant, la fumée pour le feu par exemple. Les icônes désignent le rapport analogique entre signifiant et signifié: Marilyn Monroe est l’icône de la femme idéalisée à une certaine époque, elle est une « image ». Pour Peirce les symboles désignent des signes pour lesquels le rapport signifié/Signifiants est purement conventionnel et ne marque aucun rudiment de lien naturel: le mot chien n’a aucun rapport avec le chien réel. Nous retrouvons ici ce que Saussure dit finalement du signe. Cette distinction de Pierce est souvent remise en cause. Ce qui est intéressant ici , c’est de voir à quel point il existe différentes modalités de rapprochement entre ce qui est signifié et ce qui le signifie.

      

Nous pouvons conserver de Pierce la définition de l’indice. Mais celle de symbole nous semble discutable un symbole marque toujours un lien naturel entre le signifiant et le signifié: le lion. Est symbole de courage, la balance est symbole de justice à cause de la notion d’équilibre. L’icône est un mode de représentation fantasmée dans laquelle une image (Marilyn Monroe) vaut pour une certaine façon de concevoir la femme idéale de l’époque. Le signe est purement conventionnel. Rajoutons la notion de signal, en évoquant les modes de communications animaux dont la plupart semblent consister dans des signaux (lesquels n’attendent pas de réponse et ont seulement pour finalité d’avertir, d’informer le récepteur d’une situation).

C'est tout pour aujourd'hui.

A demain

Séance du 02/06/2020 CALM (Cours A La Maison) TL2: 1H30

 Bonjour,

Vendredi dernier , nous avions expliqué l'importance de la promesse dans le Droit.  

Celle-ci en effet, décrit toujours les contours d’un monde à venir, monde dont l’ouverture consiste dans l’énonciation ou dans la signature de la promesse. C’est bel et bien la question de la réduction du comportement humain à des données calculables qui se pose donc au premier plan. Lorsque Galilée affirme que le réel est écrit en langage mathématique, il voulait parler du réel de la nature, des forces physiques qui s’y effectuent et dont on peut quantifier la puissance, les phénomènes. La question qui se pose à nous aujourd’hui est celle de savoir si l’on peut aussi appliquer le même raisonnement à l’ethos (attitude en grec) des humains. Après tout, c’est bien ce que semblent faire, en première analyse, les lois. 

           Mais en première analyse seulement car les lois et plus profondément encore la notion de devoir telle que Kant la fonde sur l’existence de la loi morale (exemple de la potence et du méchant Prince) en tout homme s’appuient l’efficience d’un sens du « devoir-être ». Les lois ne s’appliquent pas à l’homme en fonction de ce qu’il est mais dans la perspective de ce qu’il devrait être, et c’est dans la continuité de cette optique même que se comprend correctement l’idée même de promesse. L’homme est une créature susceptible de faire des promesses et c’est en cela qu’il est un sujet de droit. Qu’il tienne ou pas cette promesse est, après tout, secondaire, car ce qui nous intéresse ici est tout ce qui sépare cette propension sincère à la promesse de l’exécution de l’effectuation d’actions intégralement calculables, prévisibles, programmables.
        Ce qui s’accomplit dans le droit est cette aptitude de l’être humain à se renouveler, à se fixer un cap, à se réinventer soi-même comme processus de convergence de toutes ses attitudes vers la ligne de fuite d’un seul point d’horizon. C’est d’ailleurs exactement ce qui donne à cette notion de « droiture » un sens aussi géométrique que juridique ou légal. De ce que j’ai été tel ou tel il ne s’ensuit pas que je serai identique à ce que je fus car à compter de la promesse quelque chose de nouveau se profile, comme un nouvel être que l’on s’engage à devenir.
          

Pour le dire plus simplement la distinction entre le fait et le droit est cruciale parce que le droit est une fiction. Il s’inscrit au coeur de l’homme comme cette ligne d’horizon qui fait sens entre ce qu’il fut et ce qu’il n’est pas encore, peut-être ce qu’il ne sera jamais, mais sans quoi il ne serait rien du tout, ou en tout cas serait incapable de faire sens de la dispersion en laquelle consiste sa vie réelle. Les Big data se contentent de collecter les traces de cette dispersion laissées sur le net ou dans les échanges entre collègues via le numérique pour les rendre calculables, pour les intégrer dans des stratégies de marché, ce qui ne fait pas sens. Nous aspirons à rendre notre existence lisible comme le serait un récit (donner à sa vie le sens d’une vie lisible) mais cette ambition se confronte aujourd’hui à tout ce qui ne vise qu’à le rendre traçable, les sociétés dites de « contrôle », pour reprendre le terme que Gilles Deleuze emprunte à William Burroughs.

 

Conclusion

        Les Big Data, aujourd’hui, remettent totalement en question la nature du rapport que nous entretenions avec les lois, avec l’autorité, avec le pouvoir, avec les notions de normes et de Droit. Une vision totalement fausse et erronée de notre rapport aux lois consiste à la poser comme une contrainte alors qu’elle est une obligation. Avec Kant et son fameux exemple, nous percevons que le devoir est exactement cette obligation qui nous rend libres, libres de nous soustraire aux ordres malveillants d’un Prince malhonnête. Cela signifie que finalement le droit, c’est justement cette aptitude à trouver dans une situation bloquée de fait un espace fictif de devoir. Par conséquent il est absolument inconcevable d’envisager l’existence du droit sans le poser d’abord à partir de cette distinction du fait et du droit. Le droit c’est ce qui s’impose à nous quand les faits ne suffisent pas à nous imposer une attitude. Nous devrions tous porter ce faux témoignage contre un homme de bien si nous en restions aux faits. Et pourtant nous nous reconnaissons tous une marge de décision là où factuellement il n’y en a aucune. Ce qui se produit aujourd’hui c’est la substitution de la notion de « donnée brute » à celle de « fait ». Jusque là, les objets techniques s’imposaient à la nature. Aujourd’hui, l’instrument numérique via les Big Data se substitue au réel, crée un cadre, un support à la vie humaine sur lequel cette vie n’est pas seulement répercutée mais aussi anticipée, encadrée, administrée et finalement orientée, manipulée jusqu’à la rendre illisible, privée de sens.
         

             

   

Pour illustrer parfaitement la nature des problèmes posés par cette anticipation des comportements que les Big Data rendent possibles, on peut citer un film adapté d’un livre de Philippe K Dick « Minority report » et une série « person of interest ». Finalement chacune dans des styles différents, ces deux fictions interrogent la distinction entre ce qui est prédictible avec une marge d’erreur très faible et ce qui se passe. Dans « minority report », la société de contrôle, la collecte  et l’analyse des données sont assez importantes pour qu’un ordinateur super puissant prévoit l’endroit où un crime va se produire, avec une marge d’erreur infime et une brigade intervient juste avant le passage à l’acte. Le crime est prévu. Il est là inscrit dans les données, dans les antécédents, dans les mouvements, dans l’enregistrement de tout ce qui définit tel ou tel individu. Il ne peut pas ne pas se produire mais en même temps il ne s’est pas produit, au sens pur du terme. Si les faits deviennent assez prédictibles pour que l’on puisse juger celles et ceux qui les commettent avant qu’ils les commettent, serions nous en droit de les sanctionner pour un crime qu’ils n’ont pas encore commis?

 Le cours sur "Morale, Droit et Justice" est terminé.

A demain