Séance du 11/06/2020 CALM (Cours A La Maison) TES1: 2H

On n'est pas loin de ça!

Mais avant d'y penser, il y a ça:

 Nous en étions à la distinction des sociétés de souveraineté, de discipline et de contrôle. Gilles Deleuze a repris la spécification de Gilles Deleuze en lui prêtant une dimension presque prophétique. C'est ce vers quoi nous allons si nous ne faisons pas attention. Or la question se pose aujourd'hui plus qu'à aucun autre moment (j'en veux pour preuve l'absence totale de réaction de la population à l'annonce du vote par l'assemblée nationale de la mise en service de l'appli Covid 19 sur les smartphone)

Aujourd’hui, Antoinette Rouvroy, docteur en sciences juridiques, reprend ces concepts de Michel Foucault et les met en perspective avec la gestion des Big Data. De quoi s’agit-il? Les « Big Data » désigne ce que l’on appelle les « Méta-Données », c’est-à-dire l’ensemble des données numériques produites par les technologies informatiques à des fins personnelles ou professionnelles. Pour être plus précis encore, cela concerne:
- Toutes les données d’entreprise (courriels documents, base de données, historiques, processeurs, etc.)
- Tout ce qui est enregistré par des capteurs sur les contenus publiés dans le web
- Toutes les transactions via le commerce électronique
- Tous les échanges sur les réseaux sociaux
- Toutes les données transmises par les objets connectées
- Toutes les données géo-localisées
        Si nous essayons de nous représenter les domaines de notre vie qui sont en lien avec ces données, chacune et chacun de nous perçoit rapidement qu’il n’est rien de l’existence d’un individu en Europe ainsi que dans la plus grande partie du monde qui échappe aux processus de collection et de capture de ces données, lesquelles font ainsi facilement des recoupements entre des domaines d’activité, d’échanges et de vie très variés et dresse ainsi des « profils » qui sont autant de « cibles » dans le domaine de la vente, de la recherche d’emploi, de l’industrie des loisirs, etc.
          

Posons nous simplement la question de la traçabilité des individus que nous sommes. Elle est aujourd’hui quasiment totale. Il est vraiment révélateur de s’interroger sur cette notion de « trace ». Sur quel support, sur quel milieu, sur quel fond l’existence d’un humain, d’un citoyen s’inscrit-elle, dans l’histoire? Autant il était encore possible au début du 20e siècle d’envisager la possibilité que l’existence d’un citoyen contiennent des éléments, des domaines indétectables aux institutions, aux organismes, aux opérateurs,  autant cette perspective est aujourd’hui impossible. Mais qu’est-ce que cela veut dire, au juste? Que le milieu dans lequel s’effectuent nos actions, nos pensées, nos désirs, nos décisions n’est plus celui de la réalité physique de la nature mais celui de la réalité virtuelle de la calculabilité. Antoinette Rouvroy ne développe pas du tout une énième critique du modernisme, elle réfléchit aux conséquences des big data sur l’exercice du droit, de la justice et en premier lieu sur la distinction entre le fait et le droit.

        Nous pourrions parler « d’une mise en nombre » de la vie, dans tous les domaines de l’’existence de l’individu. Cette quantification n’a probablement pas que des effets néfastes ou contraignants mais elle crée néanmoins une toute nouvelle considération de l’existence des individus au regard de laquelle il n’est rien d’elle qui ne soit calculable, et cette calculabilité remet en cause la notion d’imprévisibilité inhérente aux faits eux-mêmes. De plus, tout comportement calculable devient par là-même prévisible et la prévisibilité même de tout système est de tendre vers le chaos selon la loi de l’entropie. Cela signifie que la rationalité de cette réduction quantitative des comportements humains ne s’oppose pas du tout à l’entropie comme pourrait le laisser penser le fait qu’elle soit rationnelle, donc ordonnée. Ce qui est authentiquement néguentropique c’est une nouvelle rationalité, un nouveau type de savoir.

             

D’autre part l’exercice du droit jusqu’à maintenant ne pouvait pas se concevoir sans passer par le jugement d’un humain, tout simplement parce que l’application d’un « code » à une situation humaine impliquait une attention à tout ce qu’un ensemble de faits physiques peut revêtir d’irréductible à un mode de compréhension purement comptable, purement quantitatif. Or c’est bel et bien cette part de vie irréductible au calcul qui tend à disparaître dés lors que le factuel est totalement assimilé à données numériques, dés lors qu’est acté le fait que nous n’agissions plus qu’à l’intérieur d’un environnement au sein duquel non seulement tout est traçable mais aussi dans lequel tout s’effectue « virtuellement ». Pour le dire simplement notre action ne s’effectue plus sur le fond d’un déterminisme physique causal (cause / effet) mais s’intègre dans un ensemble de données statistiques (analyse / orientation des marchés) utilisables par des plate-forme aspirant à retirer des profits de cette nouvelle calculabilité des comportements humains.

        Nous n’agissons plus dans la nature mais dans un réseau exclusivement humains gérés par des algorithmes dont l’objectif est de faire des études de marchés pour orienter les capitaux.  Ce qui s’effectue avec cette idéologie instaurée par les Big Data c’est une sorte de clôture définitive de la sphère d’efficience humaine qui ne s’extériorise plus dans un milieu physique, aléatoire à l’intérieur duquel il y a encore de l’imprévisible, de l’originalité, de l’individualité possible, mais dans le fond de traçabilité numérique à l’intérieur duquel rien d’humaine peut plus se constituer en marque de la calculabilité.

        Or cet enfermement est particulièrement problématique dans le domaine du droit dans la mesure où une décision de justice ne peut pas humainement se traiter au gré de la transparence algorithmique. C’est particulièrement vrai pour ce que l’appelle la jurisprudence, à savoir la nécessité pour un juge d’improviser sa décision parce que la situation à traiter est nouvelle, et qu’elle excède du cadre pénal institué. Une décision est appelé à faire jurisprudence quand une cour de justice se voit dans l’obligation de trancher une situation qui met en présence des conflits ou des éléments tellement nouveaux que les lois sont dépassées. On mesure bien les dommages humains causés par l’exercice d’une justice algorithmique.

        En fait ce nouveau régime nous fait croire que le réel se définit par cette masse de données brutes que les algorithmes du numérique recueille, analyse, traite comme si c’était dans les nervures mêmes du réel que s’activait cette puissance opérationnelle et combinatoire sans commune mesure. Derrière cette efficience de la calculabilité se cache une hybris (une démesure humaine, rien qu’humaine) qui ne considère plus comme milieu ou comme univers que cette ensemble d’interactions numériques qui fonctionne en circuit fermé.

         

L’exercice du droit s’est toujours constitué comme ce qui s’impose de son opposition au fait, mais ce que nous vivons aujourd’hui est l’instauration d’un nouveau régime de vérité ou de "pseudo vérité » (c’est ce que certains intellectuels appellent la post-vérité) au sein duquel la notion même de « fait » , de factualité est en train de disparaître comme si tout ce qui existait de pur, de brut était cette masse de métadonnées. Il s’ensuit des répercussions qui peuvent se révéler extrêmement graves pour l’exercice même d’un droit « humain ». Déjà la fonction de lawyers (d’avocat, d’hommes de loi) est est train de subir de plein fouet les conséquences de cette évolution. Pourquoi aller chercher des hommes de loi si les affaires de justice peuvent être gérées par des algorithmes?

        Contre ce qu’il faut appeler non pas une infraction au droit mais une transformation extrêmement dommageable de la notion même de droit, Antoinette Rouvroy propose trois sortes de ce qu’elle appelle « récalcitrances" ou si on préfère: « résistances »:

Il faut miser sur ce qui échappe à cette « toute visibilité » du numérique à savoir les projets ou les intentions qui ne donnent pas lieu à des documents ou des parutions numériques

De fait, l’existence humaine n’est pas prévisible. On peut à juste raison penser que nous trouverons des rationalités nouvelles et non programmables. De toute façon, l’existence humaine est, par nature, récalcitrante à toute réduction prédictive.

      

Si l’on établissait par exemple des profils types de récidivistes dont les données seraient algorithmiquement appliquées aux cas à traiter alors une justice-robot serait en plein exercice mais il faut espérer que nous n’accepterions pas cette dérivation, que quelque chose en nous réalise le caractère fondamentalement réticent à toute calculabilité, à toute application aveugle, statistique, informatique de principes juridiques. Il y a dans le juridique la nécessité d’un respect de l’humanité, l’émergence d’une réalité improgrammable et assumée qu’il nous faut prendre en compte mais sans tomber dans l’angélisme un peu niais de la croyance naïve au droit naturel.

            C’est la raison pour laquelle les problèmes posés aujourd’hui par les Big Data doivent être plutôt l’occasion de revenir à la source du droit, comme nous invite Antoinette Rouvroy en reposant la question du fait et du droit.

            A moins d’adhérer à la notion de droit Naturel, ce qui semble assez difficile, en fait, il semble évident que le droit repose sur des contrats, sur des pactes et que tout pacte suppose une promesse que l’on s’engage à tenir. Il existe une sorte d’identité juridique du sujet de droit et elle semble se rapprocher de ce que Paul Ricoeur appelle l’ipséité. Un sujet de droit est un « je » qui fait une promesse et qui consiste dans l’attitude conforme à ce qu’il s’engage à être ou à faire dans le futur. Le sujet dont les big data recueille les traces numériques fait l’objet d’une projection statistique qui est parfaitement incompatible avec cette consistance éthique de la promesse.

         

Celle-ci en effet, décrit toujours les contours d’un monde à venir, monde dont l’ouverture consiste dans l’énonciation ou dans la signature de la promesse. C’est bel et bien la question de la réduction du comportement humain à des données calculables qui se pose donc au premier plan. Lorsque Galilée affirme que le réel est écrit en langage mathématique, il voulait parler du réel de la nature, des forces physiques qui s’y effectuent et dont on peut quantifier la puissance, les phénomènes. La question qui se pose à nous aujourd’hui est celle de savoir si l’on peut aussi appliquer le même raisonnement à l’ethos (attitude en grec) des humains. Après tout, c’est bien ce que semblent faire, en première analyse, les lois. Mais en première analyse seulement car les lois et plus profondément encore la notion de devoir telle que Kant la fonde sur l’existence de la loi morale (exemple de la potence et du méchant Prince) en tout homme s’appuient l’efficience d’un sens du « devoir-être ». Les lois ne s’appliquent pas à l’homme en fonction de ce qu’il est mais dans la perspective de ce qu’il devrait être, et c’est dans la continuité de cette optique même que se comprend correctement l’idée même de promesse. L’homme est une créature susceptible de faire des promesses et c’est en cela qu’il est un sujet de droit. Qu’il tienne ou pas cette promesse est, après tout, secondaire, car ce qui nous intéresse ici est tout ce qui sépare cette propension sincère à la promesse de l’exécution de l’effectuation d’actions intégralement calculables, prévisibles, programmables.

        Ce qui s’accomplit dans le droit est cette aptitude de l’être humain à se renouveler, à se fixer un cap, à se réinventer soi-même comme processus de convergence de toutes ses attitudes vers la ligne de fuite d’un seul point d’horizon. C’est d’ailleurs exactement ce qui donne à cette notion de « droiture » un sens aussi géométrique que juridique ou légal. De ce que j’ai été tel ou tel il ne s’ensuit pas que je serai identique à ce que je fus car à compter de la promesse quelque chose de nouveau se profile, comme un nouvel être que l’on s’engage à devenir.

         

                   Pour le dire plus simplement la distinction entre le fait et le droit est cruciale parce que le droit est une fiction. Il s’inscrit au coeur de l’homme comme cette ligne d’horizon qui fait sens entre ce qu’il fut et ce qu’il n’est pas encore, peut-être ce qu’il ne sera jamais, mais sans quoi il ne serait rien du tout, ou en tout cas serait incapable de faire sens de la dispersion en laquelle consiste sa vie réelle. Les Big data se contentent de collecter les traces de cette dispersion laissées sur le net ou dans les échanges entre collègues via le numérique pour les rendre calculables, pour les intégrer dans des stratégies de marché, ce qui ne fait pas sens. Nous aspirons à rendre notre existence lisible comme le serait un récit (donner à sa vie le sens d’une vie lisible) mais cette ambition se confronte aujourd’hui à tout ce qui ne vise qu’à le rendre traçable, les sociétés dites de « contrôle », pour reprendre le terme que Gilles Deleuze emprunte à William Burroughs.

Conclusion

        Les Big Data, aujourd’hui, remettent totalement en question la nature du rapport que nous entretenions avec les lois, avec l’autorité, avec le pouvoir, avec les notions de normes et de Droit. Une vision totalement fausse et erronée de notre rapport aux lois consiste à la poser comme une contrainte alors qu’elle est une obligation. Avec Kant et son fameux exemple, nous percevons que le devoir est exactement cette obligation qui nous rend libres, libres de nous soustraire aux ordres malveillants d’un Prince malhonnête. Cela signifie que finalement le droit, c’est justement cette aptitude à trouver dans une situation bloquée de fait un espace fictif de devoir. Par conséquent il est absolument inconcevable d’envisager l’existence du droit sans le poser d’abord à partir de cette distinction du fait et du droit. Le droit c’est ce qui s’impose à nous quand les faits ne suffisent pas à nous imposer une attitude. Nous devrions tous porter ce faux témoignage contre un homme de bien si nous en restions aux faits. Et pourtant nous nous reconnaissons tous une marge de décision là où factuellement il n’y en a aucune. Ce qui se produit aujourd’hui c’est la substitution de la notion de « donnée brute » à celle de « fait ». Jusque là, les objets techniques s’imposaient à la nature. Aujourd’hui, l’instrument numérique via les Big Data se substitue au réel, crée un cadre, un support à la vie humaine sur lequel cette vie n’est pas seulement répercutée mais aussi anticipée, encadrée, administrée et finalement orientée, manipulée jusqu’à la rendre illisible, privée de sens.

                    Pour illustrer parfaitement la nature des problèmes posés par cette anticipation des comportements que les big Data rendent possibles, on peut citer un film adapté d’un livre de Philippe K Dick « Minority report » et une série « person of interest ». Finalement chacune dans des styles différents, ces deux fictions interrogent la distinction entre ce qui est prédictible avec une marge d’erreur très faible et ce qui se passe. Dans « minority report », la société de contrôle, la collecte  et l’analyse des données sont assez importantes pour qu’un ordinateur super puissant prévoit l’endroit où un crime va se produire, avec une marge d’erreur infime et une brigade intervient juste avant le passage à l’acte. Le crime est prévu. Il est là inscrit dans les données, dans les antécédents, dans les mouvements, dans l’enregistrement de tout ce qui définit tel ou tel individu. Il ne peut pas ne pas se produire mais en même temps il ne s’est pas produit, au sens pur du terme. Si les faits deviennent assez prédictibles pour que l’on puisse juger celles et ceux qui les commettent avant qu’ils les commettent, serions nous en droit de les sanctionner pour un crime qu’ils n’ont pas encore commis?

 

Et pour l'année aussi!

Bonne continuation 

à toutes et tous!

POUR CETTE CHUPER ANNEE

QU'ON A PACHE ENSEMBLE!

                                 YOU KNOW WHAT? 
                                BE HAPPY!
                                                                 (et si vous voulez encore plus de philo
                                   DITES- LE MOI!) 

Séance du 10/06/2020 CALM (Cours A La Maison) - 1ere 3: 1h

    

   

Bonjour à toutes et à tous,

          La séance d’aujourd’hui ne dira rien de vraiment nouveau par rapport aux séances précédentes. Elle essaiera simplement d’éclaircir les différents éléments déjà évoqués à la fois dans la perspective du cours et aussi dans celle de notre actualité (c’est l’objectif que je m’étais fixé, même si je suis bien conscient que cela peut entraîner des confusions). Je vous remercie pour les remarques que j’ai commencé de recueillir. Elles sont vraiment précieuses et très affûtées. C’est tout à votre honneur. Merci à vous!

    

           

La notion de « représentation » pèse toujours de tout son poids sur ces développements parce qu’elle est liée à la notion d’ « exosomatisation ». Que ce soit dans les domaines de l’art ou dans celui de la technologie, nous consistons dans un mouvement de projection hors de nous d’organes, de facultés, de savoir-faire au fil desquels nous nous constituons des prothèses, des mémoires, des capacités, des artefacts, des pharmaka et de la prolifération de ce corps étrange, exogène dépend notre statut d’humain. C’est cela que nous sommes, mais précisément nous ne le « sommes » jamais vraiment ou plutôt nous ne le sommes jamais définitivement puisque cette prolifération est toujours en mouvement, toujours à parfaire. Ce que nous sommes décrit plutôt le mouvement de ce que, sans cesse, il nous reste à devenir. Etre Humain, c’est avoir à l’être. En d’autres termes, il nous faut renoncer à l’idée que l’espèce humaine serait « élue », ou bien qu’elle aurait un don particulier. La plupart des autres animaux sont endosomatiques. Il existent des animaux qui cultivent des savoir-faire, des pratiques exosomatiques voire qui se les transmettent, tout comme l’homme, mais il n’existe pas de « reptilocène » ou d’ « insectocène », alors qu’il existe «  l’anthropocène », c’est-à-dire une ère climatique extrêmement critique qui voit une espèce impacter la régulation naturelle de la biosphère, du climat et de l’équilibre vital de la planète.

        Quoiqu’en disent quelques climato-sceptiques de plus en plus rares heureusement, l’anthropocène est une réalité sans laquelle il nous serait impossible de  rendre compte de nombreux phénomènes très alarmants qui sont en train de se dérouler.

         

 

                Nous tenons donc ici un trait réellement distinctif de l’Homme, trait qu’il ne faut pas se hâter de condamner. C’est justement là l’esprit de nuance auquel nous invite le concept de « pharmakon ». L’exosomatisation n’est pas « toxique » en elle-même, mais elle peut le devenir. Nous avons toutes les raisons du monde d’avoir honte de l’anthropocène, mais l’exosomatisation n’impliquait pas l’anthropocène. Nous aurions pu éviter cette catastrophe si l’humanité avait fait preuve d’intelligence, de pudeur, de « soin », de maturité et de distance, à l’égard de ces pharmaka. Ainsi par exemple la célébration de la nature et des animaux par l’art définit bel et bien une pratique exosomatique, un art de la représentation qui ne précipite aucunement l’ère de l’anthropocène. L’exosomatisation est notre « lot »: cela signifie que nous sommes une espèce qui semble naturellement vouée à maintenir son devenir dans la vergogne, dans la pratique constante, attentive, d’un « souci de soi », d’une parrêsia (c’est la raison pour laquelle l’appel de Greta Thunberg s’inscrit dans le devenir Humain de l’Humain).
         

           

                       C’est ce qui fait du mythe de Prométhée un récit aussi fascinant, aussi troublant, parce que c’est comme si tout déjà s’y trouvait suggéré, déjà implicitement contenu dans la trame d’une narration fabuleuse. Mais que l’espèce humaine se singularise, se définisse et finalement s’inaugure dans le règne animal par « la faute », par la possibilité de faillir, de n’être pas à la hauteur de ce qu’elle a à être, c’est ce que nous retrouvons dans de très nombreux mythes fondateurs de religions, ou de pratiques rituelles. Le fruit défendu dans la genèse de l’ancien testament n’est finalement rien d’autre qu’un récit qui tourne autour d’un pharmakon: le fruit lui-même.
          

(Un petit aparté ici: la lecture de vos remarques sur les derniers cours m’incitent à insister sur un point qui est revenu souvent sous vos plumes et qui me semblent extrêmement juste et légitime. Plusieurs élèves se disent troublés par des passages qui ne leur apparaissent comme n’étant plus liés au sujet, aux notions du cours lui-même. Il est vrai que j’ai manifesté le désir de relier les tout derniers cours à l’actualité, notamment à la pandémie (on peut être légitimement « sidéré » par le peu d’écho dans les médias « main stream » de l’origine de cette pandémie qui interroge précisément et sans aucune contestation possible l’exploitation humaine des ressources naturelles, la forêt en l’occurrence), cela pose réellement la question de « l’information » qui ne peut plus prétendre à la moindre tentative d’objectivité scientifique - La « honte d’être un Homme » devrait s’exercer « là » et elle ne semble pas le faire ou du moins elle ne le fait pas « radicalement », « universellement ». Cela signifie que la représentation que l’Homme se fait de lui-même médiatiquement n’inclue pas ou plus « la honte », la vergogne. Il me semble que c’est totalement inclus dans le sujet de « la représentation », c’est-à-dire que nous sommes une espèce qui ne se constitue que par la représentation (exosomatisation) mais dont la représentation aujourd’hui ne joue plus son rôle « humain », ne maintient plus l’espèce dans les limites de la vergogne).

            

S’il faut insister autant sur la notion de « pharmakon », c’est d’abord comme il a déjà été dit parce que nous l’avons croisée avec l’écriture. Thamous dit à Teuth venu louer l’invention de l’écriture qu’elle porte en germe un poison: l’absence de travail de la mémoire, une possible dépersonnalisation de la pensée, mais Platon ne veut pas dire ici que l’écriture elle-même serait fondamentalement toxique. S’il le disait, il se contredirait puisque, de fait, il écrit, et heureusement pour nous. L’écriture est une mémoire externe qui peut devenir le support d’une absence d’attention, de soin, de savoir-faire. En un sens, les Big Data, aujourd’hui représentent exactement le poison de l’écriture, le danger extrême de se dispenser de toute réflexion de toute décision, de toute assomption et finalement de toute honte à l’égard de pratiques pourtant honteuses (si ce sujet vous intéresse, il faut regarder la vidéo d’Antoinette Rouvroy que j’explique dans les CALM pour les TL2).

        Mais il y a une autre raison: Pharmakon veut dire à la fois poison et remède, d’une part, et d’autre part, le pharmakon est intimement relié à la notion de culpabilité puisque il signifie AUSSI « le bouc émissaire ». J’insiste sur le AUSSI parce que cela ne veut pas dire que la culpabilité soit le poison. Le fait que le pharmakon soit à la fois un poison et un remède c’est ce qui impose à l’humanité un souci de soi et ce souci de soi impose que nous manifestions toujours à notre égard une attention oscillant entre la fierté et la honte.

       

      Ce qui se passe aujourd’hui, c’est l’émergence d’un tel « mésusage » , d’une telle ignorance de soi que l’on semble bien promouvoir des modes de vie sans vergogne. C’est la prophétie de Nietzsche qui semble se réaliser: l’avènement du dernier des hommes, c’est ce que, dans le cours nous avons illustré par « Buffalo Bill », une sorte de crétin décérébré déchargeant les munitions de sa carabine à répétition sur l’une des seules ressources du peuple indien, les bisons, alors que la chasse revêtait pour ces indiens le sens profond et sacré d’une dépense somptuaire. Ce que nous vivons, c’est la perte de ce sentiment du sacré dans notre rapport aux autres,  notre rapport à soi, notre rapport à la nature. De Buffalo Bill à Donald Trump, c’est l’émergence d’un nouvel homme qui se réalise et il y a fort à parier que ni l’un ni l’autre n’aient lu le mythe de Prométhée, malheureusement.

           

    

     

J’insisterai la semaine prochaine sur le tout dernier point qu’il nous reste à spécifier et à approfondir: celui du terrain sur lequel il convient de mener la lutte (puisque lutte il y a) contre l’avènement de ce dernier homme qui est aussi le dernier des hommes. Greta Thunberg nous l’indique assez clairement en commençant son intervention par « comment osez-vous? », c’est celui de la vergogne. Nous vivons l’utilisation toxique du pharmakon qui tend à éradiquer le sentiment même de honte à l’heure où pourtant il plus urgent qu’à aucun autre moment de notre histoire de la ressentir. Peut-être ne pouvons-nous pas gagner directement sur le terrain de la politique ( mais ici aussi, il y a beaucoup à dire car ce que nous vivons aussi, c’est la disparition de la politique au sens que Hannah Arendt donne à ce terme: « l’émergence de décisions collectives humaines qui aboutissent à des réalités grâce à la parole et à l’action concertées au sein d’un domaine public. C’est finalement la cité grecque, la polis  ») mais nous pouvons œuvrer en vue de la honte, reconquérir le sens de la vergogne, de la pudeur, du féminin, de la parrêsia. Il s’agit d’être « dignes de ce qui nous arrive », c’est le sens profond de ce que veut dire Gilles Deleuze quand il affirme que "la honte d’être un Homme doit être la motivation la plus profonde de la philosophie et de l’Art".

  Nous y reviendrons mercredi prochain, la séance de demain et celle de jeudi prochain étant annulées (pour cause de cours en présentiel avec les élèves volontaires de secondes ayant choisi la spécialité HLP en première). Les cours en présentiel avec les élèves volontaires de Première, futurs terminales, auront lieu le 16/06 avec Madame Ehrsam et le 23/06 avec moi.

   

Je vous invite à continuer de m’envoyer les remarques, questions et objections sur les  séances dispensées toute l’année, pointant éventuellement les passages ou les notions sur lesquels vous souhaiteriez revenir. Cela m’est très utile pour rédiger les derniers cours.

      

Un grand MERCI à vous! A très bientôt!

       

Séance du 09/06/2020 CALM (Cours A La Maison) TL2: 1h30

Bonjour à toutes et à tous,

C'est la dernière ligne droite et elle descend sacrément! YAOUOUHHHH!!!!!

C’est bien d’un écrasement du sujet dont il s’agit ici de mesurer l’efficience et les conséquences. La notion de « pharmakon », c’est-à-dire d’artefact consistant directement dans un remède et un poison (poison dont le remède est le poison lui-même mais autrement administré) est intéressant à plaquer sur les propos d’Antoinette Rouvroy parce que les Big Data sont le poison d’instruments numériques qui ne sont pas en eux-mêmes toxiques et même la pratique statistique ne doit pas être considérée comme nuisible ou dangereuse en elle-même. Mais quelle est la différence entre la statistique traditionnelle et la statistique des data mining (extraction de connaissances à partir de données)?
- D’abord la finalité: les statistiques traditionnelles visent à objectiver des hypothèses à partir de données alors que dans les big data, il n’y a pas d’hypothèses, tout est récolté et on fait tourner des algorithmes sur cette masse et on fait surgir des données des hypothèses. C’est une inversion complète de la pratique scientifique telle que Kant la définissait dans la préface à la seconde édition de la critique de la raison pure. Ce n’est pas la pensée qui élabore d’abord des hypothèses que les data infirmeraient ou confirmeraient ensuite. On part des données pour élaborer à partir d’elles des hypothèses.
         

Cela signifie en droit qu’aucun principe de droit dans la sélection ne peut prévaloir. Tout est récolté indifféremment. Il s’agit de faire surgir les catégories des données recueillies et non d’aborder les données à partir des catégories or ce processus coupe l’herbe sous le pied de la critique, puisque la critique selon Foucault s’adresse à la manière dont se forme les catégories à partir desquelles on perçoit le monde. Ici cette critique, au sens philosophique du terme n’est plus possible. La production automatique des catégories rend la critique inopérante et en même temps comme ces catégories s’adapte en temps réel aux données, sont finalement données en même temps qu’elles. Cela signifie que la gouvernementalité algorithmique effectue une espèce de critique toujours en marche « déjà ». On a affaire à un métabolisme inhérent à la vie même, à une normativité immanente. Les normes émanent de la vie et du coup ne sont plus contestables. En fait on pourrait dire que « c’est comme ça »: comme les catégories que l’on pourrait critiquer sont construites en même temps que les données que l’on est sensé analyser à partir de ces catégories.
                  Le benchmarking (analyse comparative de la concurrence sur un marché) a pour finalité de rendre comparable des travaux, des métiers, des pratiques pourtant incommensurables en elles-mêmes (performances de deux chercheurs dans des domaines différents). On fait donc des conventions de quantification qui vont permettre d’évaluer deux performances de nature distincte comparables. L’objectif de cette démarche est de pouvoir en discuter en posant des « conventions ». Ça c’est de la statistique traditionnelle mais pour les big data, il n’y a aucune convention. Cela veut dire que l’on ne cherche pas du tout à mettre sur un plan de comparaison possible deux démarches distinctes. Les évènements du monde sont imprévisibles et incommensurables. Les normes viennent purement et simplement des données qu’elles sont pourtant censées « subsumer », c’est-à-dire ordonner. En d’autres termes dans les big data les catégories au travers desquelles on est censé classer les données se constituent en temps réel en même temps que ces données elles-mêmes.
   

Ensuite ce qui distingue les statistiques traditionnelles des statistiques du data mining c’est la notion de « moyenne »  qui disparaît avec les big data. Antoinette Rouvroy utilise la référence à un écrivain: Robert Musil, et à son livre: « l’homme sans qualités » pour pointer la notion de moyenne et de sélectivité. Dans les statistiques classiques, il y a un principe de sélection (alors qu’il n’y en a pas dans les big data qui recueille tout indifféremment) et il y a aussi un principe de resserrement des données des chiffres autour d’une moyenne. Les écarts par rapport à la moyenne n’entrent pas en ligne de compte. C’est l’incitation que l’on entend parfois qui nous conseille de ne pas vraiment prendre en compte les statistiques puisque elle valent « pour la moyenne », « globalement », mais jamais précisément, un peu comme si elles ne s’appliquaient pas aux cas particuliers. Dans les big data, il n’y a plus vraiment de moyenne, d’enseignements généraux puisque les données grossissent exponentiellement constamment de microseconde en microseconde. La valeur moyenne n’a plus de raison d’être. Les modèles statistiques valent donc pour les cas les plus singuliers, ce qui rend possible de faire de la personnalisation à l’échelle industrielle. Ce point est vraiment fondamental. Les big data s’adaptent à chaque profil mais en même temps ce n’est qu’un profil. On crée des profils de consommateurs qui peuvent correspondre à des cas précis mais en même temps au gré d’une sérialité de production en masse. Les big data permettent donc de se dégager de l’homme moyen, de l’homme normal. Les big data cassent cette notion de normalité, comme si on pouvait posséder des données objectives.  
 Les catégorisations algorithmiques deviennent donc indiscutables puisque elles cassent cette notion de norme à partir de laquelle on aurait pu les contester. Or Antoinette Rouvroy adresse ici une première critique très pertinente à cette procédure, à savoir que c’est justement parce qu’on ne peut pas les contester qu’elles ne sont pas légitimes. C’est le critère de la discutabilité, assez proche de celui de la falsifiabilité en sciences (Karl Popper). Les Big Data s’imposent comme réelles en dehors de toute remise en question possible.
  

            La question se pose donc maintenant de savoir comment ces big data constituent cette gouvernementalité algorithmique, comment jouent-elles sur l’avenir? Comment modélisent-les des comportements dans une perspective préventive aussi bien en justice que pour les assurances, etc. Est-ce que ça gouverne vraiment? L’attention que l’on pourrait porter à la dangerosité par rapport aux faits n’est pas nouvelle en soi. Antoinette Rouvroy évoque ici cette attention portée par la justice  à la menace de certains individus présumés dangereux avant même qu’ils ne passent à l’acte. Mais il y a une différence entre ce souci qui a vu le jour dés le 19e siècle et des lois nouvelles nées du terrorisme portant sur des individus présentant le risque d’être radicalisés. La différence est celle qui sépare la prévision de la préemption. Il ne s’agit pas de réformer l’individu dangereux mais de devancer (préempter, c’est « agir avant » alors que prévoir c’est  seulement penser quelque chose avant que cela se produise).
         

Par conséquent, nous ne sommes pas très loin de Minority Report. Les Big Data légitiment que l’on agisse préalablement à une action qui n’a pas encore été effectuée. On considère comme déjà advenue une action qui dans la réalité n’est encore que possible. Prenons l’exemple d’un organisme d’ assurance sur la vie qui va avoir accès aux réseaux sociaux et qui constate que telle ou telle assurée est victime de violence conjugale. Il peut parfaitement considérer que le risque de mort anticipé est réel. Il n’y a plus de calcul de risque. On est passé d’un logique actuarielle à une logique post-actuarielle. On considère cette personne comme déjà morte quasiment.  On peut ainsi faire monter les primes indifféremment. Cet espace vide laissé par la norme ouvre ainsi la place à l’appétit de toutes les personnes qui peuvent tirer un parti financier de l’exploitation des données. Toute demande du client doit être satisfaite et tout bénéfice moral ou pas doit être enregistré. On est dans une culture de la pure opportunité.
         

Comment est-ce que ça gouverne, la gouvernementalité algorithmique? Pour Foucault, ce qui gouverne c’est ce qui structure par avance le champ d’action d’autrui. Donc la publicité, l’architecture, la politique dans une certaine mesure, les médias pratiquent une certaine gouvernementalité. Mais ce qui est en train de se produire par les Big Data, c’est que ce n’est plus le réel, l’actuel,  ce qui se produit, qui gouverne mais seulement ce qui est possible. Un individu peut être arrêté, interrogé à cause d’une présomption de terrorisme. Une prime peut être augmentée à cause d’une suspicion née de telle ou telle trace recueillie sur le réseau social. C’est la potentialité pure qui gouverne. Ce qui gouverne c’est le virtuel c’est-à-dire personne, autrement dit ce ne sont plus des corps réels, physiques, humains qui gouvernent, mais un corps impalpable, numérique, statistique qui est supra-individuel, composé par une infinité de données qui annule la notion de sujet, d’ipséïté.
        Cette gouvernementalité désubjectivée, impersonnelle nous dirige sans récalcitrance mais elle nous affecte en en ce sens qu’elle travaille l’avenir. Ce qui est visé , attaqué, réduit, c’est notre capacité à ne pas être là où nous  sommes attendus. A partir du moment où la seule possibilité que l’on devienne terroriste suffit à ce que vous soyez considéré comme en étant un, on vous dénie le droit de ne pas être ce qu’il est possible que vous soyez. Ce n’est plus le passage à l’acte qui compte, c’est la possibilité du passage à l’acte qui prime.
        Cette suspicion peut donner lieu à une surveillance, à un contrôle doté d’une certaine puissance d’affectation réelle. Il convient donc de faire une critique de cette gouvernementalité algorithmique. Mais cette critique n’est pas évidente parce que ce mode de gouvernement traverse toutes les catégories de telle sorte que l’on ne peut pas imaginer une action collective contre lui. Il ne stigmatise aucune catégorie en particulier. On ne peut pas la suspecter de racisme ou de sexisme. Peut-être correspond-t-elle finalement à quelque chose que l’on a toujours voulu. On est ramené à un profil mais après tout, comme on fait nécessairement partie de ces profils, on ne peut pas vouloir ne pas être profilé puisque cela reviendrait à ne pas se vouloir soi-même. Cela dit justement il va de soi que ce profil n’est pas moi-même, c’est tout le danger. On adhère à une image de soi qui semble correspondre mais qui en même temps ne peut absolument pas être moi au sens d’ipséïté. C’est la raison pour laquelle il faut critiquer l’idéologie des Big Data. Il y a une prétention à l’exhaustivité contre laquelle il faut lutter. Il est faux de penser que les big data numérisent tout ou que tout soit numérisable. Nos rêves ne le sont pas, nos peines, nos joies ne sont pas numérisables non plus. C’est ce que l’on peut appeler « l’innéfectué ». Tout ce qui disparaît avec ce processus de substitution de la réalité physique au profit des données numériques, c’est l’écart entre le monde et sa représentation, la distinction entre le fait et le droit, c’est la possibilité de se dire que l’objectivité n’est pas la justice. L’assureur qui exclue les clients qui risquent des violences conjugales adopte un point de vue rentable mais absolument abject d’un point de vue éthique, du point de vue de la justice sociale.
         

La question est aussi celle de la production de catégories immanentes  à la collection des données faites par la machine. Cela revient à confier à des machines ce qui relevait avant de la politique au sens pur et noble du terme, « décider ensemble », faire advenir une réalité humaine par la parole et par l’action (Hannah Arendt). On laisse finalement les machines décider des critères de dangerosité, de mérite de désidérabilité des individus. C’est bien l’enjeu de ce qui se passe aujourd’hui.
        La conclusion de cette intervention porte sur le véritable enjeu des Big Data. Elles nous dispensent de décider. Il faut réassurer cette fonction là. Or toute décision implique l’incertitude et la nature non prédictive de l’avenir parce que lorsque l’avenir est programmable, prédictible, il n’y a pas de décision, de « pari ». Une décision suppose une prise de risque. Si l’on ne fait qu’agir en situation de certitude, on ne fait que suivre ce dont on pense (probablement à tort) que cela va nécessairement se produire. Antoinette Rouvroy conclue sur une phrase du philosophe Giorgio Agamben: « ce qui compte c’est de se tenir dans une relation juste par rapport à notre propre ignorance. » Cette justesse est menacée par la prétention à l’objectivité et à l’anticipation du réel par les Big Data.

Récapitulons:    Je souhaiterai d’abord mettre clairement en perspective l’intervention d’Antoinette Rouvroy par rapport à la plupart des notions que nous avons explorées dernièrement depuis le confinement. Elles sont toutes à mettre en rapport avec deux « moments-clé » qui sont très liés: l’avènement du dernier des hommes dont nous parle Nietzsche dans « Ainsi parlait Zarathoustra » et « l’anthropocène » qu’évoque notamment Bernard Stiegler dans le sillage médiatique de Greta Thunberg. Il s’agit dans les deux cas de pointer un danger et éventuellement de déterminer une attitude.
        Gilles Deleuze  avait évoqué la succession de trois types de société: celles que l’on peut dire de souveraineté, celles qu’il qualifie de  « disciplinaires » et enfin celles que l’on peut qualifier « de contrôle ». L’illustration la plus parfaite des sociétés de contrôle est l’appli téléchargeable du covid 19 qui nous avertit si nous sommes en présence d’une personne que l’hôpital a enregistré comme contaminée. Que nous acceptions cette mesure au nom d’un protocole sanitaire certes légitime mais extrêmement invasif et stigmatisant sans réagir pose vraiment problème et atteste de la justesse de la prophétie de Gilles Deleuze.
        C’est à la lumière de ce climat qui nous met directement en prise  avec l’actualité la plus récente ainsi qu’avec de nombreuses références étudiées cette année qu’il faut situer les paroles d’Antoinette Rouvroy.
        Ce qui est extrêmement intéressant ici c’est aussi le fait qu’elle soit juriste de formation. Elle n’est pas philosophe mais le fait que cette question des sociétés de contrôle et de l’influence des Big data sur notre vie la plus quotidienne soit ainsi au croisement de plusieurs disciplines prouve son urgence et sa gravité.
       

Aussi durs que soient certaines régimes de gouvernementalité politique, ils sont identifiables. Il nous est possible de situer leur influence et les dommages qu’ils créent mais la gouvernementalité algorithmique consiste dans un autre type de pouvoir, un pouvoir sans autorité visible, indétectable, et c’est en cela qu’elle requiert de nous une attention, une sensibilité vive, travaillée, alertée. En fait il n’est pas du tout sûr que les personnes qui tirent avantage de cette gouvernementalité algorithmique, et l’on pense évidemment en premier lieu aux PDG des GAFA, aient vraiment conscience de ce qu’implique ce bouleversement dans l’histoire même de l’humanité car c’est bien de cela dont il est question et Madame Rouvroy nous permet de le saisir notamment grâce à cette formulation-choc:  la gouvernementalité algorithmique est celle d’une fiabilité sans vérité, d’une personnalisation sans sujet et d’un pouvoir sans autorité.
- Une fiabilité sans vérité: les données recueillies sont très fiables voire même d’une efficacité sans équivalent, simplement elle ne décrivent pas la relation à un fait mais plutôt à des « informations », à des indications, à des « signaux ». Dire la vérité c’est émettre une proposition qui correspond effectivement à un état de fait. Je dis la vérité quand disant qu’il pleut, il pleut effectivement. Mais ce n’est plus du tout le problème ici. La question n’est pas de connaître les faits, de poser l’équivalence entre une proposition et un fait, mais de collecter des masses incroyables de données que l’on va pouvoir interpréter au gré d’une multitude de questions, avec une fiabilité certaine mais en l’absence de toute relation authentique au vrai.
 

- Une personnalisation sans sujet: les Big Data nous analysent, nous observent, nous devinent avec un degré de prédictibilité impressionnant et inconnu jusqu’alors. Qu’est-ce que cela veut dire? Il ne faut pas craindre d’user ici de formulations apparemment ambiguës (avant de les clarifier): elles savent ce que nous allons décider précisément parce qu’elles ne font aucun cas de notre volonté, de notre libre-arbitre, de notre singularité. Nous ne sommes pas un être unique, nous sommes un profil. Le meilleur exemple ici est celui de Facebook: il nous est demandé de constituer, ou d’aider par nos réponses à leurs questions, à composer notre « profil », c’est-à-dire ce qui, via les algorithmes, va nous trouver des « amis », c’est-à-dire créer des intérêts « communs » et ça va « marcher » pour autant que l’alchimie et l’imprévu des rencontres, des situations, du hasard seront totalement éludés, exclus des échanges. Mais n’est-ce pas précisément ce qui définit en fait le fond de la rencontre? Quelque chose ici entre en jeu qui est de l’ordre d’une rationalité sans humanité, ni sensibilité. L’amitié est, au sens littéral du terme, calculée. La simple idée qu’on puisse considérer une relation comme calculable devrait nous dégoûter d’elle, à tout jamais. De plus, il y a des sentiments qui ne se traduisent jamais par des actes et qui n’en demeurent pas moins des sentiments. C’est ce qu’Antoinette Rouvroy appelle l’ineffectué ou le non effectué. Il y a du non effectué dans toute relation humaine, du non avoué, du non dit, du non-fait mais c’est peut-être aussi dans ce fond complexe et diffus de non effectuation que se tissent des liens subtils. Le problème ici n’est pas tant que cette subtilité échappe aux algorithme mais que la plupart des relations qui se tissent soient justement des relations privées de cette subtilité, peut-être donc finalement des fausses relations: deux profils se parlent, échangent sans jamais vraiment s’intéresser à l’autre en tant que tel.
 

- Un pouvoir sans autorité: c’est l’un des aspects les plus troublants et les plus ravageurs. Les données recueillies sont très, très « parlantes ». Elles peuvent être utilisées efficacement dans une multitude de domaines. Qu’est-ce qu’un pouvoir? Ce qui gouverne par avance le champ d’action d’autrui. On ne peut rien imaginer de plus contraignant que le pouvoir de la gouvernementalité algorithmique parce qu’il s’impose à nous d’une façon toujours première et finalement indétectable. Ce n’est pas quelqu’un, un organisme ou des lois illégitimes qui s’imposent à nous en nous disant: « faites ça! », C’est un processus de captation des données qui anticipe et surtout manipule, intercède sur ce que nous voulons de telle sorte que nous pensons vouloir ce qui en réalité a été calculé, recoupé, proposé. L’acte de volonté et de décision a été court-circuité à la racine. Il existe dans le monde un excellent exemple de cette gouvernementalité là qui finalement nous contraint précisément en jouant de la pseudo liberté de consommer. C’est la Corée. Le pouvoir de la Corée du Nord et autoritaire, dictatorial et les libertés y sont presque explicitement réduites à néant. Mais la Corée du Sud n’est pas moins gangrenée par un autre genre de gouvernementalité que politique, celui d’un hyper libéralisme et d’une logique infernale de sur-consommation, de promotion de modèle de vies totalement artificiels, superficiels et contraignants. Entre l’esprit d’agressivité militaire qu’illustre un défilé de l’armée de Kim Jong-Un et les prestations d’ados anorexiques de la K-pop sud-coréenne il n’est pas forcément évident de promouvoir l’une au détriment de l’autre.
 

            Il est enfin un dernier point sur lequel Antoinette Rouvroy nous invite à réfléchir avec beaucoup de gravité, c’est celui de la disparition du fait au profit de la donnée brute. La violence des attentats terroristes aux EU et en Europe a petit à petit rendu effectives des lois et des décrets dont l’effectivité n’est plus contestée. Ce climat à l’égard duquel nous aurions du faire preuve de plus de vigilance a évolué avec l’utilisation banalisée des Big Data vers des mesures parfaitement illégitimes grâce auquel la présomption de collusion avec des terroristes suffit à justifier une arrestation, une incarcération voire suivant la juridiction de certains pays (US) bien pire que cela. Qu’est- ce que cela veut dire clairement? Que « le passage à l’acte » ne constitue pas dans certaines affaires la condition première et minimale de l’arrestation. Le soupçon fort suffit. C’est finalement exactement comme dans Minorité Report, le film inspiré de l’oeuvre de Philippe K. Dick dans lequel on voit une brigade baptisée « pré-crime" qui grâce à des pré-cognitifs, des personnes dotées d’une vision du futur est capable d’arrêter des supposés criminels juste avant qu’ils passent à l’acte. Mais peut-on condamner quelqu’un pour une intention, aussi forte soit-elle? Comment considérer une personne  comme juridiquement responsable d’un acte qu’elle n’a pas encore commis mais dont on pense qu’elle était à deux doigts de le commettre? Déjà Aux EU, les big Data font jouer les statistiques de prévision des crimes pour placer plus d’agents dans tel quartier que dans tel autre. Cela veut dire que l’on considère l’imprévisibilité comme cela même qu’il s’agit d’éradiquer de la vie humaine. Mais qu’est-ce qu’une vie humaine sans imprévisibilité des actions humaines? Ce n’est ni plus  ni moins qu’une matrice.
 

  

Et pour l'année aussi!

Bonne continuation à vous toutes et à vous tous. Merci pour cette année!