Destaques

Rui Alexandre Grácio [2024]

“Pourtant, les technologies trament notre monde depuis si longtemps qu’il est erroné de séparer les humains de leur environnement sociotechnique.”

“Aussi est-il essentiel de comprendre, de discuter et de critiquer la manière dont les algorithmes impriment leurs marques sur nos existences, jusqu’à devenir indiscutables et même invisibles.”

“À partir des politiques néolibérales des années 1980, on assiste à une généralisation de la calculabilité et à une systématisation de la politique des indicateurs. La présence des quantificateurs dans la vie sociale se fait partout sentir. Baromètres, indices et palmarès entreprennent de chiffrer des activités qui, jusqu’alors, n’étaient pas mesurées ou dont la quantification ne faisait pas l’objet d’une attention constante et inquiète.”

“L’objectif de ces indicateurs est moins de connaître le réel que de « conduire les conduites » des individus pour qu’ils le transforment.”

“ Le tournant de la « politique des indicateurs », qui a vu les statistiques descendre dans le monde social, continue d’étendre les dispositifs de commensuration à un nombre toujours plus important de secteurs d’activités5.Aujourd’hui, une nouvelle vague d’extension de la calculabilité est en marche. Son ampleur est inédite et ses conséquences, bien qu’encore difficiles à évaluer, sont considérables. Sur la logique des indicateurs chiffrés se greffe désormais celle du calcul algorithmique embarqué à l’intérieur des interfaces numériques.”

“ Deux dynamiques s’avancent pour nous faire entrer dans cette nouvelle société des calculs.La première est l’accélération du processus de numérisation de nos sociétés, qui nourrit de gigantesques bases de données d’informations, lesquelles n’avaient jamais été enregistrées, rendues accessibles et facilement manipulables.”

“Elle désarme aussi ceux qui entreprennent de critiquer l’avènement de la froide rationalité des calculs, sans chercher à en comprendre le fonctionnement. Par facilité autant que par ignorance, la critique du nouvel empire des calculs s’est réfugiée dans une pseudo-opposition entre les « humains » et les « machines ».”

“La critique de la raison calculatoire ne peut opposer qu’une rêverie pastorale à la marche automatisée des grands systèmes technologiques mondiaux. Pour vraiment critiquer une dynamique qui possède de si puissants moteurs économiques et culturels, il est nécessaire d’entrer dans les calculs, d’explorer leurs rouages et d’identifier leurs visions du monde. Avant de réduire la logique calculatoire aux intérêts économiques de ceux qui la fabriquent, il faut commencer par allonger les algorithmes sur le divan et entendre la variété de leurs désirs. Cet examen est indispensable si l’on veut débattre publiquement des calculs que nous voulons et de ceux dont nous ne voulons pas, contrôler leurs agissements et leur opposer des calculs alternatifs. Une radiographie critique des algorithmes est un enjeu démocratique aussi essentiel qu’inaperçu.”

“Mais le propos de ce livre n’est pas mathématique : il est pleinement politique. La manière dont nous fabriquons les outils de calculs, dont ils produisent des significations, dont nous utilisons leurs résultats, trame les mondes sociaux dans lesquels nous sommes amenés à vivre, à penser et à juger. Les calculs habitent nos sociétés bien plus centralement que ne l’imaginent ceux qui voudraient les réduire à des fonctions mathématiques et rejeter la technique hors de la société, comme un alien menaçant. Les calculateurs fabriquent notre réel, l’organisent et l’orientent. Ils produisent des conventions et des systèmes d’équivalence qui sélectionnent certains objets au détriment d’autres, imposent une hiérarchisation des valeurs qui en vient progressivement à dessiner les cadres cognitifs et culturels de nos sociétés.”

“Ces manières de chiffrer l’information font souvent l’objet de critiques. Elles enferment les individus dans la bulle de leurs propres choix, plient leur destin dans l’entonnoir du probable et nourrissent la précision du ciblage d’une capture disproportionnée d’informations personnelles. Mais elles n’adviennent que parce qu’elles font écho à des transformations des modes de vie et des aspirations que suscitent les processus d’individualisation de nos sociétés. La thèse de ce livre est que, si les logiques de personnalisation s’installent aujourd’hui dans nos vies, c’est parce qu’elles calculent une forme nouvelle du social, la société des comportements, où se recompose la relation entre le centre de la société et des individus de plus en plus autonomes.”

“ les corrélations statistiques ne vont plus de la cause vers la conséquence, mais remontent des conséquences vers une estimation des causes probables.”

“Les « vérités » statistiques sont devenues instrumentales : ce n’est plus la valeur propre du chiffre qui importe, mais l’évolution de la valeur mesurée entre deux enregistrements. « Dès qu’une mesure devient un objectif, elle cesse d’être une bonne mesure », souligne la fameuse loi de Goodhart5. Mais une autre finalité a été assignée aux indicateurs : rendre les acteurs calculateurs en les insérant dans un environnement qui leur dicte les manières de se mesurer tout en leur laissant une certaine autonomie. Mal reliés entre eux, les indicateurs en batterie ne font plus système. L’expertise calculatoire se substitue à l’autorité professionnelle. Le fait que les mesures soient fausses n’est plus considéré comme un problème.”

“Les big data réaniment le projet d’objectivité instrumentale des sciences de la nature, mais cette fois sans le laboratoire : c’est le monde qui devient directement mesurable et calculable.”

“Le tournant économétrique de la statistique nationale a ainsi préparé le terrain au déploiement des calculateurs numériques des big data issus de la physique des grands nombres. Puisque les ressources informatiques le permettent désormais, il n’est plus nécessaire d’affiner les modèles pour assécher la corrélation entre les variables qui lui servent d’hypothèses. Il suffit de demander à la machine de tester toutes les corrélations possibles entre un nombre toujours plus grand de variables. Le modèle n’est plus une entrée dans le calcul, mais une sortie.”

“ les corrélations n’ont pas besoin de causes. Dans un article qui a fait grand bruit, Chris Anderson, un des gourous de la Silicon Valley, a annoncé la « fin de la théorie ». Les calculateurs des big data, explique-t-il, peuvent désormais chercher des corrélations sans se préoccuper d’avoir un modèle qui leur donne une explication. Les données massives et les mathématiques permettraient de faire l’économie des sciences de l’homme.”

“À une théorie unifiée des comportements, les calculateurs substituent une mosaïque constamment révisable de micro-théories contingentes articulant des pseudo-explications locales des conduites probables. Ces calculs sont destinés à guider nos conduites vers les objets les plus probables : ils n’ont pas besoin d’être compris et, très souvent, ils ne peuvent l’être. Cette manière inversée de fabriquer le social témoigne du renversement de la causalité opéré par le calcul statistique pour faire face à l’individualisation de nos sociétés et à l’indétermination de plus en plus grande des déterminants de nos actions. Il est en effet frappant de constater que les logiques actuelles des calculateurs cherchent à redonner des cadres à la société, mais, en quelque sorte, à l’envers et par le bas, en partant des comportements individuels pour en inférer ensuite les attributs qui les rendent statistiquement probables.”

“Par ailleurs, les données ne parlent qu’en fonction des questionnements et des intérêts de ceux qui les interrogent.”

“Persuadés que la quantité peut se substituer à la qualité, les zélotes des big data assurent qu’un monde plus mesurable deviendrait aussi plus calculable.”

“Pour une large part, l’innovation des big data réside dans ce passage des règles abstraites vers la statistique des contextes. L’enjeu n’est plus d’apprendre aux machines une grande théorie appliquée à peu de données, mais de multiplier les petites théories en demandant à beaucoup de données contextuelles de sélectionner la ou les meilleures d’entre elles. Les capacités de calcul désormais disponibles permettent de tester plusieurs milliers d’hypothèses en même temps.
Mais ceci n’empêche pas de prendre en compte plusieurs théories dans la prédiction ni, surtout, de changer les pondérations affectées aux différentes hypothèses pour chaque profil et chaque contexte d’utilisation.”

“ Le A/B testing, cette technique d’échantillonnage en double aveugle, habituellement utilisée à titre expérimental, conçoit désormais la société comme un laboratoire à grande échelle. Nous sommes leurs cobayes.”

“Si Chris Anderson peut soutenir que les nouveaux algorithmes du web laissent se disputer des milliers de corrélations sans causes, c’est parce que leurs concepteurs font implicitement une hypothèse décisive : ils demandent au caractère régulier et monotone du comportement des utilisateurs de stabiliser les modèles en les aidant à apprendre les bonnes corrélations.
Il y a quelques raisons de trouver que les algorithmes fonctionnent bien lorsqu’ils sont sociologues. Pour Pierre Bourdieu, l’habitus est cette disposition incorporée à travers laquelle la société façonne des choix réguliers et prévisibles, jusque dans les plus petites anfractuosités du quotidien. Il est à peine inconvenant de dire que les automates fonctionnent en faisant confiance à l’algorithme de leurs utilisateurs, leur habitus. La plupart du temps, les prédictions algorithmiques ne font que confirmer, en leur donnant une amplitude plus ou moins grande, des lois sociales bien connues. ”

“ L’individu des algorithmes est un « dividu », selon l’expression que Gilles Deleuze avait forgée pour imaginer la disparition de l’individu pris dans les flux du contrôle machinique. Il n’a pas d’histoire, pas d’intériorité, pas de représentations ni de projets. Il n’est pas inscrit dans une position, pris dans des rapports sociaux, soumis aux forces multiples qui s’exercent sur lui. Il est ce que trahissent ses comportements dans le miroir que lui tendent les autres. Le comportementalisme algorithmique, c’est ce qui reste de l’habitus lorsqu’on a fait disparaître les structures sociales.”

“C’est en soumettant les modèles à des audits indépendants qu’il est à la fois possible de prendre de la distance à l’égard du verdict des algorithmes et de leur opposer des calculs alternatifs.”

“En alignant leurs calculs personnalisés sur les comportements des internautes, les plateformes ajustent leurs intérêts économiques à la satisfaction de l’utilisateur. Sans doute est-ce à travers cette manière d’entériner l’ordre social en reconduisant les individus vers leurs comportements passés que le calcul algorithmique exerce sa domination. Il prétend leur donner les moyens de se gouverner eux-mêmes ; mais, réduits à leur seule conduite, les individus sont assignés à la reproduction automatique de la société et d’eux-mêmes. Le probable préempte le possible.”

“Les zélotes californiens des big data ont pour projet de refabriquer nos sociétés à partir d’un réel chiffré, plutôt que sur les fondements biaisés des idéologies, des intérêts et des programmes.
Les plus scientistes imaginent un monde enfin rationnel, débarrassé de l’encombrante subjectivité de ceux qui le gouvernent. Les autres promeuvent la vision libertarienne d’une société capable de s’auto-organiser et de sécréter les chiffres qui la représentent, en confiant au marché le soin de refléter ce que les États déforment. Les techniques de calcul mises en œuvre pour réorganiser la société depuis les individus ont pris des formes multiples : les clics des internautes fabriquent de la popularité, les citations hypertextuelles de l’autorité, les échanges entre cercles affinitaires de la réputation, les traces des comportements une prédiction personnalisée et efficace.”

“ Les calculateurs prétendent libérer la société de la « tyrannie du centre ». Pourtant, cette émancipation, par l’intermédiaire de mesures qui s’exercent sous la tutelle des intérêts économiques, continue de produire des effets de centralité d’autant plus forts qu’ils se sont largement émancipés des cadres nationaux pour devenir globaux. Le paradoxe de la société des calculs est qu’elle amplifie les phénomènes de coordination de l’attention et de hiérarchisation du mérite, tout en permettant aux individus de se sentir de plus en plus libres de leurs choix. En fait, les calculateurs donnent à la société les moyens de reproduire d’elle-même les inégalités et les hiérarchies qui l’habitent. Plus que jamais, il importe de savoir à quoi rêvent les algorithmes.”

“Classements de grandes écoles, cours en ligne assurés par les meilleures universités, notations financières, constitution de pôles d’excellence, palmarès international des systèmes scolaires ou médicaux, ces nouvelles mesures d’autorité s’émancipent des contextes dans lesquels les activités étaient traditionnellement mesurées avant d’être comparées à d’autres. L’autorité des excellents fabrique « des gagnants individualisés et des perdants invisibilisés12 » en demandant aux perdants de produire les signes de reconnaissance qui donnent aux gagnants l’illusion d’être propriétaires de leurs qualités. Dès lors, la redistribution des positions sociales par la reconnaissance du mérite permet aux excellents de faire sécession. Dans ce grand écart, nos sociétés sont en train d’oublier la moyenne.”

“Sans doute le rêve ultime des nouveaux calculs est-il d’installer un environnement technique invisible permettant partout et pour tout de nous orienter sans nous contraindre. Amatrice de science-fiction, la critique des algorithmes dramatise à l’envi les risques totalitaires d’une rationalisation des existences.”

“Plutôt que de dramatiser le conflit entre les humains et les machines, il est plus judicieux de les considérer comme un couple qui ne cesse de rétroagir et de s’influencer mutuellement. La société des calculs réalise un couplage nouveau entre une puissance d’agir de plus en plus forte des individus et des systèmes sociotechniques imposant, eux aussi, des architectures de plus en plus fortes. Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements.”

“ Les calculateurs ont apporté une solution originale et audacieuse à cette désorientation. Ils constituent un moyen efficace pour trier dans l’abondance d’informations disponibles et pour guider l’utilisateur vers ses propres choix.”

“Table des matières
Comprendre la révolution des calculs
CHAPITRE PREMIER. Quatre familles de calcul numérique
CHAPITRE 2. La révolution dans les calculs
CHAPITRE 3. Les signaux et les traces
CHAPITRE 4. La société des calculs
La route et le paysage”