Source : Concordance.info
D'abord il y a l'euphémisation. La novlangue. La guerre c'est la paix. D'abord on ne parle plus de vidéo-surveillance mais de vidéo-protection.
Et bien sûr comme à chaque fois tout commence là. Quand la barrière de
la langue est levée, quand les mots sont suffisamment travestis pour ne
plus dire le vrai en se mettant au service d'une idéologie et d'un
marché, alors toutes les digues cèdent. Les unes après les autres.
Toutes, je dis bien toutes, toutes les
études scientifiques qui se sont penchées sur ce marché pour en mesurer
l'efficacité, toutes sont unanimes pour pointer le fait que la chose que
ces caméras de surveillance protègent le mieux, ce sont les intérêts
dudit marché.
Il y a 10 ans déjà, la vidéo-surveillance était un mirage technologique et politique. Dix ans plus tard c'est le cauchemar Orwellien qui est là, lui qui n'était pourtant pas supposé être un manuel d'instructions.
A Nice on apprend que "les passagers du tramway sont filmés par un système qui lit les émotions sur leur visage pour détecter toute situation anormale." C'est une filiale d'Engie qui s'y colle. Plus loin dans l'article du Monde, mais toujours à Nice on apprend encore que :
"le conseil municipal a voté, en juin, l’expérimentation d’une batterie de solutions safe city avec Thales, à la tête d’un consortium de quinze sociétés spécialisées dans l’analyse des réseaux sociaux, la géolocalisation, la biométrie ou la simulation de foules."
Je rappelle qu'en Chine, en plus du déjà tristement célèbre système de "Social Credit Score", on découvrait récemment des projets gouvernementaux de surveillance permettant de déployer :
"des capteurs cérébraux ("Brain-reading technology") pour détecter les changements d'état émotionnel des employés sur les chaînes de production, dans l'armée et dans les postes de pilotage de trains à haute-vitesse."
En Chine. En 2018. Et donc à Nice, en 2018 toujours, tout le monde à l'air de trouve ça normal que "les
passagers du tramway soient filmés par un système qui lit les émotions
sur leur visage pour détecter toute situation anormale."
Le panoptique de la panique.
Partout les espaces publics ou privés,
urbains ou campagnards se rêvent en panoptiques, partout les
investisseurs sont au rendez-vous, partout les politiques sont au garde à
vous, partout tout le monde trouve ça "smart", parce qu'il y a "de
l'IA" et du "Big Data", bé ouais coco, c'est la Tech-Town, la Smart-city
quoi. Partout, chaque jour, l'espace public recule de manière dramatique. Car il n'est d'espace public que celui qui peut échapper structurellement à l'enregistrement et à la captation privée.
La Smart-City c'est le monde miroir du
panoptique Facebook : la superposition d'un espace réel de contrôle
permanent à un espace virtuel de contrôle permanent. Il en est que cette
perspective excite, elle devrait individuellement nous navrer et
collectivement nous alarmer.
Car si l'argument sécuritaire du
panoptique joue sur les ressorts de la panique de ce que pourrait être
un monde laissé sans surveillance, la seule vraie cause de panique est
celle qui fait que nous assistons impuissants à un double mouvement de
systématisation et d'anecdotisation des régimes de surveillance. Et ce
alors même que partout dans le monde une crise politique globale porte
au pouvoir des régimes de plus en plus explicitement autoritaires et
anti-démocratiques. Nous sommes en train de construire les
infrastructures nécessaires à des lendemains d'oppression que nous
n'avons même plus l'air de craindre tant ils paraissent irrémédiables.
La résignation est le poison de ce monde
vidéo-surveillé, l'oppression son modèle économique, et l'assignation
son paradigme (assignation à consommer, à résider, à se déplacer dans
des espaces contraints selon des trajets qui le sont également, et ainsi
de suite).
Comme dans tout naufrage, il existe
heureusement encore quelques poches d'air qui permettent d'espérer. Au
moins temporairement. Ainsi le
contrat qui mettait à disposition de la police d'Orlando la technologie
de reconnaissance faciale mise au point par Amazon a été dénoncé par des dizaines d'associations de défense des libertés mais également par les employés d'Amazon eux-mêmes.
Et à chaque fois, à chaque fois le même argument,
qui tourne en boucle, tant du côté de ceux qui veulent surveiller tout
le monde que de ceux qui leur en fournissent les moyens :"La ville d’Orlando est constamment à la recherche de nouvelles solutions pour assurer la sécurité de nos résidents et nos visiteurs. Mener des partenariats avec des entreprises innovantes pour tester leurs dernières technologies – tout en nous assurant du respect des lois sur la vie privée – est crucial."
Renforcer la sécurité et en même temps respecter non pas la vie privée mais "les lois sur la vie privée".
Nuance. Car bien sûr à l'échelle de la massification du déploiement de
ces technologies de surveillance et au regard de ce qu'elles permettent
désormais de faire "à la volée" et en temps réel dans le domaine par
exemple de la reconnaissance automatique de visage, affirmer qu'elles
sont compatibles avec une quelconque forme de respect de la vie privée à
autant de sens que de prétendre qu'une coloscopie est nécessaire et
utile pour réaliser un fond d'oeil.
En fait la vidéo-surveillance et la
reconnaissance faciale c'est toujours la même histoire : au début tu
commences par t'en servir pour identifier les invités à une fête,
ensuite tu mets ta technologie au service de la police de ton pays ou de
ton état, et puis à la fin ça finit toujours par retomber sur les
immigrés. Simple, basique. Et authentique. Au final, ceux qui ont pour seul tort d'avoir une couleur de peau différente de celle de ceux qui les surveillent sont les premiers à faire les frais de ces systèmes profondément et structurellement pervers. Reconnaissance faciale et discrimination ethnique sont les deux faces d'une même médaille.
Et maintenant : devinette.
Quelle est la différence entre Christian Estrosi et Taylor Swift ?
Aucune. Tous les deux sont des maniaco-dépressifs du contrôle et de la vidéo-surveillance.
Côté Estrosi, sa dernière trouvaille est de permettre à deux lycées de Marseille et de Nice de tester la reconnaissance faciale comme "outil anti-intrusion".
Ahem. Là on ne parle pas de caméras installées au dessus du parking à
vélos hein, on parle d'un portique qui va scanner tous les jours tous
les visages de tous les élèves pour leur permettre d'entrer. Ahem. Ahem.
Mais bon tout va bien puisque la CNIL a donné non pas son aval mais son
"avis" sur l'expérimentation, lequel "avis" était positif, et que "la
communauté pédagogique" à également, nous dit-on, donné son accord.
AHEM. Je sais pas ce qu'ils fument en ce moment à la CNIL mais va quand
même sérieusement falloir qu'ils arrêtent.
Numerama a publié un papier très complet
sur le "mais bordel comment ça va se passer" dans lequel on apprend
notamment que cela ne concernera (au début en tout cas) que les élèves
volontaires et avec l'aval des familles concernées :
"Le lycée proposera une file d’attente distincte pour les élèves volontaires, de sorte à ce que leurs camarades ne soient pas filmés sans consentement. Les participants enregistreront leur profil biométrique, qui sera retranscris sur un badge. La forme de celui-ci, QR code sur smartphone ou badge physique, n’est pas clairement communiquée."
Il paraît aussi que Cisco (le prestataire de service) n'aura pas accès aux données biométriques captées par son portail à l'aide de son logiciel faisant tourner sa technologie de reconnaissance faciale :
"le lycéen valide son badge à une borne lorsqu’il entre, et les caméras confirment que le profil enregistré correspond à celui à l’image. Mais elles ne devraient pas conserver de données, et seulement opérer localement. Les lycéens garderont la main sur les gabarits faciaux enregistrés dans leur support individuel, et Cisco ne devrait pas y avoir accès."
Vous noterez l'emploi du conditionnel de
circonstance. Et une fois fait, vous pourrez insérer ici un grand éclat
de rire ou un grand coup de pied dans la gueule du premier truc qui
passera non loin du susdit pied.
<Anecdote personnelle enrichissante>
Moi personnellement j'ai des enfants, et il est vrai que je suis un
lâche. Lorsque dans le petit bled de campagne où est implanté leur
collège tout neuf, la "biométrie" a fait son apparition sous la forme
d'une empreinte de la main (ou du pouce) permettant d'aller se gaver de
frites et de ketchup dans ce paradis de l'orgasme gustatif qu'est "LE
SELF", j'ai gueulé. J'ai filé 10 balles à La Quadrature du Net pour me détendre (et parce que c'est super important). J'ai dit à la réunion des parents d'élèves que :
"hum, bon ben quand même certes y'a des choses plus graves mais quand même le fichage biométrique dès la 6ème pour accéder au self alors même que tout le monde sait que ce pignouf de Jonathan le pion neurasthénique (les prénoms ont été changés) il part fumer des clopes plutôt que d'empêcher les 3èmes de piétiner les 6èmes à l'entrée du Self, hein, quand même quoi."
Et puis je suis rentré tout fier chez
moi et j'ai commencé à expliquer à ma glorieuse descendance qu'il allait
falloir envisager d'entrer en résistance contre ce monde Orwellien tout
pourri. Ce qui a eu pour effet immédiat que le "classe-de-6ème"
concerné s'effondre en larmes en mode "noooon mais je vais être le seuuuuul c'est trop la loooooooose tous mes copains ils ont déjà rempli le papier bouhouhou" et que le "classe-de-4ème" concerné se mette à me promettre de m'éviscérer et que "non
mais c'est quoi cette famille pourrie où déjà on n'a même pas la télé
et où en plus maintenant genre on va trop passer pour des boloss". Je cite de mémoire hein, mais c'est pour restituer l'ambiance.
Le message était donc parfaitement passé
et ma mission éducative de résistance citoyenne s'arrêtait là. J'ai
signé ce putain de papier pour que mes loustics parmi 400 autres mettent
leur doigt (ou leur main) dans un vague scanner avant d'aller bouffer 5
jours sur 7 et je suis retourné filer 10 balles à la Quadrature du net pour me re-calmer. On ne gagne jamais tout seul. Donc allez filer 10 balles à la Quadrature du net et revenez ici. </Anecdote personnelle enrichissante>
Donc Estrosi et la région PACA, ils
collent des portiques à l'entrée des lycées pour faire de la
reconnaissance faciale. Portiques et technologies de l'entreprise CISCO
... Ben oui. Quitte à filer les clés du ministère de la défense à Microsoft, quitte à lui offrir également celles du Ministère de l'éducation nationale,
autant être cohérent en filant le travail de flicage de notre jeunesse à
une autre entreprise américaine. Mais bon, tant que la CNIL a un "avis"
qui est que "faut bien essayer pour voir", tout va bien, c'est cool. Je
vais quand même retourner mettre 10 balles dans le jukebox de la Quadrature du Net mais c'est cool.
Mais quand même. Quand même c'est
vraiment super con que ni Christian Estrosi, ni la CNIL (Commission
Nationale Informatique et Laissez-faire), ni les instances qui ont
permis la mise en place de ce bordel, ni "la communauté éducative"
n'aient pris le temps d'aller lire un article scientifique datant de
2010, écrit par Tanguy Le Goff, en accès libre, et titré : "La vidéosurveillance dans les lycées. De la prévention des intrusions à la régulation des indisciplines".
Ben oui. Tout y est dans cet article de 2010. A commencer par la
démonstration qu'à part pour les vols sur le parking à vélo (et encore)
ça ne marche pas et ça ne donne aucun résultat probant autre que celui,
en effet, de systématiquement finir par réaffecter un système visant à
limiter les intrusions à un système permettant de discipliner les
comportements. Pour ne pas être supposé de tordre la réalité je recopie
ici la conclusion de l'article de Tanguy Le Goff :
"Les résultats de la vidéosurveillance en termes de sécurisation ne sont pourtant guère probants. Son impact dissuasif est très limité sur les intrusions bien qu’il s’agisse de la principale finalité en légitimant l’installation dans un établissement scolaire. Il n’est guère plus probant sur les cambriolages et les vols, hormis ceux commis dans les parkings. En définitive, la finalité pour laquelle la vidéosurveillance donne ses résultats les plus significatifs est le maintien de l’ordre scolaire. Au prix d’un quadrillage de l’ensemble des espaces d’un lycée, elle peut servir d’appui au personnel, aussi bien enseignant que chargé de la vie scolaire, pour contrôler les actes d’indiscipline des élèves. On ne saurait toutefois surévaluer ses effets sur la modélisation des comportements des lycéens et moins encore considérer que la vidéosurveillance constitue un véritable dispositif de sécurité au sens foucaldien du terme. Son utilisation marginale, le caractère occasionnel de la surveillance en temps réel et son absence d’intégration à la politique de gestion de l’ordre scolaire en réduisent fortement les capacités à discipliner les corps."
Le grand danger, huit ans plus tard,
c'est la réalité sociale et technologique qui fait que nous sommes
désormais essentiellement sortis de "l'utilisation marginale" et que
l'ordre du jour est à la capacité à discipliner les comportements et les
corps. Surveiller et punir.
Et puis donc arrive Taylor Swift. Qui lors de l'un de ses concerts, a scanné la totalité de la foule présente pour "identifier ses harceleurs".
(car Taylor Swift a visiblement des gens qui la harcèlent et dont elle
connaît le visage. Bref). Voilà. Concrètement lors de la validation du
billet pour entrer dans le concert, étaient disposés des écrans de télé
qui diffusaient des clips, et que donc les gens faisant la queue
regardaient tranquillou, mais qui étaient en fait des écrans équipés de dispositifs de reconnaissance faciale
et que comme ça on avait bien le temps de bien scanner ton petit visage
tout concentré que tu étais à fixer l'écran. Ha ha ha qu'est-ce qu'on
rigole bien.
Je suis sûr que si Taylor Swift avait demandé la permission à la CNIL ils auraient dit "Wesh
Banco, comme ça en plus on pourra croiser avec la base de Christian
histoire de voir si y'a pas un lycéen de Marseille qui a séché les cours
pour prendre un avion pour assister au concert à Las Vegas." Faut
bien essayer. Bref. Je ne sais pas vous, je ne sais pas si c'est la
période des fêtes ou quoi, mais depuis quelques temps j'ai l'impression
que c'est vraiment tous les jours le Noël de la connerie.
Spéculation faciale.
Je vous ai souvent parlé des travaux de Sushana Zuboff sur le capitalisme de surveillance. Pas plus tard que dans ce dernier billet.
De Google à Facebook, l'ensemble du web a muté d'une économie des
documents (capitalisme linguistique) à une économie des profils
(capitalisme de surveillance donc). Nous sommes aujourd'hui à la phase
d'après. Celle où après avoir mis en place l'essentiel des
infrastructures techniques, physiques ou numériques, d'une surveillance
de chaque individu à chaque instant et dans chaque espace public ou
privé, il faut, pour que le marché tienne et que les actionnaires se
gavent, entretenir la spéculation.
A ce titre, la dernière "création" de la société Nvidia est proprement fascinante. Il s'agit d'une "intelligence
artificielle" (en fait du Deep Learning) capable de créer des visages
"qui n'existent pas" à partir de ceux de vraies personnes (l'article scientifique est disponible sur ArXiv).
On savait déjà reconstituer des (vrais) visages à partir d'un simple brin d'ADN, on disposait également d'immenses bases de données répertoriant, classant et indexant l'ensemble de nos émotions et de leurs traductions en autant d'expressions faciales.
D'une certaine manière il ne manquait plus que cette dernière pièce
dans le grand puzzle du capitalisme de la surveillance : créer des
visages qui n'existent pas. En créer autant que possible. De manière
infinie. Dont certains d'ailleurs finiront, et ce n'est pas le moins
troublant, par être ou devenir de "vrais" visages un peu comme dans le paradoxe du singe savant ou dans la bibliothèque de Babel.
Un nombre infini mais observable,
quantifiable, analysable de visages qui n'existent pas mais pourraient
être utilisés comme autant de masques, de leurres, ou simplement comme
outil de spéculation. Des visages "qui n'existent pas" et qui donc ne
nous appartiennent pas alors même que ceux-là qui nous appartiennent et
nous définissent ne nous appartiennent plus vraiment et sont avant tout devenus "la propriété de plates-formes capitalistes".
Google. Du moteur de recherche à la bourse des mots et à leurs enchères. Capitalisme linguistique. Facebook. Du livre des visages à la bourse des visages. Capitalisme de surveillance. Des ravages du premier nous sommes informés
mais n'avons déjà presque plus de prise sur l'horizon culturel que
dessinent ces architectures techniques toxiques. Des ravages du second
nous paierons le prix fort d'un risque de déshumanisation encore plus
grand.
Lorsque nos mots et nos visages ne
seront plus rien d'autre qu'un marché, lorsque des mécanismes
spéculatifs dits "à haute fréquence" les entraîneront sans que nous ne
puissions plus y prendre part autrement qu'en spectateurs hébétés, la
panique s'emparera du panoptique. Nous n'avons à ce jour aucune idée des
conséquences de l'inévitable Krach qui prendra place après ce vertige.
Mais une société où les mots ont un prix avant d'avoir un sens et où
chaque émotion lue sur un visage ne vaut qu'à proportion de son coût
transactionnel est une société déjà plus que flétrie.
La spéculation sur les mots, leur
appartenance à une sphère essentiellement marchande, est un
appauvrissement mécaniquement proportionnel de la capacité de faire
société. La spéculation sur les visages et sur les émotions qu'ils
expriment est un appauvrissement mécaniquement proportionnel de nos
capacités individuelles et collectives d'empathie. De notre désir même
d'empathie que la spéculation vide de tout sens et de toute nécessité.
Ne reste alors qu'une mécanique sociale vide de sens qui fait le lit de
tous les autoritarismes pour mieux préparer celui de tous les
fascismes.
On ne protège pas une société en ne la
surveillant que pour la conditionner à l'être encore davantage demain.
Et s'il s'agit là du seul projet de société que l'on est en capacité de
porter, de Christian Estrosi à Taylor Swift en passant par l'ensemble de
nos démocraties modernes, alors il ne faut pas s'étonner que les
espaces - physiques ou numériques - qui sont les plus plébiscités et
dans lesquels on semble avoir "plaisir" à se retrouver soient aussi les
plus carcéraux, les plus étouffants et les plus "surveillants". Ce
paradoxe n'est que d'apparence. Car la fabrique du consentement a partie
liée avec la rhétorique de l'enfermement. Dans ces espaces surveillés,
la démocratie n'y est plus que d'apparat autant que d'apparence et la
spéculation s'y est parfaitement et durablement substituée à toute forme
d'argumentation.
<Mise à jour du lendemain> La Quadrature du Net revient sur les démarches qu'elle a engagée pour s'opposer au projet porté par Estrosi et les différentes réponses reçues des élus et de la CNIL. </Mise à jour du lendemain>
