Intervention aux Utopiales 2019 — Informatique ou liberté ?

« Bonsoir, moi c’est Lunar. L. U. N. A. R. Ce n’est pas mon prénom, c’est le nom que j’ai choisi quand j’avais 10 ans, à l’époque pour aller sur un service minitel… »

Ce que je viens de vous faire, c’est le début de la conférence gesticulée qui s’appelle « Informatique ou libertés ? » avec laquelle je tourne depuis trois ans et qui parle donc… d’informatique et de libertés.

C’est quoi une conférence gesticulée ? Ben, c’est une conférence, mais on emprunte aussi au code du théâtre pour l’écriture et la mise en scène. La conférence gesticulée, c’est surtout un outil qui vient de l’éducation populaire politique. Une conf’ gesticulée, ça s’écrit en tressant des savoirs froids, ceux qu’on trouve dans les livres ou à l’université avec des savoirs chauds, issus de l’expérience de vie.

Dans cette conférence, je parle donc de mon parcours, de celui d’une personne qui a touché son premier clavier à l’âge de 3 ans, programme depuis l’âge de 7, fait ses premiers pas sur Internet à 13 ans, et gagne sa vie en tapant sur des claviers depuis 15… et elle raconte aussi comment j’ai tenté de m’engager politiquement autour de ces outils et ce que j’ai pu comprendre de leurs conséquences sociales.

Mais décoder les enjeux politiques du code tout en donnant quelques pistes pour reprendre nos libertés, ça demande du temps… et la version actuelle fait deux heures. Alors, malheureusement ça ne rentrait pas dans le format des Utopiales.

C’est que je suis le premier étonné d’être devant vous ce soir. L’an dernier, ici aux Utopiales, je me suis retrouvé dans une discussion avec Matthieu Bouthors d’un côté, organisateur de la conférence « Le Hack » et venu pour un atelier « Reprendre en main sa vie privée », et Roland Lehoucq, de l’autre, le président des Utopiales. Je leur ai dit que j’étais surpris qu’on soit allé chercher quelqu’un de Paris pour un tel atelier, alors qu’à Nantes existe le collectif Café Vie Privée Nantes et le fournisseur d’accès Internet associatif FAImaison, deux collectifs qui en animent de similaires depuis longtemps… Et puis, de fil en aiguille, Roland Lehoucq finit par me prendre une de mes vieilles cartes de visite.

En recevant, l’invitation il y a deux mois, je me suis dit que si le créneau n’était pas assez long pour la conférence gesticulée, peut-être que ça pouvait quand même être l’occasion d’amener d’autres pratiques d’éducation populaire…

Je dis « on », parce que je pratique ce genre d’animation et d’accompagnement avec Mélissa avec qui nous formons le collectif La Dérivation. On voulait créer un moment pour réfléchir ensemble à la place qu’on aimerait donner aux ordinateurs dans nos vies. L’idée derrière, c’était que ce soit plutôt vous qui ayez l’occasion de parler plutôt que moi… Mais bon, comme souvent « l’éducation populaire, ils n’en ont pas voulu »…

Bon, je dis ça comme ça parce que c’est le titre d’une des toutes premières conférences gesticulées, et je vous la recommande chaudement si vous voulez en savoir plus sur l’éducation populaire politique.

Bon, pas d’éduc’ pop’, mais alors pourquoi ne pas en profiter pour inviter quand même une camarade ?

Avec Célia Izoard, qui est aussi journaliste et traductrice, on se disait récemment qu’on avait de plus en plus l’impression de vivre dans un film de science-fiction. Essayer de comprendre pourquoi, ça semblait un bon sujet pour les Utopiales.

Malheureusement, elle n’a pas pu venir, mais elle m’a quand même aidé à préparer cette présentation.

L’impression de vivre dans un film de science-fiction, donc… C’est sûr que quand on voit des choses comme ça :

Vous ressentez quoi en voyant ça, vous ?

Je m’étais aussi dit que ça pouvait être chouette d’inviter Célia parce qu’elle vient de finir une nouvelle traduction de 1984 de George Orwell.

(En montrant le bouquin. ) Alors, je voudrais en profiter pour remercier Ariane Gélinas de bien avoir voulu transporter ce livre depuis le Canada.

Parce qu’en fait ce livre n’a pas le droit d’exister en France.

Orwell est mort en janvier 1950. Au Canada, ses œuvres se sont élevées dans le domaine public au 1^er janvier 2001. Mais en France, il va donc falloir attendre l’année suivant le 70^e anniversaire de sa mort… en l’occurence, le 1^er janvier 2021.

Ce qui veut dire que Gallimard garde l’exclusivité des droits de traduction jusqu’à cette date. Alors, c’est bientôt, et c’est sûrement l’expiration prochaine de cette exclusivité qui les a motivés l’an dernier à commander une nouvelle traduction, réalisée, elle, par Josée Kamoun.

Célia, qui travaillait donc sans autorisation de Gallimard, n’a découvert cette autre retraduction qu’un mois après avoir terminé la sienne. L’idée était surtout de réparer les erreurs de la traduction originale, comme la proportion de prolétaires dans le monde — qui est donc de 85% et pas de 15% comme imprimé dans la première traduction — et de corriger aussi quelques contre-sens et des phrases oubliées.

Pour l’instant, cette traduction de Célia Izoard a été publié au Québec aux éditions de la rue Dorion, et devrait sortir en 2021 chez Agone.

En attendant, dans mes cercles militants, on avait cette formule qui revenait régulièrement : « 1984 n’était pas censé être un mode d’emploi ».

1984 n’était pas censé être un mode d’emploi… Sauf que ça y ressemble de plus en plus.

Dans le dos de Winston, le télécran continuait son mitraillage de commentaires sur la fonte et la production record du IXe Plan triennal. Le télécran servait simultanément de récepteur et d’émetteur. Il enregistrait dès qu’on émettait un son plus élevé qu’un murmure très bas, et tant qu’on se trouvait dans le champ de vision de la plaque de métal, on pouvait être à la fois écouté et regardé. Bien sûr, il n’y avait aucun moyen de savoir si on était observé à tel ou tel moment.

Ce n’était pas censé être un mode d’emploi, ouais… M’enfin, on a quasiment tou·tes dans nos poches des ordinateurs qui se comportent exactement pareil : qui peuvent nous « enregistrer » avec le micro ou la caméra, mais aussi connaître tous nos mouvements en utilisant le gyromètre et l’accéléromètre ou d’autres capteurs… Le seul moyen d’être sûr qu’ils ne le fassent pas, ce serait d’enlever la source d’énergie, parce qu’un ordinateur a besoin d’électricité pour faire ses calculs. Mais Apple et d’autres ont décidé de nous empêcher d’accéder facilement à la batterie…

Pourtant, en 1984, dans une grandiloquente publicité télévisée, Apple nous avait promis que 1984 ne serait pas 1984.

Mais pourquoi on a l’impression que ça émeut si peu de gens, alors qu’on a le sentiment de vivre ce qu’étaient les pires dystopies ?

Bon, vous me direz que, c’est normal, Blade Runner, c’est le présent maintenant.

Il y a un truc qui me tracasse avec ce t-shirt… Parce ce que de loin, ce qu’on voit le plus, c’est surtout 1984 et mode d’emploi. C’est ça qu’on a des chances de retenir… Le reste, finalement, n’est pas si important.

Est-ce que, de la même manière, la science-fiction n’aurait pas surtout servi à nous habituer au plus visible, tout en nous faisant perdre de vue le contexte ?

Et à quel moment ce processus d’habituation n’est pas délibérement exploité pour nous présenter un futur inéluctable, et nous le faire accepter comme indiscutable ?

Alors, j’aurais sûrement pu disséquer Black Mirror mais je me suis dit que ce serait plutôt intéressant de faire un détour de quelques années en arrière pour m’intéresser à l’adaptation cinématographique de la nouvelle de Philip K. Dick, Minority Report.

Le film est sorti en 2002. Réalisé par Steven Spielberg, avec le triste promoteur de la scientologie Tom Cruise dans le rôle principal de John Anderton.

L’action du film est censée se passer en 2054, dans un monde où les technologies numériques sont omniprésentes. 17 ans après sa sortie, ça donne l’impression que c’était plutôt un plan de développement que de la fiction. On y voit :

de la visioconférence,
des interfaces tactiles,
une montre « connectée »,
un appartement piloté par reconnaissance vocale,
des voitures autonomes,
du contrôle biométrique dans les espaces publics,
des journaux qui se mettent à jour tout seuls,
des photos truquées façon « deep fake »,
des robots pour inspecter un immeuble,
de la publicité ciblée et individiualisée par reconnaissance biométrique,
et, c’est le sujet explicite du film, une police qui arrête des personnes parce qu’on a prédit qu’elles allaient commettre un crime.

J’ai commencé à faire cet inventaire… mais je me suis aperçu qu’il avait déjà été fait sur Wikipédia !

Pour prendre un premier exemple, l’appartement d’Anderton se contrôle, au moins en partie, à la voix. Ça, c’est ce qu’on nous vend ces jours-ci sous le nom d’« enceinte connectée ».

J’ai l’impression que depuis mon enfance, la science-fiction me raconte qu’une telle technologie fera partie du futur. Minory Report n’est qu’un des nombreux films où ça existe, et un de mes premiers souvenirs vient de « Retour vers le futur 2 », sorti en 1989, où on voit Jennifer allumer chez elle en disant « lumière ».

Sauf que… sauf qu’à aucun moment en voyant ces dipositifs dans des films, je n’avais fait le lien : pour pouvoir commander un ordinateur à la voix, il faut qu’un micro enregistre ces commandes. Et pour que ça fonctionne sans efforts supplémentaires, ça veut dire qu’il est nécessaire que ce micro soit allumé en permanence.

L’idée d’un micro allumé en permanence, ça nous ramène plutôt du côté du télécran, non ?

Dans la nouvelle traduction de Gallimard, Josée Kamoun, a fait des choix assez marqués pour la différencier de la précédente, comme de basculer le récit du passé vers le présent. Mais un des choix qui a été le plus controversé, c’est la décision de traduire « newspeak » par « néoparler » plutôt que de garder « novlangue » comme dans la première traduction… Depuis 1950, le terme « novlangue » a fini par passer dans le langage courant pour désigner une forme bien spécifique de « langue de bois ». Ça crée sûrement un regard neuf, mais effacer le terme de cette nouvelle traduction coupe le lien entre ce concept politique et l’œuvre d’où il provient.

On nous vend ces objets sous le nom d’« enceintes connectés » alors qu’on devrait plutôt les appeler des « micros connectés ». On est en plein dans la novlangue. Le choix des mots nous empêche de penser la fonction principale de l’objet : enregistrer en permanence les sons environnants afin de les envoyer sur des ordinateurs situés au loin pour être analysés par des systèmes de reconnaissances vocales qui ensuite commanderont un ou plusieurs autres ordinateurs, dans la pièce ou ailleurs sur Internet.

Ce qui est troublant avec Minority Report, c’est que Spielberg, par soucis de réalisme, a réuni un groupe d’une quinzaine de chercheur·euses de divers domaines. Iels ont bossé ensemble pendant 3 jours afin de produire une « bible » des technologies de 2054.

Dans une interview, le réalisateur expliquait ces motivations ainsi (traduites par mes soins) :

Je voulais que tous ces jouets deviennent réalité. Je veux avoir un mode de transport qui n’émet pas de toxines dans l’atmosphère. Et un journal qui se met à jour tout seul…

Un journal qui se met à jour tout seul, hein ?

Faut reparler du boulot de Winston dans 1984 qui était de réécrire les vieux journaux selon les envies du jour du gouvernement… ou bien ?

Allez… Parlons plutot d’Amazon. Ce « libraire » qui permet à Jeff Bezos de s’enrichir de 2 500 dollars par seconde… mais qui ne fait bien sûr pas que dans la vente de livres. L’entreprise vend aussi des ordinateurs spécialisés dans la lecture de livres numérisés sous la marque Kindle.

Et alors, il y a dix ans, en 2009, des personnes qui avaient acheté une copie numérique du livre 1984 ont vu le livre pûrement et simplement disparaître de leur Kindle du jour au lendemain. Amazon a considéré que l’éditeur qui avait mis en ligne le fichier l’avait fait sans obtenir les droits de diffusion. Le « libraire », a donc, à travers Internet, commandé aux Kindle de supprimer les fichiers contenant le livre.

Alors, les acheteur·euses ont réagi par un procès qui a été clos à « l’amiable », et depuis, Amazon a dit qu’il ne le ferait plus, mais rien ne nous prouve que la fonction d’effacement à distance n’est pas toujours présente dans le logiciel.

L’autre jour, je discutais avec mes parents de mon intervention de ce soir. On aime bien discuter avec mes parents, même si je crois que parfois iels me trouvent un peu trop radical. Donc je leur parlais de cette histoire de la science-fiction comme vecteur d’acceptabilité sociale, et là mon père me lance « Mais alors avec Soleil Vert, c’est quoi qu’on est censé nous faire accepter ? » Bonne question… En fait, il y a bien un truc qui m’a marqué dans ce film… mais ce n’est pas la fin. C’est une hisoire de « meubles ».

Soylent Green (titre traduit par Soleil Vert en français) est un film de 1973 qui décrit un New York en 2022 surpeuplé où seuls les élites ont accès à de l’eau propre et de la nourriture naturelle. Le film montre que les élites ont également accès à autre chose : « des meubles ». Dans une dimension profondément misogyne et sexiste, les appartements des riches sont pourvues de femmes, désignées comme « furnitures », qui sont tout bonnement esclaves des locataires.

On peut se dire que c’est tellement gros que, forcément, ça provoquera une réaction chez les spectateur·ices. Sauf qu’avec les années, mes parents avaient complètement oublié cet aspect du film. Peut-être parce que le film ne pose pas réellement de critiques sur cet état de fait. C’est un élément périphérique de l’univers, et l’état des choses est strictement le même au début et à la fin.

Cet absence d’évolution me semble au contraire avoir pour effet de renforcer des stéréotypes de genre et de contribuer aux représentations patriarcales du rôle des femmes. Quelque part, est-ce que cet extrême qui est montré dans le film n’a pas pour effet de rendre plus acceptables des formes moins évidentes de domination patriarcale ? « Tu gagnes moins à travail égal, mais regarde, tu devrais te considérer chanceuse de ne pas être un meuble ! » pourrait nous dire un Jean-Michel Misogyne.

Personnellement, j’ai beaucoup appris sur ces enjeux en regardant la série de vidéos Tropes Against Women réalisée par Anita Sarkeesian de Feminist Frequency, où elle explique comment des œuvres qui peuvent paraître critiques peuvent en fait renforcer des stéréotypes. D’ailleurs, en cherchant sur YouTube des images du film, je suis tombé sur une vidéo qui compilait toutes les séquences de Soleil Vert où les femmes sont designées sous le nom de « meubles »… suivie de 10 bonnes minutes de monologue masculiniste d’un homme qui d’un ton parfaitement sérieux répète que le film montre enfin des femmes à leur « juste place ». On va s’épargner ça, hein, je vous laisserai faire la recherche vous-même si vous avez envie de vous faire du mal.

La publicité ciblée, individualisée et hyper intrusive de Minority Report relève également du décor. Elle existe tout au long du film, et n’étonne pas spécialement les personnages. Sachant pour que la « crédibilité de l’univers », le film utilise des marques de notre époque. Ce qui permet surtout à ces marques de faire leur publicité pendant le film… et de nous envoyer le message qu’elles existeront toujours en 2054.

Entre temps, on s’est habitué à recevoir de la publicité un peu plus circonscrite, mais pas moins intrusive, chaque jour qu’on utilise Internet. Alors, oui, ça devient moins pénible avec un bloqueur de publicité dans son navigateur… mais pour l’instant, il n’existe pas de bloqueur pour les piétons, alors que la publicité ciblée, elle, débarque dans nos rues.

Oui, oui, Minority Report au pied de la lettre. L’entreprise Posterscope, par exemple, se vante d’installer des panneaux de pub interactifs, capables, d’après leur promo, de reconnaître, via la caméra qui filme la rue : l’âge, le genre, l’expression, l’impact… Et, bien qu’iels prétendent le faire de façon anonyme, le système semble aussi capable de reconnaître une personne qui passerait une seconde fois devant la caméra.

Bah, quoi, ça a l’air plutôt marrant ?

En vrai, dans Minority Report, la publicité ciblée n’est pas tout à fait du décor. C’est un élément dramatique car à ce moment-là du film, Anderton est en fuite. Alors des publicités qui le repèrent et l’appellent par son nom, c’est un peu beaucoup l’angoisse.

« Oui, mais du coup, tu vois bien, c’est pas grave ce genre de panneau de pub. Moi, j’m’en fiche d’être repéré, j’ai rien à me reprocher, hein » pourrait donc nous répondre un Jean-Michel Droitchemin.

Alors notre Jean-Michel Droitchemin, j’aurais envie de lui répondre qu’il a beau penser ce qu’il veut, c’est pas lui qui décide si l’État a des choses à lui reprocher.

Au cœur de Minority Report, il y a cette idée du PreCrime, qu’il serait donc possible de prédire où et quand aura lieu un crime.

Dans le film, ça se fait grâce à des êtres humains capables de voir l’avenir qu’on appelle les PreCogs… En 2019, le paranormal est un peu moins à la mode, par contre, on a bien des entreprises qui se vantent de pouvoir faire la même chose en utilisant des ordinateurs… Et il y a des forces de police pour acheter leurs services.

Il y aurait beaucoup à dire sur comment les mathématiques utilisées pour ce genre de calculs exarcerbent les inégalités, et c’est précisment le sujet du livre Weapons of Math Destruction de Cathy O’Neil, dont la traduction française est parue l’an dernier aux éditions Les Arènes.

Mais, je voulais surtout m’arrêter sur la mythologie qui entoure ce champ de recherche et développement.

Il y a deux ans, Becky Chambers recevait ici le prix Julia Verlanger pour L’espace d’un an et Libration. Deux livres que j’ai adorés. D’ailleurs, j’ai vraiment hâte de dévorer le troisième tome dont la traduction de Marie Surgers vient tout juste de sortir.

Ces bouquins sont passés dans mes références, et je recommande souvent L’espace d’un an autour de moi. En général, je dis : « De loin, ça ressemble à un space opera, mais en vrai, c’est un livre sur ce que c’est de vivre en collectif avec des personnes que tu as plus ou moins choisies ». J’ai simplement pleuré en refermant la dernière page parce que je savais que ces personnages qui m’avaient beaucoup touché allaient me manquer.

J’ai adoré, mais ça ne m’empêche pas d’avoir trouvé gênante la place des « I.A. » dans le livre.

Le terme d’« intelligence artificielle », à la base, il désigne les maths qui veulent simuler des mécanismes d’apprentissage. Mais souvent dans la SF, il est utilisée pour désigner tout autre chose : une entité autonome qui serait capable certes d’apprendre, mais qui aurait également des émotions, une volonté et une conscience. Et ça me gêne que le livre participe à normaliser cette idée, à nous habituer à ce que oui, bientôt, on pourra dire que des ordinateurs pensent, ressentent et veulent.

Ça me gêne parce qu’on dit déjà trop souvent des choses comme « oh, mon téléphone, il est pas content là ». Pourtant, un ordinateur, c’est une machine purement déterministe. Une fois programmé, il exécute ses calculs toujours de la même manière. Un ordinateur n’est jamais « de mauvaise humeur », même si un bug ou des interactions difficiles à prévoir entre plusieurs logiciels peuvent nous en donner l’impression.

Ça me gêne parce que les « algorithmes apprenants » nécessitent énormément de données avant d’être utiles. Que le choix de ces données est très important. Vu que tout biais dans ces données conduit à biaiser les réponses, ces systèmes ont souvent tendance à reproduire les discriminations sociales. On se pose rarement la question des critères de sélection de ces données d’apprentissage, définis par une majorité d’hommes cisgenres blancs vivant en Californie. Mais on se demande encore moins souvent comment elles sont collectées, alors que ce boulot est surtout fait par des travailleur·euses isolé·es, précarisé·es et payé·es une misère. Pour un résumé de ces enjeux, je vous conseille la deuxième partie de l’enquête de Cash Investigation diffusé initialement le 24 septembre 2019.

Ça me gêne parce que même si c’était techniquement possible, est-ce que vraiment ce serait souhaitable pour l’humanité, avec la crise climatique et la pénurie d’énergie qui s’annonce de créer de nouveaux êtres artificiels ? Est-ce que vraiment, l’humanité aurait à gagner à créer des êtres capables de souffrance pour les rendre immédiatement esclaves ?

Les livres de Becky Chambers me font ressentir de l’empathie envers ces êtres potentiels. C’est ce qui me permet de penser une potentielle souffrance. Mais un programme n’existe pas simplement parce qu’on en a envie. Cette idée qu’une « I.A. vivante » émergerait toute seule un jour me semble une idée dangereuse car dérésponsabilisante. Pour qu’un programme existe, il faut qu’un ou plusieurs êtres humains le codent. Et chaque ligne de code est une décision et une responsabilité. Pour chaque ligne de code, il est possible de décider de l’écrire différement, ou de ne pas l’écrire du tout.

En France, on a bien une institution qui devrait demander plus souvent des comptes, non ? La Commission Nationale Informatique et Liberté ? Qu’on abrège souvent en CNIL.

Une des premières fois qu’on s’est vu avec Célia, c’était à Paris, en décembre 2007. On visitait justement les locaux de la CNIL. Enfin, on visitait… disons qu’on n’avait pas vraiment été invité… On était plutot rentré à une centaine en scandant « La CNIL c’est c’nul ! »

Bon, on n’avait pas le meilleur slogan, mais on avait un super tract pour justifier l’action. Dedans, on racontait comment la CNIL avait été créée en 1978 après l’échec du projet SAFARI. Un projet du gouvernement de créer un fichier monstre pour regrouper tous les fichiers administratifs autour du numéro de sécu. À l’époque, comme le gouvernement n’avait pas encore d’équipe marketing, il avait décidé de baptiser le projet SAFARI pour « système automatisé des fichiers administratifs et du répertoire des individus ».

Appeler un fichier SAFARI, 30 ans après la Shoah — où des proto-ordinateurs ont aidé à tuer des millions de juifs, tsiganes, homosexuel·le·s, communistes et autres ennemi·es du pouvoir —, ça a été moyennement apprécié.

Je dis « proto-ordinateur », parce que c’était un système de cartes perforées… comme dans la nouvelle Minority Report de Philip K. Dick. Un outil que le film a transposé en ordinateur capable d’enregistrer et de lire des vidéos.

Pour revenir à la CNIL, après les réactions au projet SAFARI et pas mal de débats, est votée en 1978 la loi Informatique et liberté qui institue donc la Commission Nationale Informatique et Liberté, chargée de la faire respecter.

Bon, mais en 2007, le constat qu’on tire, c’est qu’elle n’a servi quasiment à rien pour les libertés. Que 30 ans après sa création, il existe toujours plus de fichiers privés ou publics, que la CNIL a laissé passer les portables, les puces RFIDs, l’extension sans fin du fichier des empreintes ADN, et tant d’autres atteintes aux libertés… Alors, vu que visiblement, elle ne sert à rien, nous l’occupions pour la déclarer symboliquement dissoute.

C’est surtout l’action qui a fini par être dissoute par les CRS, et moi, je crois que c’est à ce moment là que j’ai hérité de ma fiche S chez les renseigements intérieurs… dans une action contre le fichage.

Bon, p’tet, on peut revenir à Minority Report du coup… Le film nous montre un monde consumériste, remplis de magasins et d’objets manufacturés. Mais ces objets d’où viennent-ils ? Comment sont-ils fabriqués ?

Dans le film, il reste des espaces peu artificialisés. Mais pour autant, on n’en apprend assez peu sur les processus d’extraction, de recyclage ou de production.

Vu qu’il y a des voitures autonomes, est-ce qu’il y a des camions autonomes pour sillonner les routes en permanence ?

On peut trouver quelques réponses avec une scène qui se passe justement dans une usine de voitures. Mais… à part Anderton et ses poursuivants, elle est absolument vide de toute présence humaine.

Selon l’INSEE, en 2017, en France, on a encore entre 5 à 6 millions d’ouvrières et d’ouvriers. Mais iels sont invisibles dans les médias… tout comme dans le film Minority Report.

Pourtant, toutes ces technologies de science-fiction qui ne sont plus de la science-ficton, il faut bien des matières premières et du travail pour les fabriquer.

En 2015, Célia Izoard avait coordonné et participé à la traduction du livre La machine est ton seigneur et ton maître » qui raconte de l’intérieur le quotiden de travailleur·euse·s de Foxconn : une énorme entreprise basée en Chine mais dont la plupart d’entre nous profite de l’activité… vu que la plupart des téléphones tactiles sont au moins en partie fabriqués dans une usine de Foxconn.

Le livre est glaçant, et raconte le parcours de ces émigrés des campagnes chinoises qui se retrouvent à vivre accolé·es à l’usine et dont on change constament les dortoirs. Que l’on empêche ainsi d’établir des liens affectifs et bien sûr des solidarités.

Des travailleur·euses qu’on met de plus en plus souvent en compétition avec des robots, une compétition truquée car l’adversaire, lui, n’a jamais besoin de repos. Mais une compétition bien utile pour tout exiger des humains maintenu·e·s dans la précarité et la dépendance économique.

Beaucoup d’œuvres de science-fiction s’interrogent sur comment l’existence d’une technologie change le monde. Mais moins nombreuses sont les œuvres qui questionnent les conditions d’existence d’une technologie. Pour autant, c’est essentiel si on veut avoir le tableau au complet.

Pour qu’une technologie existe, il faut une organisation sociale capable de la produire. Ces ordinateurs bien « pratiques » qu’on balade dans nos poches, ils existent parce que des gens ont des vies horribles chez Foxconn et qu’on accepte que ce sera aux enfants de nos enfants de nos enfants de se débrouiller pour vivre dans un environnement pollué et hostile.

L’actualité nous l’a tristement rappelé ces dernières semaines, avec l’incendie fin septembre à Rouen de l’usine Lubrizol. C’est d’ailleurs pour aller enquêter avec la revue Z sur les conséquences de cette catastrophe technologique que Célia a dû annuler sa participation aux Utopiales.

Pourtant, il y a bien des lois faites pour protéger l’environnement et les gens, non ? Que les gens soient sédentaires ou « du voyage » d’ailleurs ? La directive Sévéso, tout ça ?

Dans une tribune publiée par Le Monde ce 1er octobre 2019, l’historien Thomas Le Roux est revenu sur les étapes de la régulation des risques industriels en France :

Les réformes ultérieures de la loi (en 1917 et en 1976 en France), y compris celle de Seveso, n’y changent rien : c’est aux populations de s’acclimater à l’industrie, son cortège de risques et de pollution, [cela] au nom de l’utilité publique, l’industrialisation étant assimilée au bien général.

Je répète : « c’est aux populations de s’acclimater à l’informatique, son cortège de risques et de pollution, cela au nom de l’utilité publique, la numérisation étant assimilée au bien général ».

Quand on lit dans la presse que la CNIL serait le « gendarme des données », ça diffuse une idée fausse sur sa mission. En substance : « [accompagner] les professionnels dans leur mise en conformité et [aider] les particuliers à maîtriser leurs données personnelles et exercer leurs droits. » La CNIL n’est pas là pour protéger le public, mais bien pour permettre le développement économique dans les limites de ce qui est tolérable par le public.

La morale, c’est que si notre fournisseur de mail nous espionne, ou qu’on consomme des légumes pollués, c’est bien de notre faute. On aurait dû mieux se renseigner. Comme si la pollution, nous en étions les premiers responsables.

Pour autant, on laisse l’État et les entreprises amasser une masse colossale de données nous concernant, les centraliser, les manipuler, les revendre…

La base de la communication par ordinateur, c’est la copie. Une information qui circule sur Internet, il est plus juste de considérer qu’elle ne se déplace pas, mais plutôt qu’elle se multiplie. Donc, c’est très difficile, une fois que des données sont dans la nature, de les supprimer.

Vu que pas un mois ne passe sans qu’on apprenne une nouvelle fuite de données massive chez un « géant de la technologie », il faut considérer ces données comme des produits hautement volatiles ; et même si l’impact d’une fuite est moins visible que celle d’hydrocarbures, les données restent des produits dangereux. Parce qu’une fois agrégées, elles dressent des profiles parfaits pour manipuler nos émotions. En nous balançant pile la bonne information (vraie ou fausse), il est possible de nous faire réagir tout bien comme il faut… ou au moins de travailler le corps électoral comme l’a fait l’entreprise Cambridge Analytica pour le Brexit et l’élection de Trump.

Oh, et en parlant de trucs dangereux, j’ai failli oublier un dernier aspect de Minority Report : les armes. Histoire de ne pas interférer avec les visions du futur des PreCogs, les flics n’utilisent que des armes « incapacitantes » ou « non létales », qu’ils disent. C’est que s’ils tuaient des gens, ce seraient ces morts là qui apparaîtraient aux PreCogs plutôt que celles des « prédictions » originales.

En 2007, un peu avant de rencontrer Célia pour la première fois, j’habitais à Dijon, à l’Espace Autogéré des Tanneries, un squat légalisé. En tant que geek et anarchiste, j’étais très fier d’habiter un endroit où on pouvait lire sur la façade « apt-get install anarchism ».

Là-bas, au moment de la lutte contre le Contrat Première Embauche en 2006, j’ai rencontré un jeune lycéen bien motivé qui s’appelait Robin. Bon, deux ans plus tard, j’ai quitté Dijon, alors ça faisait un bail que j’avais oublié Robin.

Et puis dix ans après, je le reconnais dans un article de Reporterre. Il s’est fait arracher une partie du pied lors d’une manif par une grenade dite « assourdissante ». « Un usage proportionné de la force » d’après les flics de Minority Report, ah non, pardon, le Ministre de l’Intérieur.

Il y a près d’un an, David Dufresne lancait « Allo, Place Beauvau » pour documenter la généralisation des violences policières en France. Et ces armes soi-disant « non létales » ont fait plusieurs centaines de blessé·es graves… et ont tué 2 personnes.

Pour les Nantais, si vous voulez en savoir plus, rendez-vous à Pol’N ce mercredi à 19h30 pour une soirée-débat avec David Dufresne.

Tout à l’heure, quand je disais qu’on laissait un avenir pollué aux enfants de nos enfants de nos enfants, j’ai manqué de précision. J’aurais dû dire « aux enfants de nos enfants de nos enfants de nos enfants de nos enfants de nos enfants de nos enfants de nos enfants et les 795 générations suivantes… » et celles et ceux là, iels auront encore la moitié du stock de plutonium 239 sur les bras.

Quand il a été blessé, Robin manifestait à Bure contre Cigéo, le projet d’enfouissement de déchets nucléaires.

Un projet piloté par l’Andra, l’Agence Nationale — de gestion — des Déchets Radioactifs. L’Andra qui s’invite dans ce festival des Utopiales avec une affiche qu’on est plusieurs à avoir lue comme nous disant qu’une fois qu’on aura enfoui les déchets nucléaires dans des grottes, il faudra des flics pour tirer dans le dos de meufs en sweat à capuche qui voudraient mettre la main dessus.

Mais what… the… fuck… ‽

Ce n’est pas que la problématique ne soit pas cruciale, mais un atelier sponsorisé par le Commissariat à l’Énergie Atomique ou l’Andra, à quoi pourrait-il servir d’autres qu’à légitimer et à nous faire accepter la suite des projets des nucléocrates ? Ceux-là mêmes qui ont décidé que les déchets seraient irrémédiablement « nos déchets » comme le dit bien l’affiche. « Nucléocrates » car ils ont bien décidé seul·es d’inscrire pour le futur de l’humanité les conséquences du nucléaire et cela pour chacun·e d’entre nous.

Que ce festival soit en plus fier de participer à une telle entreprise, je pense que c’est un problème.

L’adaptation au cinéma de Minority Report trahit par de nombreux aspects la nouvelle de K. Dick. Le film rend en grande partie cool un projet de société horrible en y montrant toute une collection de gadgets séduisants. Et pour une histoire qui traite du libre-arbitre, s’en servir comme plateforme publicitaire à une dizaine de marques, ça pique. Une corruption a 25 millions de dollars, sur ce coup là.

D’ailleurs, quelqu’un·e saurait à combien s’élève le chèque de l’Andra ? Bon, visiblement, pas assez pour payer les auteur·ices…

Ce qui m’ennuie le plus dans cette histoire, c’est de ne pas avoir vu plus de réactions à ce concours… Aurions-nous fini par nous habituer à ce que la science-fiction soit dévoyée pour nous habituer au pire ?

Si je suis aussi dur, c’est que ça me touche beaucoup de voir ça. Parce qu’il faut que je vous avoue un truc… je n’ai jamais lu Marx.

Une bonne partie de ma formation politique — celle qui me permet de faire cette analyse aujourd’hui — j’ai l’impression de la devoir à mes lectures de George Orwell, Aldous Huxley, Ursula Le Guin, Greg Egan, Lois Lowry, John Christopher, Isaac Asimov, Frank Herbert, Ayerdhal, Robert Silverberg, Christiane Rochefort, Norman Spinrad, Masamune Shirow, Joanna Russ, Roger Zelazny, Franz Kafka, Élisabeth Vonarburg, Neal Stephenson, Terry Pratchett, ou encore Luc Plamandon et Michel Berger. Si, si Starmania, l’opéra-rock, c’est de la science-fiction.

C’est toutes ces œuvres de l’imaginaire qui m’ont forcé à rencontrer des mondes différents, à m’imaginer les habiter et qui m’ont permis de me demander ce qui me faisait envie, ce qu’il me semblait être juste, où pouvait se trouver l’égalité, et comment articuler les libertés individuelles et collectives.

Bref, quand j’ai lu les Dépossédé·e·s à 20 ans, c’est comme si j’avais enfin trouvé ce que j’avais cherché toute mon adolescence en lisant de la science-fiction. Je n’ai pas lu Kropotkine non plus, pourtant j’ai l’impression d’avoir compris beaucoup de sa pensée en parcourant avec Tirin, Takver et Shevek les terres d’Anarres. En m’imaginant y vivre avec iels, à partager les joies et les difficultés du quotidien.

Parce qu’en définitive, c’est dans le quotidien que se matérialisent les plus abstraits des concepts politiques. Et c’est la force des littératures de l’imaginaire que de nous emmener visiter d’autres réalités par le biais des personnages qui les vivent au jour le jour.

Dans cette époque curieuse où des ordinateurs choisissent plus souvent que nous les informations qui nous parviennent, notre appréhension du quotidien est de moins en moins collective. Nous recevons des informations de plus en plus individualisées, nous isolant les un·es des autres dans des perceptions du monde parfois parfaitement incompatibles.

Alors dans ce contexte, Célia — qui est bien plus impliquée que moi dans des mobilisations — m’expliquait l’importance de pouvoir convoquer ces récits de fiction. Quand on lutte contre l’extension de la biométrie, des projets de vidéosurveillance, ou de « police prédictive », avoir la possibilité de mobiliser des œuvres de fiction pour illustrer les enjeux est précieux.

Il ne peut pas y avoir de démocratie sans une réalité commune. Ça paraît contre-intuitif de recréer une réalité commune par des œuvres de fiction, mais c’est entre autres par ces récits qu’on arrive à trouver un référentiel partagé autour duquel il redevient possible de discuter.

Nombreuses sont les œuvres de science-fiction à nous répèter que ça ira de pire en pire, et on s’habitue à cette idée d’un avenir toujours plus sombre. Mais le rôle d’avertissement existe toujours et fonctionne au moins en partie.

Sous cette vidéo de Boston Dynamics que je vous ai montrée tout à l’heure, nombreux sont les commentaires qui font référence à Terminator. Un monde où un système informatisé de défense mis en réseau et capable de contrôler des robots à l’apparence humaine décide de se débarrasser de l’humanité avec des armes nucléaires.

Bon, mais si en voyant la vidéo de Boston Dynamics, on est nombreux·ses à penser à Terminator, qu’on est nombreux·ses à faire le lien avec la fin de l’humanité… pourquoi est-ce que ça ne fait pas plus de bruit ? Pourquoi est-ce qu’il n’y a pas des manifs tous les jours à Waltham, Massachussets devant les bureaux de Boston Dynamics ?

Le premier film Terminator, celui de 1984 (…décidément…), c’était l’histoire d’humains qui entraient en résistance. Mais Kyle Reese et Sarah Connor se battaient seul· es contre le Terminator avec des voitures volées et des bombes artisanales.

Peut-être qu’en plus d’inventer sans cesse comment de nouveaux dispositifs techniques pourraient nous pourrir la vie, la science-fiction pourrait nous aider à penser des outils pour mieux résister ?

Heureusement, on a déjà quelques exemples. Dans le roman Little Brother de Cory Doctorow paru en 2008, ce dernier nous parle d’un système d’exploitation baptisé « ParanoidLinux » :

J’avais une préférence pour ParanoidXbox, une version de ParanoidLinux. Ce dernier s’adresse à un utilisateur persécuté par son gouvernement (à l’origine, il a été conçu pour les dissidents chinois et syriens) et vise avant tout à masquer ses communications et ses documents.

Parce que là aussi, la réalité peut parfois rejoindre la fiction. Le système d’exploitation Tails, que l’on installe sur une clé USB et qui fonctionne sur quasiment tous les ordinateurs, permet d’obtenir un environnement de travail qui garantit le minimum de traces à la fois sur l’ordinateur et sur Internet.

C’est le système qu’a utilisé le lanceur d’alerte Edward Snowden pour exposer les capacités des outils de surveillance électronique développés par la NSA et d’autres agences de renseignements. Il lui a permis d’échapper à ces même outils de surveillance le temps de préparer les documents à transmettre aux journalistes et de communiquer ensuite avec iels.

D’ailleurs, si vous allez voir le film Citizenfour de Laura Poitras ce soir à 21h15, il y a quelques images où on peut reconnaître la couleur bleu du fond d’écran et le look de la ligne de commande.

Un an après ce qu’on a appelé « les révélations Snowden », Cory Doctorow, l’auteur de Little Brother a lui-même reconnu que Tails ressemblait tout à fait au ParanoidLinux de sa fiction.

Un des objectifs d’une conférence gesticulée, c’est de redonner du pouvoir d’agir face à des situations d’injustice sociale. À la fin d’« Informatique ou libertés ? », je donne des pistes comme :

monter ou rejoindre des associations ou des coopératives qui fabriquent des bouts d’Internet à l’échelle locale,
créer des assocations pour que le financement de la production d’outils numériques se fasse directement par celles et ceux qui s’en servent,
encourager le développement de logiciels émancipateurs — non seulement librement utilisables, étudiables, copiables et modifiables — mais également soucieux de l’indépendance et de l’autonomie des personnes qui les utilisent ou les subissent,
s’organiser politiquement pour lutter contre les projets mortifères des États, des entreprises et leurs alliances de circonstance…

Mais souvent, après la conf’, j’ai une ou deux personnes qui viennent me dire qu’elles n’utilisent plus que le système Tails pour leurs communications ou qu’elles essayent d’utiliser le plus possible de logiciels libres…

Utiliser des outils numériques libres, c’est super, mais au fond, ce que j’essaye d’expliquer c’est qu’il me semble que face à des enjeux collectifs, l’échelle individuelle ne suffit pas, et qu’il nous faut des réponses collectives.

Parce que c’est un peu comme cultiver son potager. C’est chouette d’avoir un potager, d’avoir de bons légumes pour ses casseroles ou celles des copains-copines, et puis c’est des savoir-faire qu’il est important de collecter et de transmettre…

Mais qu’on cultive son potager… Monsanto, bah, il s’en tape. Cultiver son potager, ça n’empêche en rien les plans de Monsanto de privatisation du vivant, de pollution massive et d’attaques contre la souveraineté alimentaire pour faire toujours plus de profits.

Utiliser Linux ou les outils de Framasoft, c’est très bien, mais ce n’est pas ça qui nous débarassera des GAFAM et tous ceux qui veulent nous priver de notre souveraineté technologique. Et ça ne me semble pas acceptable de penser que parce qu’on a sauvé sa pomme, on n’a pas à se préoccuper des 2,5 milliards de personnes dont les informations et les communications sont contrôlées par Facebook.

Les communications de plus de deux milliards de personnes contrôlées par une seule entreprise. C’est moins visuel, mais c’en est pas moins flippant que les robots de Boston Dynamics.

Je ne vois pas comment on pourrait arriver à retrouver du pouvoir sur tout ça sans luttes collectives.

Ne laissons pas Minority Report nous habituer à un monde où la biométrie est partout, et où la seule solution pour échapper temporairement à la surveillance est de se faire greffer de nouveaux yeux. Ce n’est pas normal et ça ne doit pas devenir normal.

Quand, à Nice, le conseil régional veut installer de la reconnaissance faciale pour contrôler l’entrée des lycées, ce n’est pas normal et ça ne doit pas devenir normal.

Quand le gouvernement veut assujetir l’identification en ligne à une application mobile et de la reconnaissance faciale, ce n’est pas normal et ça ne doit pas devenir normal.

Mais le monde a beau être stone, on ne va pas s’allonger sur l’asphalte et se laisser mourir.

Contre ces attaques envers nos libertés, et les injustices qui vont avec, il va falloir s’organiser. Ça peut être en rejoignant la campagne Technopolice qui vise à documenter et agir contre tous ces projets de « smartshity » qui émergent un peu partout. Documenter, construire un rapport de force et empêcher qu’ils se réalisent. Si possible en créant un précédent tel qu’ils seront derrière nous pour un moment. Il y a déjà des infos sur Marseille, Nice, Toulouse, Saint-Étienne ou encore Paris. À quand Nantes ?

Je dis ça, mais si vous me répondez « oui, mais ça veut dire quoi, concrètement ? » la suite de la discussion risque d’être un peu difficile. Parce qu’on a tellement peu de représentations de luttes, qu’on est loin de l’époque « des grandes grèves », et qu’on manque d’imaginaire commun.

120 battements par minute est un film remarquable, notamment dans la façon dont il montre à quoi pouvait ressembler les actions d’Act-Up Paris contre l’épidémie de VIH, et le quotidien militant, jusqu’aux AG hebdomadaires.

Même s’il y a tant d’autres luttes passées qui mériteraient d’être racontées, les littératures de l’imaginaire n’ont même pas besoin d’attendre pour nous en conter davantage et nous donner des représentations de comment on s’organise, des difficultés et des joies, de la complexité de fabriquer des stratégies, de comment chacun·e peut y trouver sa place — même quand on est pas en état de prouesses physiques — de comment on organise aussi la bouffe, le soutien contre la répression, et — sans rire — les chiottes.

Et au-dela de ce manque de représentation de luttes, on manque de perspectives politiques… Dit autrement, ça ressemblerait à quoi, une fois qu’on aurait gagné ?

C’est pour s’essayer à cet exercice qu’on a commencé à se retrouver en 2011 avec deux ami·es, So et Aude. En partant de l’hypothèse que les révoltes qui avaient lieu à ce moment là — et que les médias ont fini par appeler « le printemps arabe » — gagnaient en intensité et se répandaient partout sur la planète, on a voulu imaginer ce que serait le quotidien 10 ans plus tard, une fois que ça se serait stabilisé. On a voulu imaginer un monde où nous aurions envie d’habiter, un monde où nous aurions tou·tes des vies dignes d’être vécu·es.

On s’est retrouvé quelques week-ends par an pendant 7 ans, et au fil de ces séances d’écritures collectives, ça a fini par donner les 7 nouvelles et la postface du livre Bâtir aussi, signé des ateliers de l’Antémonde et qui est sorti l’an dernier.

Lors de l’occupation de la CNIL, des camarades avaient accroché sur la façade cette banderole qui disait : « informatique ou liberté : il faut choisir ! ».

Déjà à l’époque, et encore maintenant, c’est un choix qui ne me semble pas faire beaucoup de sens. Parce que là tout de suite, l’informatique est là, qu’elle s’est invitée dans nos vies et qu’elle est maintenant bien tressée dans le tissu social.

Souvent contre nous, mais pas que… Parce que la mise en réseau des opprimé·es à large échelle, le renouveau des points de vue, la multiplication des contre-analyses, les pratiques de formation, d’auto-organisation, et de transmission de pair·es à pair·es, ça fait bouger les lignes.

Que ce soit dans le quotidien, quand on voit la diffusion du concept de « charge mentale », l’éducation au consentement, la campagne contre les féminicides ou la documentation du racisme systémique et de ses conséquences quotidiennes.

Ça donne aussi des mises en lien plus spectaculaires, comme ce qui se passe en ce moment au Liban, au Chili, et depuis un an par ici avec les Gilets Jaunes.

J’ai grandi en entendant que le capitalisme était la seule perspective possible, et aujourd’hui, je suis surpris de voir tant de critiques à son encontre, et tant de personnes avoir envie d’autres futurs…

Alors peut-être qu’un jour, pour garantir nos libertés, il faudra démanteler tous les systèmes informatiques, ou peut-être qu’on décidera de leur usage à une échelle beaucoup plus locale, ou peut-être encore qu’on gardera un réseau de communication électronique global, mais qui ne fonctionnerait que quelques heures par jour, quand les vents seraient favorables.

Aucune technologie n’est inéluctable. Le discours qui veut nous faire penser le contraire est à déconstruire, que ce soit dans la bouche des premiers ministres ou dans nos livres préférés.

Parce qu’il n’y a pas une seule trajectoire technologique et qu’on ne peut pas laisser le profit définir pour nous ce que veut dire « progrès », il est essentiel de renouveler notre rapport aux questions techniques.

C’était ça, l’autre moteur de l’écriture de Bâtir aussi. Si on se débarrassait du capitalisme et des États, quelles conséquences cela aurait sur le quotidien ? Que va-t-on faire des technologies et des savoirs que nous aurait laissés le monde d’avant ? Quelles technologies développerait un monde qui ne serait pas fondé sur l’exploitation et la domination ? Et comment est-ce qu’on s’organise pour continuer à avoir des lave-linge ?

On a tenté d’apporter des morceaux de réponses dans les nouvelles, mais on s’est surtout dit que c’était des questions trop importantes pour y répondre seul·es. Cette pratique qu’on a eue pendant 7 années de se projeter dans des futurs désirables et d’en imaginer le quotidien nous a donné du souffle et l’énergie pour poursuivre nos luttes.

En fait, ça nous a fait tellement de bien qu’on s’est dit qu’on ne pouvait pas garder ça pour nous. Alors on a réfléchi à une forme d’atelier d’imaginaire où pendant 2h30 ou 4h, on élabore ensemble, par des discussions, des futurs désirables.

Un an et demi plus tard, on en a déjà animé 86 où se sont retrouvées chaque fois entre 5 à 70 personnes. Face à un présent angoissant et un horizon nourri par l’avalanche de dystopies, on a le sentiment d’avoir redonné à plus de 1300 personnes un peu d’espoir.

Dans les prochains mois, on va d’ailleurs rejoindre Célia Izoard et l’équipe de la revue Z à Rouen pour de nouveaux ateliers où nous pourrons imaginer ce que donnerait concrètement la réalisation du slogan « Fermez Lubrizol ! »

Fin septembre, j’ai eu la chance d’aller voir un concert d’Amanda Palmer, une musicienne et performeuse fabuleuse. Pendant son spectacle, elle nous a livré beaucoup de ses réflexions sur comment elle voyait le rôle d’artiste en ces temps de montée du fascisme et de désastre climatique. Elle l’a résumé par « Go into the darkness, and make light ». « Visitez les ténèbres et mettez-y de la lumière. » Elle l’a fait à travers ses chansons sur l’avortement, le cancer, ou encore la maternité.

Tous ces ordinateurs qui sont petit à petit en train de saturer notre monde sont sacrément flippants. Leur usage par les appétits capitalistes et les tentations autoritaires des gouvernements encore plus. L’informatique est là, et même si elle nous ouvre aussi des portes, elle grignote désespérement nos libertés.

Alors, face à ce tableau sombre, j’ai besoin d’espoir. J’ai besoin qu’on me raconte les luttes qui pourraient remettre l’informatique à sa juste place. J’ai besoin qu’on me raconte comment on va bricoler les puces pour éviter d’en fabriquer de nouvelles. J’ai besoin qu’on me raconte comment on va s’organiser pour diminuer nos besoins en énergie. J’ai besoin qu’on me raconte comment on va reprendre le contrôle sur les machines. J’ai besoin qu’on me raconte la fin du capitalisme de surveillance… et la fin du capitalisme tant qu’à faire.

En disant ça, je m’adresse certes à toutes les autrices et les auteurs, et plus généralement à toutes celles et ceux qui fabriquent des imaginaires… Mais pas seulement, je pense que ça concerne bien chacune et chacun d’entre nous, qu’on est toutes et tous légitimes pour imaginer des avenirs dignes d’être vécus. J’ai besoin qu’ensemble, on reprenne l’avenir aux think tanks de la Silicon Valley, qu’ensemble on invente des futurs qui prennent soin des humains et du monde. J’ai besoin de futurs qui me donnent envie de continuer à vivre.

« Go into the darkness, and make light. »

Merci.