L’utopie virtuelle de John Danaher

Une recension de Automation and utopia: human flourishing in a world without work.

La Quatrième Blessure: un blogue sur l’éthique de l’intelligence artificielle.

Quiconque a vu le film d’animation Wall-E — réalisé par Andrew Stranton en 2008 — se souvient de ces images stupéfiantes: les humains qui ont dû quitter la planète Terre, trop polluée, se retrouvent dans des vaisseaux entièrement automatisés. Ils se déplacent sur des plateformes anti-gravité, le regard rivé à des vidéos tandis qu’ils sont devenus obèses à force de laisser les machines les soulager du moindre effort.

Dans Automation and Utopia (Harvard University Press 2019) que je viens de terminer, John Danaher enchaîne deux thèses un rien provocatrices: 1) ce futur — ou quelque chose d’approchant — pourrait bien être le nôtre; 2) ça n’est pas forcément une mauvaise nouvelle. Voilà ce que je vais essayer d’établir dans ce compte rendu du livre: l’automatisation pourrait-elle nous mener à l’utopie?

Le John Danaher qui fait du jiu jitsu sur Google n’est pas celui qui nous intéresse ici. Le nôtre enseigne à la faculté de droit de l’Université nationale d’Irlande, à Galway. Comme chercheur, il s’intéresse aux implications éthiques, sociales et légales des nouvelles technologies. Il a publié de nombreux articles sur des sujets tels que les risques de l’IA avancée, le sens de la vie, l’éthique de l’amélioration humaine ou l’intersection du droit et des neurosciences.

J’ai pu récemment le voir présenter un papier dans le cadre des Conférences de Montréal en éthique de l’IA sur la manière dont les robots sociaux pourraient perturber nos systèmes moraux. En 2017, il a co-dirigé Robot Sex : Social and Ethical Implications, le premier ouvrage collectif sur le sujet. Il est aussi très productif sur son blog Philosophical Disquisitions et je recommande tout particulièrement son podcast du même nom, où il convie des chercheurs et chercheuses à discuter de leurs travaux, ce qui donne des débats pointus et souvent passionnants.

Image for post
Image for post

Mais concentrons-nous sur son dernier ouvrage, judicieusement sous-titré l’épanouissement humain dans un monde sans travail. L’hypothèse initiale, c’est que l’automatisation du travail va progressivement éliminer la nécessité d’employer des humains. « Dans une large mesure, écrit Danaher, ce livre est une expérience de pensée. Il demande au lecteur de supposer que l’obsolescence de l’humain est inévitable et d’envisager les conséquences qui pourraient découler » (p. 12).

Dans son bestseller Homo Deus (2017), Yoval Noah Harari s’était déjà frotté à une idée similaire. Il décrivait ce futur possible où une classe d’élites augmentés règne sur des sans-emplois, des inutiles. La description était frappante et elle marquait durablement les esprits. Mais Harari passait relativement vite et ne s’interrogeait ni sur les chances réelles qu’une telle société advienne, ni sur sa valeur morale. En somme, il se contentait d’une esquisse.

Dans Automation and Utopia, il en va tout autrement. L’ouvrage, qui relève de la philosophie des technologies et s’inscrit dans la tradition analytique, frappe par sa clarté et l’attention portée à l’argumentation. Il est structuré autour des quatre propositions suivantes (p. 11):

Proposition 1 : l’automatisation du travail est à la fois possible et souhaitable : la plupart du temps, le travail est mauvais pour la plupart des gens, ce dont ils ne se rendent pas toujours compte. Nous devrions faire notre possible pour hâter l’obsolescence des humains dans le secteur du travail.

Proposition 2 : l’automatisation de la vie en général (en dehors du travail) est une chose moins positive : l’utilisation des technologies d’automatisation dans la vie quotidienne représente une menace importante pour le bien-être, le sens et l’épanouissement de l’être humain. Nous devons gérer soigneusement notre relation avec la technologie pour limiter ces risques.

Proposition 3 : une façon de gérer notre relation avec la technologie serait de construire une utopie cyborg, mais on ne sait pas très bien dans quelle mesure cela serait vraiment faisable ou utopique [au sens de désirable]: nous intégrer à la technologie, pour devenir des cyborgs, pourrait arrêter la marche vers l’obsolescence humaine en dehors du travail. Cette approche pourrait offrir de nombreux avantages, mais elle comporte aussi des risques pratiques et éthiques qui la rendent moins souhaitable qu’il n’y paraît à première vue.

Proposition 4 : une autre façon de gérer notre relation avec la technologie serait de construire une utopie virtuelle, ce qui est à la fois plus faisable et plus désirable qu’on ne le pense: au lieu de nous intégrer à des machines dans un effort pour maintenir notre pertinence dans le monde « réel », nous pourrions nous replier sur des mondes « virtuels » créés et soutenus par l’infrastructure technologique que nous avons construite. À première vue, cela semble être un abandon, mais il existe des raisons philosophiques et pratiques convaincantes de favoriser cette approche.

Pour démontrer ces propositions, Danaher va produire une foule d’arguments, de contre-arguments et d’objections à ces contre-arguments (bref, on ne confondra pas avec Michel Onfray). Il va aussi mobiliser différents débats philosophiques qui donnent à son essai un côté baroque, curieux, parfois détonnant et souvent stimulant.

Vers la fin du travail humain

Le livre s’ouvre par un rappel des différents secteurs où l’automatisation pourrait rendre le travail humain presque superflu. Du ramassage des fruits rendu possible par l’apprentissage automatique aux marchés financiers qui, parce qu’ils vont vite, constituent désormais « l’habitat naturel des machines » (p.15), l’automatisation se profile partout. En santé, les diagnostics conduit par des IA vont enlever beaucoup de travail aux radiologues et seuls des algorithmes peuvent lire la quantité exponentielle des résultats de recherches. Dans le domaine des services, les emplois des call center et des conducteurs vont être automatisés, tout comme ceux des épiceries et supermarchés transformés en self-service. Le domaine de la gouvernance n’est pas oublié, ni les dispositifs de surveillance de la police.

À bien des égards, ce n’est pas une surprise. L’IA qui simule l’intelligence permet d’automatiser des tâches humaines, notamment dans le cadre du travail des gens. Avec ces différents exemples, Danaher ne dit pas que l’automatisation est notre inévitable futur, ce que Harari se gardait aussi de faire. Il entend plutôt montrer que c’est possible — et souhaitable.

Il faut noter que Danaher définit le travail en termes économiques. C’est toute activité (physique, cognitive, émotionnelle, etc.) exercée en échange d’une récompense économique ou dans l’espoir ultime de recevoir une récompense économique (p. 31). Une société post-travail ne signifie donc pas que les parents ne s’occupent plus de leurs enfants, ni qu’on abandonne toutes activités pratiquées en amateur.

Surgit une objection. Penser que l’automatisation rend le travail humain obsolescent, n’est-ce pas reconduire le « sophisme des luddites »? Ces ouvriers britanniques du début du 18e siècle détruisaient les machines de peur qu’elles ne prennent leurs emplois. Or, l’emploi dans l’industrie est resté florissant durant au moins les deux siècles suivants. L’erreur des luddites, explique Danaher, c’était de voir la quantité de travail comme une quantité fixe et d’oublier que l’économie est un processus dynamique. La technologie peut créer de nouveaux emplois.

Il n’empêche, reprend l’auteur, que sur le fond, l’intuition des luddites est correcte. Les machines peuvent tout à fait remplacer le travail défini en termes économiques. Une étude indique que 49% des activités pour lesquelles les gens sont payés (en 2017) pourraient être automatisés (avec des technologies qui existent déjà) et que cela conduirait 51% de la population des États-Unis au chômage. Des compagnies comme Amazon, Alibaba, Google ou Facebook parviennent d’ailleurs à dominer leurs marchés avec très peu d’employés.

Que faut-il en penser selon l’auteur? « Ce serait sans doute une chose terrible que l’automatisation aboutisse à des masses de sans-emploi, à des populations excédentaires vivant dans le dénuement. Mais si la situation du chômeur pouvait être meilleure que celle du travailleur — si nous avions de bonnes raisons de souhaiter l’automatisation du travail — alors le problème de la précarité ne se poserait plus. » (p.51)

Vivre sans travailler: une utopie réaliste?

Le troisième chapitre s’emploie justement à démontrer que la fin du travail serait une bonne chose. Si nous étions rationnels, nous devrions tous haïr notre job! Le travail, explique Danaher, est mauvais et indésirable de façon structurel. Il ne s’agit pas de le réformer, mais de le faire disparaître — et plus précisément pour cinq raisons:

1) Le travail implique une domination injuste de l’employeur qui compromet la liberté du travailleur — et cette liberté doit s’entendre au sens de la liberté républicaine, c’est-à-dire comme non domination.

2) Le développement de l’économie de plateforme (Uber, Mechanical Turk) et le recours à plus de contractants (la technologie et le droit ont permis de résoudre les problèmes de coordination, les travailleurs d’Uber sont des « auto-entrepreneurs ») font que le travail se décentralise. Les employés deviennent précaires en même temps que leurs conditions de travail se détériorent.

3) La répartition de la richesse par le travail est injuste. Aux États-Unis, le top 1% des employés les mieux payés reçoit 20% du revenu du travail (les inégalités de revenu du capital sont avec le top 1% qui en possède 35%). Ils ne sont évidemment pas vingt fois plus méritants.

4) Le travail colonise nos vies, en particulier notre emploi du temps. « La plupart de nos efforts physiques et mentaux sont consacrés à la préparation, à l’exécution ou à la récupération du travail. Et cela s’aggrave avec la technologie. » (p.55)

5) Le travail est chiant. Les études montrent que la plupart des gens sont insatisfaits de leur travail et pensent qu’ils pourraient mieux s’occuper à la place.

L’auteur qui avoue faire partie des quelques privilégiés pour qui le travail n’est pas une corvée, discute les objections à sa thèse. Beaucoup soutiennent qu’il y a quelque chose d’intrinsèquement bon dans le travail. Il remplit notre besoin d’exercer nos capacités pour surmonter des obstacles. De plus, en travaillant, on contribue positivement à la société où l’on vit; on crée de la communauté; on entretient son estime de soi et son statut social. « Mais, réplique Danaher, ce n’est pas comme si ces biens étaient impossibles à obtenir en dehors des limites du lieu de travail. » (p.80)

Image for post
Image for post

Il existe bien sûr des raisons d’être pessimiste. Si l’on définit la vie bonne en termes de bien-être et de signification (avoir quelque chose qui donne du sens à sa vie), il n’est pas certain que l’automatisation nous y mène. « Dans le monde de Wall-E, la technologie semble être trop efficace : elle permet aux humains de céder trop facilement à leurs désirs immédiats (pour la nourriture et les loisirs), et ce au détriment des autres. Peut-être la vie de ces humains est-elle subjectivement satisfaisante, mais elle obtiendrait un score faible à toute évaluation objective du bien-être et de la signification. La technologie les a rendus paresseux et stupides. » (p. 90)

De ce point de vue, ce que suggère Wall-E, c’est que l’automatisation peut nous couper du monde et nous détourner de ce qui importe. Plus généralement, en réduisant notre compréhension et en manipulant nos choix, en captant notre attention, les technologies rendent le monde opaque et menacent notre autonomie. Ces menaces qui pèsent sur l’agentivité humaine constituent un argument sérieux en faveur du «techno-pessimisme». Mais elles n’interdisent pas toute espérance utopique.

Il faut comprendre la logique profonde derrière l’automatisation. L’espèce humaine, explique Danaher à la suite de Steven Pinker, a évolué pour occuper une niche particulière, la niche cognitive. Nous sommes une espèce spécialisée dans la cognition. Mais cela est coûteux en énergie: notre gros cerveau consomme 20% de notre énergie alors qu’il ne pèse que 2% de notre masse corporelle. Il est donc tentant d’externaliser ses efforts avec des artefacts qui ne font pas qu’améliorer ou complémenter notre cognition comme un boulier ou une feuille de papier pour le calcul, mais qui, comme une calculatrice, remplacent tout effort. En somme, c’est la loi du moindre effort qui dicte la marche.

Comment cela pourrait-il nous conduire à une utopie? Et d’abord que faut-il entendre par cette notion? John Danaher propose de la définir, à la suite de Christopher Yorke, comme « tout projet d’amélioration socio-politique radicale et réalisable qui, s’il était mis en place, améliorerait la situation de tous sans aggraver celle de personne, et tout en respectant les droits de tous. » (p. 127). C’est un monde possible et réalisable qui représenterait une amélioration morale radicale par rapport à notre monde actuel.

Une condition est nécessaire pour que la fin du travail ne soit pas une dystopie. La technologie et l’automatisation doivent conduire à une société d’abondance (à une cornucopie), où les biens et les services sont très abordables et où le manque de revenu du travail est compensé par un système de redistribution du genre basic income. Mais le livre ne présente pas de recette pour atteindre cette économie post-rareté. En ce sens, ce n’est pas un essai politique. C’est plutôt l’examen d’une hypothèse intéressante. Ou plutôt de deux hypothèses: une utopie cyborg et une utopie virtuelle.

L’utopie cyborg: autonomie et pluralisme

De prime abord, une utopie cyborg semble une réponse appropriée à l’obsolescence humaine: si les machines prennent notre place, nous devrions en quelque sorte contre-attaquer et devenir machines. Mais qu’est-ce qu’un cyborg exactement? Le néologisme, une contraction de cybernétique et d’organisme, fut inventé par Clynes et Kline en 1960 pour répondre à la question de savoir comment envoyer des humains explorer ce milieu très hostile qu’est l’espace. Réponse: en les améliorant par le truchement de technologies.

Dans un article de 2014, le chercheur britannique Kevin Warwick imagine au moins trois voix d’accès à la cyborgisation: 1) un cerveau biologique obtenu par culture de cellules connecté à un corps de robot; 2) des interfaces cerveau-ordinateur (cerveau-machine), des implants et autres prothèses permettant de lire l’activité cérébrale pour actionner, par exemple, un bras mécanique à distance; 3) des prothèses ou implants non cérébraux, comme une puce sous la peau, pour ouvrir une porte automatique. Danaher mentionne également les améliorations biomédicales que permettent la pharmacologie ou l’ingénierie génétique. Il est enfin possible d’imaginer un devenir cyborg moins littéral en mobilisant l’idée de cognition étendue (extended mind), c’est-à-dire en rappelant que notre cerveau peut être assisté par des artefacts externes comme un boulier, une feuille de papier ou une calculatrice.

Pourquoi l’utopie cyborg est-elle attrayante? Parce qu’elle semble préserver l’agentivité et l’autonomie des individus, et partant, un certain pluralisme. Chacun peut choisir pour lui-même ce qu’il souhaite améliorer et repousser les limites de son agentivité grâce à la technique. L’utopie cyborg permet aussi d’imaginer que la vie humaine puisse survivre à la disparition de la Terre, les cyborgs colonisant d’autres planètes. De même, si les transhumanistes sont favorables à la cyborgisation c’est parce qu’elle pourrait étendre la durée de la vie humaine.

Danaher qui discute au passage les enjeux moraux de l’exploration spatiale, de la cognition augmentée et de l’immortalité, finit par rejeter l’utopie cyborg. D’abord, il est peu probable que les cyborgs remportent le match face à l’automatisation, « Cela ne fera que retarder le jour où nous devrons envisager la possibilité plus radicale d’un avenir post-travail et, dans l’intervalle, renforcer une culture négative d’hyper-compétitivité sur le marché du travail. » (p.191) Ensuite, la cyborgisation renforce la dépendance à la technologie et rend l’humain esclave de la machine. Certains y voient même une déshumanisation inacceptable. Quant au projet de colonisation spatiale, il pourrait très bien être dystopique et à l’origine de conflits intergalactiques.

Un dernier exemple illustrera les affres existentielles auxquelles une telle société pourrait nous conduire. Dans la série cyberpunk Altered Carbon qui dépeint un état avancé de cyborgisation, les humains peuvent transférer leur esprit d’un corps à l’autre. La mémoire et la conscience sont stockées sur un disque implanté dans la nuque d’une enveloppe corporelle, biologique ou artificielle. Mais la vie bonne est-elle compatible avec une société qui permet de changer de corps et d’éliminer la mort? Où trouver du sens dans ce paradis de l’autonomie humaine où tout semble remplaçable et permissible?

L’utopie virtuelle, entre jeux vidéo et méta-utopie.

En comparaison de l’utopie cyborg, l’utopie virtuelle semble un pur et simple renoncement. Plutôt que d’affronter la concurrence des machines, réfugions-nous dans le virtuel! Réfugions-nous dans ces univers où les règles et les contraintes que nous nous imposons sont arbitraires et où toutes nos actions semblent sans conséquences. Comment procéder? Encore une fois, l’auteur est agnostique sur les moyens: casque VR, holodeck à la Star Trek, réalité augmentée…

Il ne faut toutefois pas se méprendre. Non seulement il ne s’agit pas de vivre jour et nuit avec son Oculus sur le nez, mais passer la majeure partie de son temps dans un monde virtuel n’implique pas que que toute réalité se dissipe. « Nous pourrons avoir de vraies réactions émotionnelles aux expériences que nous vivons dans ce monde [virtuel]; nous pourrons exercer de vraies vertus morales à travers nos actions dans ce monde ; nous pourrons développer de vraies compétences et capacités (maîtrise des activités) ; et beaucoup de nos institutions sociales actuelles peuvent exister sous une forme parfaitement réelle dans un monde virtuel. » (p.207)

Danaher emprunte alors au philosophe Bernard Suits l’idée de considérer le jeu comme un idéal et l’aboutissement du progrès technologique humain. Mais pourquoi y voir quelque chose de désirable? « Les jeux seront des arènes, explique Danaher, dans lesquelles l’autonomie et l’agentivité humaines pourront être nourries et développées. Ils donneront aux humains la possibilité de penser, de planifier et de décider, de cultiver des vertus morales comme le courage, la générosité ou le fair-play, et de faire preuve d’ingéniosité et de créativité.» Plutôt que les plateformes anti-gravité de Wall-E, ce sont donc les jeux virtuels du film de Spielberg Ready Player One (2018) qui pourraient paver la voie d’un avenir désirable.

Image for post
Image for post

Dans un jeu vidéo, vous ne changez pas le monde en changeant de niveau, mais ça vous fait quand même du bien. Vous avez réalisé quelque chose. Les jeux donnent accès à cette valeur qu’est l’accomplissement (achievement), un bien purement procédural mais qui n’en est pas moins une source importante de bien-être. Ils permettent aussi de retrouver quelque chose de l’artisanat (craft) où l’on apprécie le travail pour lui-même plutôt que pour son résultat. Bref, il est non seulement possible d’être heureux, mais aussi de s’épanouir et de trouver du sens dans un monde virtuel.

Il faut donc voir l’utopie virtuelle-ludique comme une course amicale vers le perfectionnement d’habileté et l’exploration de nouveaux jeux, toujours plus complexes et raffinés comme ceux décrits dans L’Homme des jeux de Iain Banks. Et il faut se défaire du cliché selon lequel, confinant ses adeptes dans leurs chambres d’adolescents, le jeu vidéo serait structurellement anti-social.

La seconde idée déployée par l’auteur s’inspire du philosophe libertarien Robert Nozick. En 1974, dans Anarchie, État et utopie, celui-ci plaidait pour un état minimal en arguant que c’était le plus propice au respect des libertés individuelles. De même, puisqu’il est probable qu’il existe non pas une seule mais plusieurs utopies désirables, nous devrions aussi être “libérale” dans ce domaine et créer les conditions d’une méta-utopie, soit une situation permettant de rendre possible diverses utopies selon les préférences des individus. En effet, c’est là le meilleur moyen de répondre au défi du pluralisme des valeurs: que chacun puisse se construire un monde possible sur mesure. En 2019, Danaher n’a pas de mal à faire admettre à ses lecteurs et lectrices que les technologies de réalité virtuelle sont plus à même qu’un État minimal de nous rapprocher d’une authentique méta-utopie.

Mais Nozick n’est-il pas justement célèbre pour une expérience de pensée qui cloue le bec à toute utopie virtuelle? Vous brancheriez-vous à une « machine à expérience » qui comblerait définitivement tous vos désirs et vous ferait même oublier que vous y êtes entré? La plupart des gens répondent que non. Ils préfèrent que les choses leur arrivent « pour de vrai » — et Nozick y voyait un argument contre l’hédonisme. N’est-ce pas aussi bien la preuve qu’une utopie virtuelle n’est pas souhaitable?

En fait, les choses ne sont pas si simples. Des recherches en philosophie expérimentale (celles de Felipe De Brigard) ont montré que les réponses des gens à la machine à expérience traduisent davantage un biais du statu quo qu’une intuition morale stable. Surtout, explique Danaher, l’utopie virtuelle n’est pas la même chose que l’expérience de pensée de Nozick: « en souscrivant à l’utopie virtuelle, on ne vous demande pas de vous brancher sur une machine, d’effacer votre mémoire et de rejeter tout ce que vous avez connu jusque-là. » (p.238)

Une autre objection consiste à s’inquiéter que l’utopie virtuelle ne devienne qu’un terrain de jeu pour l’immoralité. En effet, si tout est simulé, si tout est du jeu, ne risque-t-on pas comme dans la série Westworld de favoriser les plus bas instincts humains? Là encore Danaher est circonspect. Il n’y a pas de raison de penser que les standards éthiques ne s’appliquent pas au monde virtuel et que tout y est permis. Les interactions avec les autres joueurs, par exemple, peuvent requérir leurs consentements. De façon plus générale, les vertus morales que nous cultiverons dans les mondes virtuels seront tout aussi réelles que celles que nous possédons dans le monde physique. Et les gens y seront tout aussi blâmables s’ils ne respectent pas ces standards moraux.

En définitive, c’est à un compromis que nous convie Danaher. Avec l’utopie virtuelle, les avantages de l’automatisation pourraient supplanter ses désavantages. « Nous pouvons embrasser notre obsolescence croissante et nous retirer dans des mondes virtuels. Ce faisant, nous devrons peut-être renoncer à certaines aspirations et à certains espoirs de longue date, mais il ne faut pas surestimer les coûts que cela implique. Nous ne devrons pas tout abandonner dans notre retraite vers le virtuel ; et nous pourrons chercher des sources de sens avec plus de vigueur et moins de contraintes que jamais. » (p.245).

Si cette dernière thèse paraît un peu trop massive pour convaincre totalement, on n’en conclura pas pour autant que le livre se solde par un échec. Après tout, comme devant toute proposition radicale et contre-intuitive, il semble raisonnable de laisser décanter pour y revenir plus tard. Sans doute, la perspective de renoncer à se battre contre les machines est-elle séduisante. Mais pour atteindre ce monde post-travail, l’histoire (techno)optimiste que nous raconte John Danaher fait l’impasse sur un chapitre crucial: comment les humains et leurs machines sont-ils parvenus à se sortir de la crise climatique? Et quelle place l’utopie virtuelle accordera-t-elle à celles et ceux qui résisteront aux délices des jeux vidéo, ce qui inclut vraisemblablement certains humains et la plupart des non-humains? De ces questions, Automation and Utopia ne nous dit rien. Et la réponse, hélas, n’est pas non plus dans Wall-E.

Chercheur en éthique de l’intelligence artificielle (Université de Montréal)

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store