Défense et illustration des systèmes d’intelligence artificielle

La Quatrième Blessure: un blogue sur l’éthique de l’intelligence artificielle.

Il y a quelques mois, une revue m’avait commandé un texte pour présenter “les bons côtés” de l’IA. Comme il n’a pas été retenu, j’ai décidé de le publier ici. Je n’ai pu résister à une mini mise à jour en mentionnant d’AlphaFold, mais pour le reste, c’est la même chose. Vous allez voir comme c’est scandaleux et/ou mauvais.

Les inquiétudes collectives à l’égard de l’IA et des nouvelles technologies ont parfois tendance à nous faire oublier que tout ça pourrait bien tourner. Au-delà de ces craintes souvent justifiées, quels bénéfices est-on en droit d’attendre?

En premier lieu, les systèmes d’IA — pour reprendre le vocable de la Déclaration de Montréal pour un développement responsable de l’IA — permettent d’automatiser des tâches, ce qui devrait, dans la majorité des cas, être une bonne nouvelle. Le principal bénéfice attendu des voitures autonomes, par exemple, c’est de libérer l’humain de la tâche de conduire. De même, un système de traduction automatique remplace le lent et fastidieux apprentissage d’une langue, ou un système de tri des courriels, le labeur fastidieux d’éliminer les pourriels.

Ce gain de temps n’est pas bon en soi. Il n’est pas évident, par exemple, que l’automatisation d’un abattoir soit une bonne chose. Du point de vue d’une évaluation morale en termes de bien-être, ce qu’il faut faire, c’est comparer les deux mondes possibles : celui où un humain opère la tâche et celui où elle est automatisée. On entre alors bien inévitablement dans la nuance : quel système d’IA opère, et dans quel contexte?

Certes, il arrive que des gens conduisent ou apprennent une langue pour le plaisir. Un monde possible où ce ne serait plus le cas serait sans doute moins bon. Mais les voitures autonomes et les systèmes de traduction automatique n’empêchent pas ces activités. Et rien ne vous interdit de désactiver le tri automatique des pourriels pour le plaisir de consulter les offres incroyables venues du monde entier.

Il n’empêche que de nombreuses tâches sont ennuyeuses et répétitives : les cerveaux humains seront mieux employés à faire autre chose, qu’il s’agisse d’une activité productive ou de se divertir. On peut ainsi présumer que les gens qui, dans une voiture autonome n’auront plus à conduire pourront méditer, travailler, jouer ou regarder des séries.

Le développement de l’IA peut alors s’inscrire dans le vieil objectif de la réduction du temps de travail et dans l’aspiration à une société de loisir, un thème déjà présent dans le manifeste de Paul Lafargue Le droit à la paresse (1880) où le gendre de Karl Marx, pourfend la « valeur travail » et milite pour une journée de 3h.

Des outils plus précis, personnalisés et efficaces.

Si le gain de temps par le remplacement d’une tâche cognitive est le premier bénéfice attendu des systèmes d’IA, la précision, la personnalisation et l’efficacité ne seront pas loin derrière. Car les systèmes d’IA ne font pas que remplacer des humains, il arrive qu’ils soient meilleurs dans les tâches qu’on leur assigne. Les robots de transport que sont les voitures autonomes ne consomment pas d’alcool, ne s’assoupissent pas et respectent le Code de la route : elles devraient être plus sécuritaires que des conducteurs humains. Elles devraient aussi optimiser la conduite pour consommer moins d’énergie, voire, à terme, se coordonner avec d’autres robots de transport et fluidifier ainsi la circulation.

Comme pour le gain de temps, le gain d’efficacité n’est pas bon en soi. Tout dépend, bien sûr, de la valeur de l’objectif que servent les systèmes d’IA. Un marteau peut servir à construire une cabane ou à torturer des innocents. Or, puisqu’on s’accorde en général pour voir dans la santé un objectif louable, c’est certainement un des domaines où les gains qu’apportent les systèmes d’IA seront les plus prisés. Les techniques d’apprentissage profond qui ont révolutionné la recherche depuis 2012 permettent aujourd’hui d’identifier des patterns dans des données qui demeurent invisibles aux soignants.

Un bon exemple serait la reconnaissance de tumeur à partir d’images médicales : pour certains diagnostics, les algorithmes sont d’ores et déjà meilleurs que les meilleurs radiologues. Et comment ne pas évoquer AlphaFold, un système d’IA capable de prédire la structure des protéines? On retrouve ces macromolécules dans toutes les cellules vivantes et leurs propriétés sont étroitement liées à leur structure, à leur façon de se replier. Les experts estiment que la recherche en santé va faire des bonds de géants grâce à cette IA développée par la société DeepMind.

Dans son bestseller Homo Deus, l’historien Yuval Noah Harari rapporte les avantages d’une assistance médicale comme Watson, une IA développée par IBM. Les avantages en termes d’efficience sont évidents : « Elle peut stocker dans une banque de données des informations sur toutes les maladies connues et les médicaments. Elle peut les mettre à jour quotidiennement. » De plus, une telle IA pourra avoir une connaissance très intime des antécédents et du génome des patients. Étant toujours disponible (contrairement au médecin), « je pourrai m’installer confortablement dans mon canapé et répondre à des centaines de questions, lui expliquer exactement ce que je ressens. » (p.398). Bref, une médecine vraiment personnalisée.

Il faut aussi voir que les systèmes d’IA sont des technologies de l’information ; en tant que tels, ils peuvent être répliqués avec un coût marginal presque nul. En effet, une fois que vous avez élaboré un algorithme capable d’identifier une tumeur, par exemple, il devient relativement facile de répandre la bonne nouvelle pour en doter de nombreux hôpitaux. (De même, le coût d’exploitation d’un jeu vidéo ou d’un film est minime au regard du coût de production.)

En nous faisant gagner du temps et de l’efficacité, les systèmes d’IA augmentent la productivité et donc la richesse. Cela soulève bien sûr la question économico-politique importante de savoir qui devrait en profiter, mais s’opposer à l’automatisation ou à l’industrialisation en tant que telle paraît étrange. Dans son livre The rise of the robots (Basic Books, 2015), le futurologue Martin Ford rapporte ainsi une anecdote qui serait arrivée à l’économiste Milton Friedman.

Dans les années 1960, alors que ce dernier visite un chantier de construction dans un pays asiatique, il s’étonne de voir les ouvriers avec des pelles plutôt que des tractopelles. Le bureaucrate du gouvernement qui l’accompagne lui ayant expliqué qu’il s’agissait d’un programme pour créer des emplois, l’économiste américain lui aurait rétorqué : « Oh, je pensais que vous vouliez construire un canal. Si c’est des emplois que vous voulez, vous ne devriez pas donner des pelles aux ouvriers, mais des petites cuillères. »

Développement humain et utopie virtuelle

On a tendance à associer l’IA avec les sociétés riches où la technologie occupe une place prépondérante. Pourtant, les bénéfices des systèmes d’IA pourraient surtout apparaître dans les pays en voie de développement. Dans le livre blanc Intelligence artificielle et développement humain (2018), les auteurs suggèrent plusieurs pistes.

D’une part, les soins de santé pourraient être améliorés à faible coût. Imaginez que toutes les populations aient accès à l’assistant médical virtuel décrit par Harari : ce serait techniquement possible si l’application peut fonctionner avec un téléphone intelligent. Et cela permettrait également de mieux surveiller la propagation des maladies.

Par ailleurs, l’administration publique et l’éducation peuvent aussi profiter des systèmes d’IA. Dans de nombreux pays, les gouvernements pourraient offrir de meilleurs services aux citoyens tandis que des applications éducatives, là encore accessibles à partir de téléphones intelligents, pourraient démocratiser l’accès au savoir tout en personnalisant l’apprentissage. L’agriculture enfin, peut bénéficier de ces nouveaux outils : des systèmes d’IA sont ainsi utilisés pour soutenir la gestion de l’eau en Palestine et surveiller les sécheresses en Ouganda. On devine aussi l’avantage d’un système capable d’identifier les maladies d’une culture à partir d’une simple photo.

Toutefois, voir dans les systèmes d’IA — ou dans une hypothétique superintelligence — une échappatoire à la crise climatique et environnementale serait sans aucun doute un exemple de techno-solutionnisme naïf. L’IA peut certes contribuer au diagnostic de la crise et à l’optimisation des instruments de lutte, par exemple en gérant mieux les ressources énergétiques. Reste qu’il faut se préparer à vivre dans un monde où l’objectif d’un réchauffement inférieur à 2 degrés celsius ne sera pas atteint.

Si nous avons du mal à envisager sereinement que les systèmes d’IA puissent réellement améliorer les choses et non les empirer, c’est sans doute que nous sommes en manque de récits optimistes. Quel genre d’utopie pourrait donner à cette modeste défense et illustration des systèmes d’IA un caractère plus inspirant?

Dans son livre Automation and Utopia (Harvard University Press, 2019), le philosophe John Danaher avance une idée a priori rebutante, mais qui gagne à être examinée. En réponse à l’automatisation qui aboutira à l’obsolescence du travail humain, Danaher envisage une « utopie virtuelle » où nous passerions notre temps libre à jouer, individuellement ou collectivement — que ce soit avec des casques de réalité virtuelle, des hologrammes à la Star Trek ou de la réalité augmentée à la Pokemon Go. Pour Danaher, loin d’être la fin des relations humaines, une telle utopie serait plutôt une voie royale vers un épanouissement inédit dans l’histoire humaine. Car n’oublions pas que la plupart des choses qui nous arrivent dans un monde virtuel — sensations, amitiés, conversations — sont tout à fait réelles.

Pour conclure ce petit tour d’horizon des bienfaits potentiels des systèmes d’IA, on ne saurait trop insister sur la diversité et la singularité de ces systèmes. Toute illustration fidèle devrait se tenir le plus loin possible d’une IA univoque, uniforme et réifiée. Car l’IA tout court a ceci de commun avec les fourmis de dix-huit mètres chères au poète Robert Desnos : ça n’existe pas, ça n’existe pas.

Martin Gibert est chercheur en éthique de l’IA à l’Université de Montréal (rattaché à l’IVADO et au CRÉ). Page web personnelle.