De l’autre côté de la machine

Aurélie Jean, jeune et brillante scientifique française, enseignante et chercheuse, a écrit De l’autre côté de la machine, sous-titré Voyage d’une scientifique au pays des algorithmes. L’objet de son ouvrage est de démystifier et de vulgariser l’algorithmique, cette science analytique et prédictive qui s’est installée au cœur de nos vies et dont le caractère mystérieux nourrirait nombre de fantasmes et de peurs infondées. Mais la défiance grandissante à l’encontre des algorithmes est-elle aussi infondée que cela ?

« Automne 2011, Boston, Nouvelle-Angleterre. Depuis un mois, je travaille sur le campus du Massachusetts Institute of Technology (MIT), où, sous la direction des professeurs Raul Radovitzky et John Joannopoulos, j’utilise les mathématiques, la physique, l’algorithmique et le code informatique pour comprendre les mécanismes du traumatisme crânien. » Consciente d’être « une de ces scientifiques qui font avancer la connaissance », Aurélie Jean a choisi de travailler sur les algorithmes et la modélisation du monde. A l’image d’Alice au pays des merveilles, le personnage de Lewis Carroll, elle a opté pour le monde parallèle « de l’autre côté du miroir », entre réel et virtuel, consciente du nouvel enjeu de civilisation que cela représente. Persuadée que les robots tiendront une place croissante dans nos quotidiens, plus encore avec l’arrivée prochaine de l’ordinateur quantique, elle ambitionne d’augmenter la culture numérique de chacun, en assumant d’autre part un féminisme dont on ne sait pas très bien ce qu’il apporte au sujet et en flirtant souvent avec des désirs narcissiques ou démiurgiques : « J’aime coder, because I have the power, I have the power to change the world. »

Une fois défini l’algorithme en tant que processus logique d’opérations hiérarchisées pour résoudre un problème, notre auteur explique qu’elle a travaillé dans des domaines variés comme l’étude d’un élastomère chargé en nanoparticules de noir de carbone (propriétés élastiques du caoutchouc), ou sur l’écriture d’une loi mathématique qui détermine le risque de traumatisme crânien en fonction du type d’impact (elle effectua ce travail à la suite des attentats de Boston en 2013). L’interdisciplinarité est sans conteste la marque de fabrique de ce cerveau éclectique puisqu’elle a même travaillé un temps chez Bloomberg, le Google de la finance.

Soucieuse d’apparaître objective, elle mentionne l’existence obligatoire de biais dans les algorithmes, à l’instar des biais cognitifs que nous développons tous, qui rendent leur manipulation sensible. Il y a ici une première concession faite aux sceptiques. « Parce qu’ils sont inévitables, les biais nous forcent à développer notre esprit critique. Ils sont, en quelque sorte, l’ingrédient magique de l’autodéfense intellectuelle chez le numéricien : ils nous poussent à remettre sans cesse en question les résultats d’autrui, mais aussi nos propres idées » affirme Aurélie Jean. Oui, est-on tenté de répondre, mais pas au point de freiner la course des transhumanistes vers l’immortalité et vers le fameux « point de singularité » que nombre de scientifiques convoitent parce qu’il est ce graal où l’intelligence artificielle deviendra l’égale de l’intelligence humaine. Vingt-cinq ans pour toucher ce graal, d’après certains pronostics, l’équivalant d’une génération. Mais les biais se sont aussi invités dans nos vies bien réelles engendrant des déviances parfois hallucinantes : que l’on songe par exemple à « l’effet Eliza » qui fait aimer les robots, ou à la demande de certains juristes de conférer des droits aux robots afin qu’ils deviennent « une nouvelle espèce » en dépit du déclassement de l’homme ravalé à un groupe catégoriel parmi d’autres. L’antispécisme revendiqué par certains à l’égard des animaux concernera bientôt les robots, soyons-en persuadés. L’Arabie-Saoudite, modèle bien connu de liberté (les femmes peuvent en témoigner) vient d’octroyer des droits à un robot nommé Sofia en lui accordant la citoyenneté. Des jurisprudences insensées voient régulièrement le jour dans ce monde démentiel du scientisme prométhéen mondialisé qui accorde la personnalité juridique aux robots, et bientôt aux algorithmes, avant que n’advienne le « point de singularité ». Dynamique vertigineuse.

Si Aurélie Jean indique qu’une forme d’éthique est nécessaire, que les scientifiques doivent être philosophes et inversement, elle reste avant tout persuadée de la marche en avant du monde, de son progrès perpétuel et, en cela, appartient à notre avis à l’élite des « idiots utiles », ces scientifiques convertis à la religion technique qui servent le « technologiquement correct », émanation d’un ensemble bien plus vaste et ô combien destructeur : le politiquement correct. Celui-ci a en son sein le moteur ou la religion nouvelle du progressisme techniciste. Notre auteur est bien sûr convaincu d’œuvrer contre les populismes et les discriminations de toutes sortes. Son humour cède souvent à la facilité, par exemple lorsqu’elle encourage le mélange « vertueux » des mondes scientifique et politique et regrette que Cédric Villani, « talent en IA (Intelligence Artificielle) »,  « ne puisse pas encore se cloner ».

Il est par conséquent vain de sa part de vouloir rassurer en évoquant la distinction entre IA « faible » et IA « forte ». L’IA « faible » est celle que l’on retrouve dans la médecine, la finance, le marketing, et quantité d’autres disciplines. Elle a pour fonction de mettre une intelligence au service de ladite discipline pour la rendre plus efficiente. L’IA « forte », destinée à se substituer à l’humain, ne serait quant à elle pas pour demain. Nous sommes peu convaincus par l’argument tant l’ouvrage met en exergue les ruptures anthropologiques en cours, tels l’effet « Eliza » et le « point de singularité » évoqués.

Aurélie Jean reprend à son compte les dix catégories que proposait Aristote au IV^ème siècle avant notre ère pour décrire l’homme (substance, quantité, qualité, relation, lieu, temps, position, possession, action, passion). Elle se sert de ces critères pour justifier le bien-fondé de l’algorithmique destinée à catégoriser le monde pour mieux le comprendre. Grand écart plutôt ridicule de la part de notre scientifique, et saupoudrage philosophique destiné à faire avaler la peu ragoûtante pilule technologique.

Aveuglée d’elle-même, elle ne voit pas (ou feint) que le monde nouveau qu’elle contribue à bâtir, après le théocentrisme médiéval, après l’anthropocentrisme de la Renaissance, marque l’avènement du technocentrisme, soit une modalité de société où l’homme est réduit à la portion congrue. A quoi bon prôner le bien de tous, le sens des bonnes actions, « l’inclusion numérique » si c’est pour abandonner l’homme sur les bas-côtés de l’Histoire ? Notre auteur, talentueux, est captivé par son propre hubris et a les yeux de Chimène pour le Dieu Progrès. Elle incarne la Tête ayant pris le pas sur le Cœur et la Main pour parler comme l’essayiste anglais David Goodhart. C’est dommage, et c’est très éloigné de l’exigence de vérité, du besoin de sacré et de la nécessité d’un renouveau des relations dont notre époque a besoin.