Résister aux sirènes des algorithmes

06/06/2017

L'intelligence artificielle peut gagner au poker, rédiger un compte rendu sportif, créer une oeuvre artistique. Dans la recherche scientifique aussi, elle progresse à pas de géant: elle aide les linguistes à analyser des corpus de textes, des physiciens à imaginer de nouveaux matériaux et des biochimistes à effectuer rapidement des centaines d'expériences. Mieux encore, des prototypes s'attaquent à des aspects réellement créatifs: ils formulent à partir d'observations des hypothèses inédites.

(De "Horizons" no 113 june 2017)​​​​​​

La puissance de ces nouvelles approches ne menace pas les emplois des chercheurs, comme on le craint pour d'autres activités. Elle a néanmoins le potentiel de redéfinir la manière dont nous pratiquons la recherche: il sera difficile de résister à l'appel d'outils qui produisent rapidement encore plus de résultats. Le vrai danger serait d'adapter notre pensée à celle de la machine. Nous en sortirions forcément perdants.

Car ces avancées soulèvent des questions épistémologiques très concrètes. Certaines preuves mathématiques générées par ordinateur sont bien trop longues pour être jamais lues – et donc vérifiées ou comprises – par un humain. Un algorithme suit des procédures d'optimisation relativement simples en principe, mais extrêmement complexes en pratique. Au final, il est pratiquement impossible de retracer le "raisonnement" suivi. Cette opacité exige une confiance aveugle en la machine. Que faire d'un résultat qu'on ne comprend pas? Cela pose une question plus profonde: la science se définit-elle par l'ensemble des connaissances qu'elle génère, ou bien par une méthode?

Pour le physicien Richard Feynmann, la science est une attitude: "It's is a kind of scientific integrity, […] – a kind of leaning over backwards. For example, if you're doing an experiment, you should report everything that you think might make it invalid." Il serait naïf de laisser cette dernière tâche à un programme informatique. L'essor des robots chercheurs est inévitable. Il doit nous encourager à raisonner de manière non pas algorithmique, mais discursive et contrefactuelle. Il sera d'autant plus crucial de garder un espace pour la pensée non conventionnelle. C'est elle, et non pas une machine à pipeter à tour de bras, qui se trouve au coeur de l'âme de la science.

Daniel Saraga, rédacteur en chef​​​