Le test de Turing

[Philippe Thomine]

Je propose de considérer la question : « les machines peuvent-elles penser ? ». Il faudrait commencer par définir le sens des termes machine et penser. Les définitions pourraient être conçues de manière à refléter autant que possible l'utilisation normale des nombres...

[Gérard Chazal]

Le test de Turing est une espèce de scénario, de jeu, de jeu de l'imitation dans lequel une machine est placée en parallèle avec un homme ou un être humain et où le problème est de savoir si on peut distinguer l'un de l'autre. Et donc, à partir du moment où on ne pourra pas distinguer, à travers un dialogue où les interlocuteurs ne se voient pas, où on ne pourra pas distinguer la machine de l'être humain, Turing nous dit, à partir de ce moment-là, on pourra dire que la machine pense ; donc c'est une façon de définir ce qu'on entend par penser, en partant des machines. Ce test a deux aspects, qui me paraissent importants. Le premier, évidemment, c'est qu'il se situe à un moment, dans les années cinquante : c'est les débuts de l'informatique mais on commence à se poser la question : « est-ce qu'une machine pourrait penser ? ». Alors, c'est une vieille question, mais qui était, j'allais dire jusqu'ici littéraire, qui était mythique, un peu ; tandis que là, elle commence vraiment à se poser. Le mot intelligence artificielle va apparaître peu après en 1956. Ce test se place à un moment très particulier et c'est surtout le moment où l'intelligence artificielle, l'informatique va se développer sous son aspect symbolique, c'est-à-dire sur cette idée que finalement – et c'est ce qui ressort un peu du test de Turing - l'intelligence, c'est la capacité de combiner des éléments symboliques, donc du langage. On est vraiment dans le cadre du langage ; l'intelligence - et c'est l'aspect philosophique disons du test de Turing - la question de l'intelligence ou de la pensée est étroitement liée à celle du langage puisque c'est à travers le langage que l'on va déterminer si la machine pense ou ne pense pas. C'est donc la capacité langagière qui est le support de l'intelligence.

[Baptiste Mélès]

Le fait qu'il y est une insistance sur le caractère linguistique, langagier... Cette insistance- là, ce n'est pas Turing qui le dit, mais en fait, ça se comprend quand on lit son texte. On voit qu'implicitement, c'est la conception qu'il se fait de l'intelligence mais lui-même ne le dit pas explicitement. Et quand on voit aussi la façon dont il développe son test, on voit que ce qui l'intéresse en réalité, c'est l'indicernabilité psychologique. Il donne un exemple, une conversation qui est assez drôle entre un être humain et une machine. Et en fait ce qui est intéressant, c'est de voir que la machine met du temps à répondre, met artificiellement du temps à répondre parce qu'en réalité, elle connaît tout de suite le bon résultat d'une opération arithmétique qu'on lui demande ; elle connaît le résultat mais elle va mettre du temps à répondre et elle donne une réponse fausse. Et donc ça veut dire que le test de Turing tel qu'il est défini par Turing favorise ces types de biais, d'un côté la lenteur, de l'autre côté les erreurs, qui sont des caractéristiques de la pensée, enfin de la psychologie humaine mais qui ne sont peut-être pas caractéristiques de l'idée qu'on se fait de ce que c'est que penser. Puisque si l'idéal de ce que c'est de penser, c'est de répondre lentement et faux... rires... c'est une conception certainement dégénérée de la pensée...

[Gérard Chazal]

Je vois bien ce que vous voulez dire. Il y a deux aspects dans ce que vous dites.

Il y a le premier aspect : Turing ne veut pas rentrer dans les débats sur la définition de la pensée, de la conscience, de l'intelligence ; c'est l'affaire des psychologues, c'est l'affaire des philosophes. Ça fait des siècles que ces questions sont discutées, débattues et pas tranchées et donc, il n'a pas envie de rentrer... Il va définir ce que, pour lui, signifie penser. Et penser, c'est être capable de parler, plus peut-être quelque chose qui aujourd'hui nous interroge beaucoup avec le développement de la robotique ou des choses comme cela qui sont des vieux problèmes qu'on ne trouve pas depuis déjà un certain temps : c'est est-ce qu'une machine peut mentir ? Parce que si la machine fait exprès de répondre lentement, si elle fait exprès de donner une réponse fausse alors qu'en fait, elle a la bonne réponse, c'est qu'elle ment ; et ça, c'est une vraie question : est-ce qu'une machine peut mentir ? Et dans le fond, peut être qu'une machine pensera vraiment le jour où elle peut mentir. Vous vous souvenez, quelque chose qui ressemble un peu à ça ? C'est ce qui se passe dans 2001, L'ODYSSEE DE L'ESPACE, où l'ordinateur Hal devient fou. Et il devient fou pourquoi ? Parce qu'on l'a mis en situation d'être obligé de mentir ! C'est exactement ça. Dans le fonds, la fiction, là, rejoint la problématique que posait Turing dans cet article-là.

[Baptiste Mélès]

Un informaticien, Gérard Berry, qui dans le même esprit, disait : « on pourra dire que les ordinateurs pensent le jour où ils pourront inventer une plaisanterie, une blague qu'ils n'auront jamais apprise par ailleurs ».

[Gérard Chazal]

Peut-être, oui...rires...Peut-être oui !

[Baptiste Mélès]

Au début donc, l'information initiale, c'est est-ce que les machines peuvent penser ? Et ensuite, ça devient est-ce qu'un ordinateur peut tromper un être humain en lui faisant croire qu'il est un être humain ? Et c'est une question binaire puisqu'on répond par oui ou par non. Mais à côté de ça, et c'est pour ça aussi que la question nous taraude à mesure que les progrès techniques sont faits - puisque surtout ces dernières années, l'intelligence artificielle a connu un développement extraordinaire - c'est que on est inscrit dans une temporalité et donc, en un certain temps de ce progrès qui n'est pas du tout arrivé à son terme (on est probablement au tout début), on doit se prononcer sur le niveau qu'on aura atteint à la limite, en poussant à la limite le raisonnement. Donc c'est très difficile puisqu'on doit se prononcer sur quelque chose à quoi nous n'avons évidemment pas accès du tout. Donc il y a le conflit entre, d'un côté, l'esprit éternitariste du philosophe qui voudrait répondre à la question définitivement par oui ou par non ; et d'un autre côté, la temporalité du technicien qui dit je ne sais pas si on y arrivera à la fin ; ce que je peux dire, c'est que l'étape suivante, ça doit être accessible. Et Turing se met vraiment dans une mentalité de technicien puisque, lui, ce qu'il dit, c'est je ne sais pas si on pourra répondre à cette question. Lui évidemment, il penche plutôt pour la réponse oui ; mais il dit je ne vois pas en tous cas d'objection vraiment, je ne vois pas de raison que ce soit totalement inaccessible et ce qu'on peut faire nous, c'est essayer de faire en sorte d'approcher le plus possible.

[Gérard Chazal]

Oui, tout à fait ! On est vraiment à un début de quelque chose. Et ce que l'on trouve dans le fond dans cet article, sous une autre forme, c'est... on va le retrouver en 1956 quand on va définir l'intelligence artificielle – c'est quels sont les buts qu'on donne à ce moment-là à la machine ? C'est pas de penser. Ce sont des buts très délimités, très pragmatiques aussi... ce n'est pas le jeu de l'imitation, mais c'est le jeu des échecs... et c'est la traduction ... parce qu'évidemment à l'époque, c'est le début des grands organismes internationaux... pouvoir automatiser la traduction, ce serait quelque chose de tout-à-fait intéressant d'un point de vue même, j'allais dire, purement économique ! Donc c'est les deux grandes ... et puis des démonstrations mathématiques. Donc, vous voyez : démonstrations mathématiques, traduction et jeu d'échecs. C'est-à-dire, on retrouve cette idée du jeu, même si ce n'est plus de l'imitation. Jeu d'échecs. Et ce problème de la traduction, c'est-à-dire, du langage. D'une machine qui accède au langage et qui manipule du langage. Et donc, on est vraiment à un moment donné très précis et c'est un peu l'aspect génial de ce texte ! C'est quand même, il est en avance. Il est à l'origine de la problématique de la machine pensante autour de cette question du symbolique, de la manipulation symbolique et c'est autour de ça qu'on retrouvera après, les grands débats, ceux de Searle, ceux de Dreyfus, et cetera...

[Baptiste Mélès]

Oui ! Et sur les différentes conceptions qu'on a de ce que c'est que l'intelligence et les différents modèles qu'on a pour la représenter dans l'ordinateur, il y a ça quand on regarde le code source justement des programmes qui essayent de passer les tests de Turing. Alors il y avait des programmes qui étaient très simples comme un programme Eliza qui représentait une fausse psychothérapeute. Et en fait, le programme est très courant, très facile à écrire puisque c'est simplement la reconnaissance de quelques mots. Par exemple, très rapidement quand on discute avec ce genre de programme, on en vient aux insultes évidemment ; et elle, Eliza, a un petit bagage d'insultes ; donc elle sait reconnaître que ce qu'on vient de lui dire est une insulte ; et elle va répondre quelque chose comme : ce n'est pas la peine de devenir grossier ; quelque chose comme ça. Et quand on lui pose une question, elle répond par une question. Si elle voit le mot mère par exemple dans : parlez-moi un peu plus de votre mère. Donc ça, du point de vue de l'intelligence artificielle c'est proche de zéro parce que c'est simplement de la reconnaissance de mots ; si elle voit qu'il y a le mot Sarkozy par exemple dans une phrase, elle va dire la politique, c'est pas tellement mon truc ; quelque chose comme ça. Mais ça marche très bien.

[Gérard Chazal]

Ce qui est intéressant, c'est que, comme vous dites, du point de vue informatique, intelligence artificielle, c'est proche de zéro ! Bon et son auteur en était non seulement conscient mais utilisait Eliza pour dire vous voyez que l'intelligence artificielle, ça n'existe pas !

Or, quand même, on s'apercevait, et lui-même s'apercevait, à son plus grand dépit, que les gens de son laboratoire venaient discuter avec Eliza et prenaient un certain plaisir à discuter avec Eliza. Il y a eu un effet... enfin ce que Sherry Turkle appelle un effet Eliza. Donc c'est vrai que là aussi - dans une certaine mesure, vous avez raison de rappeler ce programme - c'est extrêmement intéressant par rapport à l'article de Turing (entre les deux, il y a une dizaine d'années quand même ou plus) et c'est très intéressant parce que dans le fond, la question de l'intelligence des machines, elle est toujours posée à propos / sur le terrain du dialogue qu'on peut avoir avec une machine. C'est étonnant ! Turing imagine un dialogue dans lequel il y a une machine et là on est vraiment dans un dialogue avec une machine. Et aujourd'hui, la problématique par exemple de la robotique, l'un des grandes problématiques de la robotique, c'est le dialogue. C'est d'avoir des machines qui dialoguent avec nous.

[Baptiste Mélès]

C'est intéressant parce que ça veut dire que, ce qui nous intéresse au bout d'un moment, ce n'est plus de savoir si ce que j'ai en face de moi - la machine - a vraiment une pensée ou pas en soi, mais c'est quel type de pensée je peux développer dans mon interaction avec cette chose-là ? Ce qui rejoint dans l'Esthétique de Hegel, et c'est une des grandes questions que se pose Hegel ; c'est quand je suis face à une œuvre d'art, qu'est ce qui se passe ? En fait, l'œuvre d'art en soi, c'est simplement un tas de matière ; mais ce qui l'intéresse, c'est de voir comment l'esprit, mon esprit, l'esprit humain se reconnaît à l'occasion de la matière qu'il a contribué à transformer ; comment est-ce qu'on reconnaît la propre activité de l'esprit à travers la matière qui, en elle-même ne pense pas du tout ; et en fait, il se passe la même chose pour les ordinateurs sauf que il y a un degré de complexité qui est encore supérieur, c'est que c'est notre esprit qui se reconnaît dans cet objet extérieur, mais c'est pas seulement notre esprit en tant qu'il a pu par exemple projeter des sentiments, ou quelque chose comme ça, sur la matière ; mais là, c'est mon esprit en tant qu'activité rationnelle. Donc l'ordinateur, c'est une sorte d'extériorisation de l'esprit humain ; peut-être que l'ordinateur pense en lui-même... ça dépend très largement de la question de savoir ce que c'est que penser ; mais en tout cas, ce qui est sûr, c'est qu'il y a une forme de pensée spécifique du consommateur de l'ordinateur, une forme de pensée à deux, une sorte de collaboration intellectuelle qui se fait même si l'intelligence ne se trouvait que d'un seul des deux côtés.