CERVEAU, PENSÉE ET ORDINATEURS

Le 26 juillet dernier, le Journal de Montréal annonçait que deux joueurs de poker professionnels classés parmi les meilleurs au monde avaient — mais de justesse! — battu un ordinateur dans un match de quatre parties.

Il s’agissait là, dit-on, du premier championnat de poker qui opposait la machine à l’être humain. Les gagnants, modestes, ont trouvé leur adversaire excellent et ont prédit qu’il sera difficile à battre à l’avenir, quand ses concepteurs auront amélioré le programme.

Nul doute que ce sera le cas et que la machine battra prochainement les meilleurs joueurs de poker. Mais, avouons-le, de telles nouvelles ne nous émeuvent plus beaucoup, tant nous sommes habitués à ce que des machines performent mieux que nous sur un grand nombre de tâches. En fait, depuis la gestion d’un réseau bancaire jusqu’aux calculs de toutes sortes en passant par le vol d’avions et des milliers d’autres exemples, on ne compte plus les domaines où les performances des ordinateurs égalent ou surpassent celles des humains. Aux échecs même, qui sont longtemps resté un bastion de la supériorité de l’être humain sur la machine, un dur coup a été porté dès 1997, alors que l’ordinateur Deep Blue a battu le champion du monde du moment, Garry Kasparov.

Derrière tout cela se profile une grande question philosophique et je suis certain qu’elle vous a déjà effleuré l’esprit: les ordinateurs peuvent-ils, ou du moins pourront-ils, un jour, penser? Tout le monde convient qu’on ne peut pas dire de nos calculatrices de poche qu’elles pensent : mais peut-on imaginer avoir un jour un robot qui, lui, puisse penser — et donc qui puisse aussi avoir tout ce qu’on associe généralement avec une vie mentale : imaginer, ressentir, désirer, être ému?

Ce robot aurait un ordinateur super-puissant comme «cerveau» et il pourrait, pourquoi pas, ressembler extérieurement à un être humain, bouger comme nous, être recouvert d’une «peau» synthétique, etc.

On trouve des exemples de tels robots dans les films ou les romans de science-fiction. Mais pourrait-on éventuellement en fabriquer un pour vrai? En d’autres termes: un ordinateur pourrait-il tenir lieu de cerveau humain? Tentons de voir un peu plus clair dans cette difficile question.

La thèse forte de l’AI et le test de Turing

Certaines personnes qui travaillent dans le domaine de l’intelligence artificielle (AI) pensent que oui et adhèrent à ce qu’on appelle la thèse forte de l’intelligence artificielle.

Un de leurs arguments les plus intéressants a été avancé par Alan Turing. Figure tragique (il s’est suicidé après que les tribunaux lui aient imposé un traitement chimique destiné à guérir son homosexualité qui lui a fait … pousser des seins), Alan Turing (1919-1954) a été un des plus profonds et fascinants génies du XXème siècle. Ses travaux sont notamment à l’origine de l’ordinateur, dont il a formulé le modèle théorique dès 1936 — il avait alors 24 ans!

En 1950, Turing a proposé un petit jeu qui porte depuis son nom (le test de Turing) et qui devrait nous permettre de décider si une machine donnée pense ou non. On pourrait réaliser ce test avec trois participants, chacun étant isolé dans une pièce. Il y a un questionneur — disons vous; une autre personne; et une machine. Le questionneur pose des questions aux deux autres, disons par l’intermédiaire d’un clavier; les réponses vous parviennent écrites sur un écran. Le test de Turing dit que si vous êtes incapables de distinguer la machine de la personne, la machine a passé le test — et on pourrait dire qu’elle «pense».

Turing imaginait le dialogue suivant :

Question: Écrivez, je vous prie, un sonnet sur le Pont Forth.

Réponse: Je vais passer mon tour. Je n’ai jamais pu écrire de poésie.

Question: Ajoutez 34957 à 70764

Réponse: (la réponse est donnée après une pause d’environ 30 secondes) 105621.

Question: Jouez-vous aux échecs?

Réponse: Oui.

Question: J'ai mon roi en K8 et aucune autre pièce. Vous avez seulement votre roi en K6 et une tour en R1. C'est à vous de jouer, que jouez-vous ?

Réponse: (après une pause de 15 secondes) T-T8 : mat.

Nous sommes encore bien loin de pouvoir fabriquer un ordinateur qui passerait le test de Turing. Pour vous en convaincre, allez sur Internet discuter avez Éliza , un programme conçu au MIT et qui vous propose ses services de psychothérapeute. Je suis certain qu’il ne vous faudra pas longtemps pour la faire couler son test de Turing.

Mais les partisans de la thèse forte de l’AI pensent qu’on parviendra un jour à fabriquer un ordinateur qui le passera et que ce jour-là, nous aurons bel et bien une machine qui pense. Durant les années 70, l’optimisme à ce sujet était à son comble. C’est alors qu’un philosophe appelé John Searle (né en 1932) a jeté un pavé dans la mare en proposant une expérience de pensée (c’est-à-dire une expérience qu’on peut faire «dans sa tête») et qui, selon lui, prouve que les partisans de la thèse forte de l’AI se trompent absolument. On appelle cette expérience de pensée: La chambre chinoise.

La chambre chinoise

Searle nous demande d’imaginer une personne enfermée dans une pièce hermétiquement close, à l’exception d’une fente pratiquée dans un des murs : cette pièce, c’est la chambre chinoise.

Par la fente, de l’extérieur, sont introduits des bouts de papier couverts de signes qui sont incompréhensibles à la personne se trouvant dans la chambre chinoise. Quand elle en reçoit un, cette personne consulte un immense registre dans lequel elle repère les signes se trouvant sur la feuille : y correspondent d’autres signes, qu’elle recopie sur une nouvelle feuille de papier, qu’elle envoie, toujours par la fente, à l’extérieur de la chambre chinoise.

Pourquoi cette chambre s’appelle-t-elle chinoise? C’est que les signes reçus et envoyés sont du chinois, une langue qu’ignore totalement la personne dans la chambre. Mais à l’extérieur, une personne parlant cette langue a posé une question en chinois et a reçu, après un délai plus ou moins long, une réponse pleinement satisfaisante. La questionneuse pourrait donc croire que la chambre (ou quoi que ce soit qui s’y trouve ou la constitue) parle chinois. Et pourtant non, comme on vient de le voir.

Vous aurez compris la signification de cette analogie. La personne dans la pièce représente l’unité centrale de l’ordinateur; les instructions qu’elle consulte dans le registre représentent le programme; les bouts de papier qui entrent et sortent sont respectivement les inputs et les outputs. Eh oui!: la chambre chinoise fait exactement ce que ferait un ordinateur programmé pour parler chinois et elle le fait comme lui. Mais c’est sans les comprendre qu’elle manipule des symboles.

Faut-il donc conclure à la mort de la thèse forte de l’AI? Beaucoup de gens le pensent; mais d’autres, minoritaires, ne sont pas d’accord.

La chambre chinoise de Searle a en tout cas suscité un nombre extraordinaire de réactions, de critiques et de défenses et amené bien des gens à penser plus profondément à la question de savoir ce que signifie penser, ce que veut dire être conscient et ainsi de suite.

Faites attention, cependant : Searle ne dit pas qu’une machine qui pense est impossible, et cela pour la bonne raison qu’une telle machine existe déjà : nous sommes une telle machine.

Ce qu’il dit, en revanche, c’est qu’une machine comme un ordinateur ne peut pas penser — parce qu’elle n’est pas faite de la «bonne matière». En fait, ce que Searle a voulu rappeler, avec sa chambre chinoise, c’est que l’ordinateur manipule simplement des symboles sans les comprendre et que, pour cette raison, il ne pourra jamais être «une machine qui pense». Pour le dire autrement : un ordinateur n’a qu’une syntaxe, c’est-à-dire des règles permettant de manipuler des symboles — plus précisément : des séquences de 1 et de 0 — mais il n’a pas de sémantique ou d’intentionnalité.

En bout de piste, si Searle a raison, un ordinateur pourra toujours nous battre au poker : mais le plaisir passer un bluff lui échappera à tout jamais.