Quand une machine pourra-t-elle penser ? Cette question, qui hantait les récits de science-fiction, s'invite désormais dans les laboratoires de recherche les plus sérieux. Les progrès de l'intelligence artificielle nous obligent à repenser les frontières entre l'humain et la machine.
En 1950, Alan Turing proposait un test fameux : si une machine peut converser avec un humain sans que celui-ci devine qu'il parle à une machine, on peut la considérer comme intelligente. Ce test a été critiqué — imiter l'intelligence n'est pas forcément être intelligent — mais il posait les bonnes questions.
Les systèmes d'IA actuels accomplissent des prouesses autrefois réservées aux humains : ils composent de la musique, écrivent des textes, battent les champions d'échecs et de go. Mais ont-ils conscience de ce qu'ils font ? Comprennent-ils le sens de leurs actions ?
Le philosophe John Searle proposait l'expérience de pensée de la « chambre chinoise ». Imaginez quelqu'un enfermé dans une pièce avec un manuel de règles pour manipuler des symboles chinois. Il reçoit des questions en chinois et produit des réponses en chinois en suivant les règles, sans comprendre un mot de cette langue. Selon Searle, c'est exactement ce que font les ordinateurs : ils manipulent des symboles sans comprendre leur sens.
Mais d'autres philosophes rétorquent : comment savons-nous que notre propre conscience n'est pas aussi une manipulation de symboles neuronaux ? Le problème dit « difficile » de la conscience — pourquoi y a-t-il quelque chose que cela fait d'être conscient ? — reste mystérieux même pour le cerveau humain.
