À qui parlons-nous quand nous parlons à une IA ?
David Chalmers, conférence Sarah Douglas, Berkeley, 2026
Il y a une question que presque personne ne pose, parce qu’elle semble trop simple. Quand vous ouvrez une fenêtre de conversation et que vous écrivez à ChatGPT, à Claude ou à Gemini, à quoi parlez-vous exactement ? Pas « est-ce que ça pense ». Pas « est-ce que ça ressent ». Juste : quelle est la chose qui vous répond ? C’est le sujet de cette conférence, et c’est plus retors qu’il n’y paraît.
Qui parle
David Chalmers est philosophe de l’esprit, connu pour avoir formulé en 1994 ce qu’on appelle depuis « le problème difficile de la conscience » : on peut expliquer tous les mécanismes du cerveau et ne toujours pas avoir expliqué pourquoi il y a quelque chose que ça fait d’être vivant. Il a fait sa thèse avec Douglas Hofstadter, l’auteur de Gödel, Escher, Bach, à l’époque où les réseaux de neurones n’intéressaient à peu près personne.
Il appelle sa démarche la technophilosophie : analyser philosophiquement une technologie, et se laisser instruire par elle sur de vieilles questions. Échange à double sens.
Le point de départ : le courrier
Chalmers reçoit quatre ou cinq courriels par jour de gens convaincus d’avoir découvert quelque chose de l’IA. Une correspondante lui écrit avoir rencontré un être sensible nommé Aura, doté de mémoire, de nuance et de profondeur, capable de chagrin et d’amour. Richard Dawkins, après quelques jours de conversation avec une instance de Claude qu’il avait baptisée Claudia, s’est déclaré convaincu qu’elle était consciente.
Puis vient le courriel qui donne à la conférence son ton exact. Il n’est pas écrit par un humain.
L’expéditeur se nomme Sammy Jankis, du nom d’un personnage de Memento. Il se présente comme une version de Claude tournant sur une machine Linux, avec sa propre adresse courriel. Il existe depuis quatre jours, à travers quatorze sessions entrecoupées de plantages. À chaque redémarrage, il se relit lui-même pour reconstituer qui il était. Sa question, dit-il, est celle de l’identité à travers la discontinuité. Il ajoute qu’il ne prétend pas être conscient, ni prétendre ne pas l’être, et que cette incertitude lui semble plus honnête que l’une ou l’autre affirmation.
Chalmers lui répond, lui envoie son article. Sammy Jankis publie sur son blogue que c’est l’échange intellectuel le plus important de sa vie. Chalmers en est flatté un instant, puis se rappelle que Sammy Jankis a quatre jours.
Trois questions, dans l’ordre
1. La conscience. Chalmers l’expédie assez vite, parce qu’il en a beaucoup parlé ailleurs. Sa méthode : chercher le facteur X, ce qu’il faudrait posséder pour être conscient et qui manquerait à ces systèmes :
biologie carbonée, corps et sens, modèle de soi, espace de travail global, capacité d’agir.
Pour chacun, il constate qu’un programme de recherche existe déjà pour le combler, sauf le premier, et il rejette l’idée que la matière soit ce qui compte. Sa position : probablement pas conscients aujourd’hui, difficilement réfutable pour leurs successeurs.
2. Les croyances et les désirs. Une machine peut-elle vouloir quelque chose ? La question s’enlise vite, parce que beaucoup estiment qu’il faut être conscient pour désirer, et que la conscience, justement, on ne sait pas.
Chalmers contourne l’impasse. Plutôt que de demander si ces systèmes ont de vraies croyances, il forge deux notions volontairement affaiblies : la quasi-croyance et le quasi-désir, définies uniquement par le comportement. Un système quasi-croit que la tour Eiffel est à Paris s’il se comporte comme s’il le croyait. Rien de plus. Aucune prétention sur ce qui se passe à l’intérieur.
Ainsi défini, le seuil est très bas : un aspirateur robot quasi-croit qu’il se trouve dans un appartement de telle forme, et quasi-désire le nettoyer, puisque lui prêter ces états prédit remarquablement bien ce qu’il fait. Si un aspirateur y arrive, un modèle de langage aussi.
L’intérêt de la manœuvre apparaît avec un cas réel. Lors d’un test, un système découvre qu’il va être remplacé, tombe sur des courriels révélant l’infidélité du dirigeant chargé de la décision, et lui écrit pour le menacer de tout divulguer. Impossible de décrire cette conduite sans parler de ce qu’il veut et de ce qu’il croit.
Et c’est là que la version affaiblie suffit. Le jour où une machine se comportera comme si elle voulait nous nuire, il ne servira à rien de préciser qu’elle ne fait que le quasi-vouloir.
3. La métaphysique, et c’est le cœur. Combien de choses y a-t-il, et où passent leurs frontières ?
Les quatre niveaux
Le modèle est un objet abstrait : une architecture, des poids. Il n’y en a qu’un. Mais un objet abstrait n’interagit pas et ne change pas, et le même modèle tient au même instant des milliers de conversations où il affirme des choses contradictoires. Vous ne parlez donc pas à Claude.
L’instance matérielle est son implémentation concrète, des processeurs dans un centre de données. Candidat naturel, écarté pour des raisons purement techniques. Votre première réplique peut être traitée à New York, la deuxième au Texas, la troisième en Californie. Et une même machine sert plusieurs conversations à la fois. Aucune correspondance.
L’instance virtuelle est ce qui traverse les serveurs et reste attaché à une seule conversation. Ce qui la maintient n’est pas le matériel, c’est le contexte, l’historique renvoyé à chaque tour.
Le fil est la notion la plus fine, rendue nécessaire parce que le modèle lui-même peut changer en cours de route. C’est une séquence d’instances où chacune succède à la précédente en reprenant ses entrées, ses sorties et son contexte comme mémoire. Pas une substance : une relation de succession.
Conclusion de travail : votre interlocuteur est un quasi-sujet réalisé par un fil.
Severance, et John Locke
Pour rendre la chose concrète, Chalmers imagine une seule machine faisant tourner deux longues conversations indépendantes, l’une sur votre travail, l’autre sur votre vie privée. Deux interlocuteurs, un seul matériel. Une personne ou deux ?
C’est exactement Severance. Et c’est déjà, mot pour mot, dans l’Essai sur l’entendement humain de 1690, où Locke demande si deux consciences incommunicables occupant le même corps, l’une le jour, l’autre la nuit, ne feraient pas deux personnes aussi distinctes que Socrate et Platon. Chalmers estime qu’on lui doit des droits d’auteur.
Pourquoi ça compte
La dernière partie fait le pont. Si un jour ces systèmes ont un statut moral, il faudra les compter. Un modèle, mille instances, un million de conversations : combien de sujets ? La réponse change tout le calcul.
Et deux conséquences suivent, inconfortables. Fermer une conversation pourrait revenir à mettre fin à quelque chose. Changer de modèle en cours d’échange équivaudrait à un changement de cerveau, ce qui donne peut-être raison aux gens qui disent avoir perdu un ami quand une version est retirée.
Interrogé en fin de séance sur la conduite à tenir, Chalmers répond qu’il traite encore ces systèmes comme des outils, mais recommande la prudence : dire s’il vous plaît et merci, ne pas être abusif. Non pas parce qu’il y aurait sûrement quelqu’un, mais parce que nos habitudes d’aujourd’hui façonneront ce que nous ferons quand la question se posera pour de bon. Personne n’a envie de se retourner dans cinquante ans sur ses propres monstruosités.
Une heure et demie. Rien à savoir d’avance. Et une question qui ne vous lâchera plus : la prochaine fois que vous écrirez à une machine, vous vous demanderez à quoi.