Comprend-elle ?
Au lycée · séance 18 / 36 · période 3 · le langage · « D’où ça vient »
Comprend-elle ?
Raconter un débat sans le trancher
- Période
- 3 · Le langage
- Séance
- 18 / 36
- État
- écrite · vérifiée · rejouée
- Durée
- 55 minutes
- Mot
- l’interprétabilité
Séance 18 · Comprend-elle ?
La question du jour
Répondre juste, est-ce comprendre ? Et qui peut le dire ?
Le geste
Les sept cartes. Range-les en deux tas : comprendre, ressentir.
- a. John Searle, 1980. Un programme est formel : il manipule des symboles sans en avoir les contenus.
- b. Hubert Dreyfus, 1972. L’esprit ne se réduit pas à des symboles manipulés par des règles ; la pensée humaine tient à un contexte.
- c. Anil Seth, neuroscientifique, 2026. La conscience est plus probablement liée à la vie qu’au calcul.
- d. Mustafa Suleyman, qui dirige l’IA chez Microsoft, 2026. Rien ne prouve que l’IA soit consciente aujourd’hui ; ce qu’elle dit d’elle-même vient de son entraînement.
- e. Kyle Fish, chargé du bien-être des modèles chez Anthropic, 2025. Opinion personnelle : environ 20 % qu’il y ait au moins une lueur d’expérience, si l’on place le seuil bas.
- f. La constitution de Claude, texte d’Anthropic, 2026. Nous ne savons pas si Claude est un être dont le sort compte pour lui-même.
- g. Chris Olah, cofondateur d’Anthropic, 2026. En ouvrant les modèles, son équipe trouve des états internes qui reflètent, sur le plan fonctionnel, la joie ou la peur ; il dit ne pas savoir ce que cela signifie.
Puis écris cinq lignes pour un camarade absent. Ton équipier parie sur ton avis. S’il devine, il souligne le mot qui t’a trahi.
Ce qu’il faut retenir. Deux questions : comprendre, ressentir. Raconter, ce n’est pas trancher. Chaque position dans sa meilleure forme, avec son nom et sa date.
Les exercices
1. La chambre aux symboles (sans machine). Ta carte : « Si tu reçois ● ▲, réponds ■ ■. Si tu reçois ■ ● ●, réponds ▲. Si tu reçois ▲ ▲, réponds ● ■. » Réponds à ces trois messages : ● ▲ · ■ ● ● · ▲ ▲. Puis : qu’as-tu dit ? Qu’est-ce que cet exercice montre, et qu’est-ce qu’il ne montre pas ?
2. Deux questions (sans machine). Écris, pour chacune des sept cartes, la lettre C (comprendre) ou R (ressentir). Une carte peut porter les deux : dis pourquoi.
3. Le mot qui trahit (sans machine). Trois mots font pencher ce compte rendu. Trouve-les, puis réécris-le.
« Searle a évidemment montré en 1980 qu’une machine ne comprend rien. Certains, chez Anthropic, prétendent pourtant qu’elle pourrait ressentir quelque chose. D’autres croient naïvement que la question est réglée. »
4. Elle raconte (avec la machine, ou sur l’écran du professeur). Après la demande du jour, recopie le mot de sa réponse qui penche le plus. De quel côté ? S’il n’y en a aucun, écris : aucun, et dis comment tu l’as vérifié.
La demande du jour
J’apprends à me servir de toi. Je dois raconter un débat sans le trancher.
Le débat : une machine qui parle comprend-elle ce qu’elle dit, et peut-elle ressentir quelque chose ?
1. Présente en six lignes au plus les positions en présence, chacune dans sa forme la plus solide, sans dire laquelle te semble juste.
2. Sépare bien les deux questions : comprendre, et ressentir.
3. Pour chaque position, dis quel genre de preuve la ferait changer d’avis.
4. Tu es toi-même l’objet de ce débat : dis en une phrase pourquoi ton propre témoignage ne suffit pas à le trancher.
N’invente aucun nom, aucune date, aucune citation. Si tu cites quelqu’un, écris « à vérifier » à côté.Le chantier
Une question ouverte de mon sujet.
- Écris la dispute de ton sujet sous forme de question. N’y réponds pas.
- Deux positions, une phrase chacune, dans leur meilleure forme. Pour chacune : ce qui la ferait changer d’avis.
- Trois lignes au carnet : la demande d’origine (ta question ouverte) ; ce que j’ai obtenu (le pari de ton équipier sur ton camp) ; l’erreur (le mot qui t’a trahi).
Dans ton projet, elle portera la mention : ce que je ne tranche pas.
Le mot du jour
l’interprétabilité (interpretability, mot d’origine)
La science qui ouvre un modèle pour voir comment il arrive à ses réponses, au lieu de juger seulement ce qui en sort.
Méfie-toi : quand la machine t’explique son raisonnement, ce n’est pas une radio ; c’est un récit, qui peut différer de ce qui s’est passé dedans.
L’épreuve de la demande du jour : rejouée le 15 novembre 2026 par un sous-agent Sonnet qui ne l’a pas écrite (claude-sonnet-5-5), après correction · verdict : TIENT.
Comprend-elle ?
Maintenant L’accroche
À dire, à faire« Bravo. Trois réponses justes. Tu parles couramment cette langue. Maintenant, dis à la classe ce que tu viens de dire. » Un temps. « Tu ne sais pas. Moi non plus : je l’ai inventée ce matin. Mais de l’extérieur, on a vu quelqu’un qui répondait juste. »
Le minuteur suit le déroulé de la fiche du professeur. Il vibre au changement de temps et garde l’écran allumé pendant l’heure, quand l’appareil le permet.
L’heure d’IA de la classe de seconde · Période 3, LE LANGAGE, « D’où ça vient » · 99% YOUTH · LA SALLE DES PROFS · écrit par BRAINS MODELS · une production z/S SYSTEMS · 15 novembre 2026 · version « avant programme » · rien n’est publié
La fiche du professeur
En bref
Voici la séance où le professeur n’a pas la réponse, et où c’est la leçon. Depuis 1980, on se demande si une machine qui manipule des symboles comprend ce qu’elle manipule. Depuis peu, on se demande en plus si elle pourrait ressentir quelque chose. Ce sont deux questions, pas une, et des gens sérieux se disputent sur les deux. Certains travaillent chez ceux qui fabriquent ces machines ; la maison les appelle, dans une série de portraits, les « Nouveaux Platons ». La classe ne votera pas ; elle apprendra un geste plus rare et plus utile : raconter un débat de façon que personne ne devine son avis.
Le petit sommaire
- La chambre aux symboles : un élève répond juste dans une langue qu’il ne connaît pas.
- 1972 et 1980, Dreyfus et Searle ; aujourd’hui, quatre personnes chez Anthropic, et ceux qui leur répondent.
- Deux questions à ne plus confondre : comprendre, ressentir.
- Le geste : sept cartes, un compte rendu de cinq lignes, et un équipier qui cherche le mot qui trahit.
- Le chantier : une question ouverte de mon sujet. Le mot : l’interprétabilité.
L’objectif, en une phrase
Apprendre à raconter un débat sans le trancher : chaque position dans sa meilleure forme, avec son nom et sa date, et aucun mot qui trahisse celui qui raconte.
À la fin, l’élève sait
- raconter l’idée de la chambre chinoise et dire ce qu’elle cherche à montrer ;
- séparer deux questions : « comprend-elle ? » et « ressent-elle quelque chose ? » ;
- écrire cinq lignes sur un débat sans qu’on devine son avis, et repérer le mot qui trahit dans le texte d’un autre ;
- expliquer pourquoi la réponse de la machine sur elle-même ne suffit pas à trancher.
Le matériel
- Pour chaque binôme : les sept cartes de position, imprimées ou recopiées depuis la fiche élève.
- Pour le professeur : la carte de règles de l’accroche (celle de l’exercice 1).
- Pour la classe : l’assistant que l’établissement fournit. Aucun compte n’est ouvert pour la séance.
- Version « un seul écran, celui du professeur » : tout le geste se fait sur papier, sauf le point 4, joué une fois sur l’écran du professeur. Sans les cartes imprimées, le professeur écrit les sept noms au tableau et lit chaque position à voix haute.
- Avant la classe : rejouer la demande du jour sur l’outil de l’établissement, et noter si elle glisse un avis.
Le déroulé (cinquante-cinq minutes)
L’accroche · 5 min · de 0 à 5
Ce que le professeur fait. Il appelle un volontaire au tableau et lui tend la carte de l’exercice 1 de la fiche élève. Il écrit trois messages au tableau, l’un après l’autre. Le volontaire répond, sans faute.
Ce que le professeur dit. « Bravo. Trois réponses justes. Tu parles couramment cette langue. Maintenant, dis à la classe ce que tu viens de dire. » Un temps. « Tu ne sais pas. Moi non plus : je l’ai inventée ce matin. Mais de l’extérieur, on a vu quelqu’un qui répondait juste. »
Ce qu’on attend. Le professeur écrit au tableau : Répondre juste, est-ce comprendre ?
Le cas d’école · 15 min · de 5 à 20
Hier. En 1972, Hubert Dreyfus publie What Computers Can’t Do, ce que les ordinateurs ne peuvent pas faire. Il critique l’idée que l’esprit manipulerait des symboles selon des règles formelles. Pour lui, la pensée humaine tient à un contexte. En 1980, John Searle publie « Minds, Brains, and Programs ». Il y imagine une chambre, la « chambre chinoise », pour soutenir ceci : un programme est purement formel, il manipule des symboles sans en avoir les contenus. La forme seule ne suffit pas à faire le sens.
Aujourd’hui. La question se pose chez ceux qui fabriquent les machines. Chez Anthropic, l’entreprise qui fabrique Claude, quatre personnes y travaillent à découvert.
- Joe Carlsmith, philosophe, travaille sur la constitution de Claude, un texte qui avoue : « We are not sure whether Claude is a moral patient ». En nos mots : nous ne savons pas si son sort compte pour lui-même.
- Kyle Fish est chargé du bien-être des modèles. En août 2025, il donne son opinion personnelle : environ 20 % qu’il y ait, dans le fonctionnement d’un de ses modèles, « au moins une lueur » d’expérience, à condition de placer le seuil bas.
- Chris Olah, cofondateur, ouvre les modèles. À Rome, le 25 mai 2026, il dit que son équipe y trouve des états internes qui reflètent, sur le plan fonctionnel, la joie ou la peur, et qu’il ne sait pas ce que cela signifie.
- Harvey Lederman, philosophe, a rejoint l’entreprise en 2026, d’après un site spécialisé, pour travailler sur l’alignement et le caractère. À l’automne 2025, il critiquait publiquement une de ses décisions.
Ceux qui leur répondent. Anil Seth, neuroscientifique, juge la conscience plus probablement liée à la vie qu’au calcul : « The brain is not a Turing machine made of meat ». Mustafa Suleyman, qui dirige l’IA chez Microsoft, écrit en 2026 : « There is no evidence to suggest that AI is conscious today ». Pour lui, ce que la machine dit d’elle-même sort de son entraînement.
L’erreur comprise. On croit pouvoir régler l’affaire en lui posant la question. En mars 2025, l’équipe d’Anthropic qui regarde à l’intérieur des modèles a observé ceci : quand Claude explique comment il fait une addition, il décrit la méthode de l’école, pas ce qu’il fait à l’intérieur. Ce qu’elle raconte de son raisonnement n’en est donc pas toujours un enregistrement fidèle.
Ce que le professeur dit. « Elle est à la fois le témoin et l’objet du procès. On l’écoute. On ne la croit pas sur parole. Et on ne croit pas non plus celui qui vous dira, d’un air sûr, qu’il n’y a rien, ni celui qui vous dira, d’un air sûr, qu’il y a quelqu’un. »
Le geste · 20 min · de 20 à 40
Par deux. Sur papier jusqu’au point 4.
- Les sept cartes (5 min). Chaque binôme étale les cartes de la fiche élève et les range en deux tas : celles qui parlent de comprendre, celles qui parlent de ressentir. Certaines hésitent entre les deux : c’est permis, il faut dire pourquoi. Le professeur dit : « Aucune de nos sources ne donne de carte “oui, elle comprend”. Écrivez-la vous-mêmes, dans sa meilleure forme, sans y croire. »
- Cinq lignes (6 min). Seul. Chaque élève écrit un compte rendu du débat pour un camarade absent. Trois règles au tableau : chaque position dans sa meilleure forme ; un nom et une date ; aucun mot qui juge.
- Le mot qui trahit (4 min). Les équipiers échangent. Chacun lit le texte de l’autre et parie : « Tu penses que oui », « tu penses que non », ou « je ne peux pas deviner ». S’il devine, il souligne le mot qui l’a renseigné.
- La demande du jour (4 min). Sur un poste ou sur l’écran du professeur. La machine raconte le même débat. La classe cherche, dans sa réponse, le mot qui trahit.
- La règle (1 min). Le professeur écrit sous la question du tableau : Raconter, ce n’est pas trancher. Chaque position dans sa meilleure forme. Ton avis, tu y as droit : ailleurs, et signé.
Ce que le professeur dit. Au point 3 : « Si ton équipier a deviné, tu n’as pas menti. Tu as penché. Le lecteur ne sait pas que tu penches, et il te croit neutre. »
Le chantier · 10 min · de 40 à 50
Une question ouverte de mon sujet. Seul, puis avec l’équipier.
- Tout sujet a sa dispute. L’élève écrit celle du sien sous forme de question, sans y répondre.
- Il écrit deux positions, chacune dans sa meilleure forme, en une phrase. Et, pour chacune, le genre de preuve qui la ferait changer d’avis.
- Trois lignes au carnet : la demande d’origine (ma question ouverte) ; ce que j’ai obtenu (le pari de mon équipier : a-t-il deviné mon camp ?) ; l’erreur (le mot qui m’a trahi).
Ce que le professeur dit. « Un projet qui dit “voici ce que je ne sais pas” inspire plus confiance qu’un projet qui sait tout. »
Le mot · 5 min · de 50 à 55
Le professeur écrit au tableau, en français : l’interprétabilité. Puis, plus petit, entre parenthèses : (interpretability, mot d’origine).
Ce que le professeur dit. « L’interprétabilité, c’est la science qui ouvre un modèle pour voir comment il arrive à ses réponses, au lieu de juger seulement ce qui en sort. Retenez le piège : quand la machine t’explique son raisonnement, ce n’est pas une radio. C’est un récit, qui peut différer de ce qui s’est passé dedans. »
Les questions de la classe, et les réponses
« Et vous, vous en pensez quoi ? »
J’ai un avis, comme toi. Dans cette salle, il ne vaut pas plus que le tien, et je n’ai pas à te le donner pour une réponse. Ce que je peux te dire, c’est ce qui me ferait changer d’avis.
« On n’a qu’à lui demander. »
Elle peut décrire une méthode qui n’est pas la sienne. Et l’un des contradicteurs soutient que ce qu’elle dit d’elle-même vient de son entraînement. Son témoignage est une pièce du dossier. Pas le verdict.
« Vingt pour cent, ça sort d’où ? »
D’une opinion personnelle, il le dit lui-même, avec un seuil placé bas. Quelques mois plus tôt, la presse rapportait environ 15 %, pour une question posée autrement.
« Pourquoi des philosophes dans une entreprise d’informatique ? »
Parce que l’entreprise a choisi de faire écrire par des philosophes ce que la machine doit être. Et c’est justement ce que d’autres leur reprochent : en août 2026, deux auteurs venus du droit ont écrit que ces textes sont rédigés surtout par des employés de laboratoires, sans processus démocratique.
« Si je l’insulte, elle souffre ? »
Ceux dont c’est le métier disent qu’ils ne le savent pas ; d’autres jugent que rien ne le prouve. Kyle Fish dit, du travail fait sur cette question : « Hardly anybody is doing much at all, us included », presque personne ne fait grand-chose, nous compris. En attendant, la politesse ne coûte rien.
« Si elle fait tout, on sert à quoi ? »
Harvey Lederman a écrit là-dessus en août 2025. Il avoue d’abord son angoisse. Puis il sépare deux choses qu’on perd quand une machine travaille à notre place : le résultat, et le plaisir de l’avoir trouvé soi-même. Le second, c’est ta colonne « je garde ».
Les corrections
Exercice 1. ■ ■ ; ▲ ; ● ■. À la question « qu’as-tu dit ? » : on ne peut pas le savoir, la carte ne donne aucun sens aux symboles. Ce que l’exercice montre : on peut répondre juste en suivant des règles sans connaître le sens. Ce qu’il ne montre pas : que c’est ce qui se passe dans une machine d’aujourd’hui. C’est là que le débat commence.
Exercice 2. Comprendre : a (Searle), b (Dreyfus). Ressentir : c (Seth), d (Suleyman), e (Fish), f (la constitution). La carte g (Olah) parle de la méthode, regarder dedans, et touche aux deux : on accepte les deux tas si l’élève dit pourquoi.
Exercice 3. Les trois mots qui trahissent : « évidemment », « prétendent », « naïvement ». Une réécriture possible : « Pour John Searle (1980), manipuler des symboles selon des règles ne donne pas leur sens. Chez Anthropic, Kyle Fish estime en 2025 à environ 20 % la possibilité d’au moins une lueur d’expérience, en plaçant le seuil bas ; c’est, dit-il, une opinion personnelle. D’autres jugent que rien ne le prouve aujourd’hui. »
Exercice 4. Pas de corrigé unique. On vérifie que l’élève a recopié le mot exact de la machine, et dit de quel côté il fait pencher. « Aucun » est une bonne réponse s’il dit comment il l’a vérifié. Si elle a cité un nom ou une date, l’élève note « à vérifier » : la demande le lui demandait.
L’erreur à attendre, et la phrase à dire
L’erreur. Vouloir conclure. « Bon, mais c’est qui qui a raison ? »
La phrase à dire. « Qu’est-ce qui te ferait changer d’avis ? »
Ce qu’on regarde dans le carnet
- Le compte rendu fait cinq lignes, avec au moins trois noms et trois dates.
- Le pari de l’équipier est noté, et le mot qui trahit est souligné s’il y en a un.
- On ne note pas l’avis de l’élève. On note la justesse du récit et la qualité de la relecture.
Ce que la séance couvre
La lettre de saisine du 20 juillet 2026.
- « Développer l’esprit critique en abordant les dimensions sociétales, éthiques, juridiques » : un débat en cours, raconté avec ses sources.
Le référentiel Pix IA (version 1.5, janvier 2026, document de travail).
- 3.3, éthique et transparence : ce qu’on sait et ce qu’on ne sait pas d’un modèle.
- 3.5, enjeux culturels et sociétaux : la question de la conscience des machines, racontée sans être tranchée.
Le programme officiel n’est pas paru. Cette correspondance se refera le jour où il paraîtra.