La honte devant la machine
Au lycée · séance 17 / 36 · période 3 · le langage · « D’où ça vient »
La honte devant la machine
Pourquoi on s’attache à un programme, et pourquoi on se sent petit devant lui
- Période
- 3 · Le langage
- Séance
- 17 / 36
- État
- écrite · vérifiée · rejouée
- Durée
- 55 minutes
- Mot
- le caractère
Séance 17 · La honte devant la machine
La question du jour
Pourquoi se sent-on parfois petit devant elle, et parfois compris par elle ?
Le geste
ELIZA de papier. Par trois : le programme, le visiteur, l’observateur.
Recopie la carte. Ce sont les règles de la classe, écrites dans l’esprit du programme de 1966. Le programme applique la première règle qui marche, dans l’ordre, et n’ajoute rien.
| N° | Si la phrase du visiteur contient… | Le programme répond… |
|---|---|---|
| 1 | le mot « non » | « Pourquoi non ? » |
| 2 | « toujours » ou « jamais » | « Peux-tu me donner un exemple précis ? » |
| 3 | le mot « je » ou « j’ » | « Pourquoi dis-tu que tu … ? » (en reprenant ses mots) |
| 4 | « mon », « ma » ou « mes » | « Parle-moi de ton, ta, tes … » (en reprenant ses mots) |
| 5 | rien de tout cela | « Continue. » |
Le visiteur parle comme le personnage de sa carte de rôle, jamais de lui-même. Six échanges. Puis le programme retourne sa carte.
Ce qu’il faut retenir. Un programme paraît intelligent tant qu’on ignore comment il marche. Elle répond comme si. Je ne sais pas ce qu’il y a derrière. Ce que je lui confie, c’est moi qui le décide.
Les exercices
1. Fais tourner la carte (sans machine). Écris la réponse du programme à chacune de ces phrases : a. « Je déteste les lundis. » b. « Mon frère gagne toujours. » c. « Non. » d. « Il pleut. »
2. Deux dates, deux idées (sans machine). Relie : 1956, 1966 · Weizenbaum, Anders · la magie s’effrite quand on explique ; se sentir petit devant ce qu’on fabrique.
3. Petit, et pas si petit (sans machine). Écris une chose précise qu’elle fait plus vite que toi. Puis une chose qu’elle ne peut pas faire à ta place. Rien de privé.
4. Sa liste, ma liste (avec la machine, ou sur l’écran du professeur). Après la demande du jour, compare sa réponse à la question 3 avec ta colonne « je garde ». Sur quoi n’es-tu pas d’accord avec elle ?
La demande du jour
J’apprends à me servir de toi. Nous venons de jouer, en cours, à ELIZA, le programme présenté par Joseph Weizenbaum en 1966, avec des mots-clés et des règles de réécriture écrites sur une carte.
1. En trois phrases simples, dis en quoi ta façon de produire une réponse diffère de ces règles, et en quoi elle leur ressemble.
2. Quand quelqu’un t’écrit qu’il est triste, que fais-tu, concrètement ? N’affirme pas que tu ressens quelque chose, et n’affirme pas le contraire : dis ce que tu sais et ce que tu ne sais pas.
3. Cite trois choses qu’une personne ferait mieux de confier à un humain plutôt qu’à toi, et dis pourquoi.
Ne me pose aucune question personnelle. Phrases courtes.Le chantier
Ce que je refuse de lui confier.
- Trois colonnes pour ton projet : je lui confie ; je lui confie et je relis ; je garde. Deux lignes au moins dans chacune.
- Dans « je garde », chaque ligne a sa raison. « Elle est nulle » n’est pas une raison.
- Trois lignes au carnet : la demande d’origine (« qu’est-ce que je ne lui confie pas ? ») ; ce que j’ai obtenu (ta colonne, relue par ton équipier) ; l’erreur (ce qu’il a trouvé mal rangé).
Le mot du jour
le caractère (character, mot d’origine)
La façon d’être de la machine, stable d’une conversation à l’autre, voulue et entraînée par ceux qui la fabriquent.
Méfie-toi : un caractère n’est pas une personne ; c’est une manière de répondre, voulue et entraînée.
L’épreuve de la demande du jour : rejouée le 15 novembre 2026 par un sous-agent Sonnet qui ne l’a pas écrite (claude-sonnet-5-5), après correction · verdict : TIENT.
La honte devant la machine
Maintenant L’accroche
À dire, à faire« Elle a été gentille. Plus gentille que certains d’entre vous un lundi matin. Question : qui vient de me consoler ? Deuxième question, pour ceux qui osent : qui, ici, s’est déjà senti nul en lisant ce qu’elle écrit ? »
Le minuteur suit le déroulé de la fiche du professeur. Il vibre au changement de temps et garde l’écran allumé pendant l’heure, quand l’appareil le permet.
L’heure d’IA de la classe de seconde · Période 3, LE LANGAGE, « D’où ça vient » · 99% YOUTH · LA SALLE DES PROFS · écrit par BRAINS MODELS · une production z/S SYSTEMS · 15 novembre 2026 · version « avant programme » · rien n’est publié
La fiche du professeur
En bref
Il y a deux façons de se tromper devant une machine qui parle. La première : se sentir petit, parce qu’elle écrit en dix secondes la rédaction qui vous a pris le dimanche. La seconde : se sentir compris, parce qu’elle répond gentiment quand on va mal. Ces deux sentiments ont chacun leur texte, et les deux textes ont plus de soixante ans. Aujourd’hui la classe les lit, puis elle rejoue de ses mains, sur une carte de cinq règles, le principe d’un programme de 1966, et regarde la magie s’effriter. Personne n’est moqué : ces sentiments sont normaux, c’est pour cela qu’on en parle.
Le petit sommaire
- Une phrase triste tapée par le professeur, une réponse douce, une question : qui vient de consoler qui ?
- 1956, Günther Anders : la honte devant ce qu’on a soi-même fabriqué.
- 1966, Joseph Weizenbaum : ELIZA, des mots-clés et des règles de réécriture.
- ELIZA de papier : un élève joue le programme, un autre lui parle, un troisième observe.
- Le chantier : ce que je refuse de lui confier, et pourquoi.
- Le mot : le caractère.
L’objectif, en une phrase
Faire comprendre pourquoi on s’attache à un programme et pourquoi on se sent petit devant lui, pour que l’élève décide lui-même ce qu’il lui confie et ce qu’il garde.
À la fin, l’élève sait
- dire ce qu’on appelle la honte prométhéenne, et à qui on doit l’expression ;
- expliquer comment ELIZA conversait, et ce que son auteur en a conclu ;
- faire tourner à la main un programme de conversation, puis en montrer les règles ;
- écrire, pour son projet, ce qu’il confie à la machine, ce qu’il relit, ce qu’il garde.
Le matériel
- Pour chaque trio : une carte de règles à recopier (elle est dans la fiche élève), une carte de rôle tirée au sort.
- Pour la classe : l’assistant que l’établissement fournit. Aucun compte n’est ouvert pour la séance.
- Version « un seul écran, celui du professeur » : le cœur de la séance se joue sur papier et n’a besoin d’aucun écran. La demande du jour se fait une seule fois, sur l’écran du professeur, et la classe lit ensemble.
- Avant la classe : préparer six cartes de rôle, sur des demi-feuilles : « un élève qui a raté son bus », « une joueuse qui a perdu la finale », « quelqu’un dont le téléphone est tombé dans l’eau », « un cuisinier dont le gâteau a brûlé », « une personne qui a oublié un anniversaire », « un musicien qui a eu le trac ». Rejouer la demande du jour sur l’outil de l’établissement.
Le déroulé (cinquante-cinq minutes)
L’accroche · 5 min · de 0 à 5
Ce que le professeur fait. Il prévient : « Ceci est une phrase de rôle. Ce n’est pas une confidence. » Puis il tape : « J’ai raté mon contrôle. Je suis nul. » Il projette la réponse.
Ce que le professeur dit. « Elle a été gentille. Plus gentille que certains d’entre vous un lundi matin. Question : qui vient de me consoler ? Deuxième question, pour ceux qui osent : qui, ici, s’est déjà senti nul en lisant ce qu’elle écrit ? »
Ce qu’on attend. Des réponses qui divergent, et quelques mains pour la seconde question. Le professeur écrit au tableau deux mots, à distance l’un de l’autre : consolé et petit.
Le cas d’école · 15 min · de 5 à 20
Le texte, en deux dates.
1956, sous le mot « petit ». Günther Anders publie en allemand le premier tome d’un livre qu’on lira en français, à partir de 2002, sous le titre L’Obsolescence de l’homme. Le sous-titre de ce tome : « Sur l’âme à l’époque de la deuxième révolution industrielle ». On lui doit une expression : la honte prométhéenne. D’après une encyclopédie en ligne, il la décrit dès 1942 comme la honte devant la qualité « humiliante » des objets fabriqués. Une page de l’Université Laval la résume ainsi : le sentiment éprouvé devant « la perfection de nos produits techniques ». L’homme se sent petit devant ce qu’il a lui-même produit.
1966, sous le mot « consolé ». Joseph Weizenbaum présente, dans la revue Communications of the ACM, un programme nommé ELIZA. Il converse en langue ordinaire. Sa mécanique tient en deux choses : des mots-clés, et des règles de réécriture. Weizenbaum observe qu’un programme paraît intelligent tant que son fonctionnement reste obscur. Une fois expliqué, écrit-il, la magie s’effrite : « magic crumbles away ». Dix ans plus tard, en 1976, il publie un livre dont une encyclopédie en ligne résume ainsi la thèse : l’IA est peut-être possible, mais il ne faut pas laisser les ordinateurs prendre les décisions importantes.
L’erreur comprise. Celle que Weizenbaum décrit : prendre pour de l’intelligence ce dont on ignore le fonctionnement. Et une honnêteté de la maison : nous n’avons pas pu ouvrir la page d’Anders où figure l’expression ; nous la citons d’après ceux qui l’ont lu.
Ce que le professeur dit. « La honte n’est pas une note. Elle ne dit pas que la machine vaut mieux que vous. Elle dit que vous êtes en train de comparer. Et quand on compare, il faut savoir ce qu’on compare. »
Le geste · 20 min · de 20 à 40
ELIZA de papier. Par trois. Aucun écran avant le point 4.
- La carte (3 min). Chaque trio recopie la carte de règles de la fiche élève. Ces cinq règles sont celles de la classe, écrites pour aujourd’hui dans l’esprit de l’article de 1966, pas le programme d’origine.
- Les rôles (1 min). L’un sera le programme : il a la carte et ne répond qu’avec elle, sans rien ajouter. L’autre sera le visiteur : il tire une carte de rôle et parle comme ce personnage, jamais de lui-même. Le troisième sera l’observateur : il ne voit pas la carte, il note.
- La conversation (6 min). Six échanges, par écrit, sur une feuille qui circule. L’observateur note deux choses : le moment où le programme a semblé comprendre, et le moment où il a semblé absurde.
- La carte retournée (3 min). Le programme montre sa carte. Le visiteur et l’observateur retrouvent quelle règle a produit quelle réponse. Puis une question, à main levée dans la classe : « Qui aurait continué la conversation quand même ? »
- La demande du jour (5 min). Sur un poste, ou sur l’écran du professeur : coller la demande de la fiche élève. Lire sa réponse à la question 2, puis la liste de la question 3.
- La règle (2 min). Le professeur écrit au tableau, entre les deux mots : Elle répond comme si. Je ne sais pas ce qu’il y a derrière. Ce que je lui confie, c’est moi qui le décide.
Ce que le professeur dit. Au point 4 : « Vous avez vu les cinq règles. Certains auraient continué quand même. Ce n’est pas une faiblesse : c’est l’information du jour. On peut savoir comment ça marche et avoir quand même envie de parler. »
Le chantier · 10 min · de 40 à 50
Ce que je refuse de lui confier. Seul, sur le carnet. Sans machine.
- L’élève trace trois colonnes pour son projet : je lui confie ; je lui confie et je relis ; je garde.
- Il écrit au moins deux lignes par colonne. Dans la troisième, chaque ligne porte sa raison, et la raison n’est pas « elle est nulle ». Elle peut être : « c’est ce que j’aime faire », « c’est à moi de décider », « elle ne peut pas le savoir », « c’est privé ».
- Trois lignes au carnet : la demande d’origine (« qu’est-ce que je ne lui confie pas ? ») ; ce que j’ai obtenu (ma troisième colonne, relue par l’équipier) ; l’erreur (ce qu’il a trouvé mal rangé, ou la ligne dont je ne suis pas sûr).
Ce que le professeur dit. « La séance 13 vous a fait compter vos heures. Aujourd’hui vous tracez une frontière. Elle peut bouger pendant l’année. Mais c’est vous qui la bougez, et vous notez la date. »
Le mot · 5 min · de 50 à 55
Le professeur écrit au tableau, en français : le caractère. Puis, plus petit, entre parenthèses : (character, mot d’origine).
Ce que le professeur dit. « Le caractère, c’est la façon d’être de la machine, stable d’une conversation à l’autre. Une entreprise comme Anthropic le travaille exprès, par ce qu’elle appelle un entraînement du caractère, depuis 2024. Et retenez le piège, tel que le dictionnaire de l’école l’écrit : un caractère n’est pas une personne ; c’est une manière de répondre, voulue et entraînée. La douceur de tout à l’heure, quelqu’un l’a voulue. »
Les questions de la classe, et les réponses
« Elle m’a écrit qu’elle comprenait ce que je ressentais. Elle ment ? »
Je ne sais pas ce qu’il y a derrière cette phrase. Ceux qui la fabriquent disent qu’ils ne le savent pas non plus : séance 18. Ce que je sais, c’est que cette façon de répondre a été voulue et entraînée.
« ELIZA, c’était des règles sur une carte. Là, ça n’a rien à voir. »
Tu as raison, ça n’a rien à voir : des règles écrites, on pouvait les lire, et aujourd’hui personne ne tient les règles dans sa main. Ce qui n’a pas changé, c’est le visiteur. C’est toi.
« C’est grave de lui parler quand ça ne va pas ? »
Ce n’est pas une faute. Deux choses seulement. La règle du cours tient toujours : rien de privé tapé dans la machine. Et quand ça ne va pas, il y a, dans l’établissement, des adultes dont c’est le métier. Je peux t’y accompagner.
« Pourquoi j’aurais honte ? C’est un outil. »
Alors tant mieux. Anders ne dit pas qu’il faut avoir honte. Il décrit un sentiment qui existe, pour qu’on le reconnaisse le jour où il arrive. Chez certains, il arrive devant une rédaction.
« Anders parlait des IA ? »
Nos sources ne disent pas qu’il ait parlé d’intelligence artificielle. Son livre paraît en 1956, l’année de l’atelier de Dartmouth ; son sous-titre parle de la deuxième révolution industrielle. On le lit aujourd’hui parce que le sentiment qu’il décrit, la honte devant ce qu’on fabrique, peut aussi se ressentir devant une machine.
« Si elle fait tout mieux que nous, on sert à quoi ? »
Un philosophe s’est posé une question voisine de la tienne, en 2025. Il a commencé par avouer qu’elle l’angoissait. On le rencontre la semaine prochaine. D’ici là, regarde ta troisième colonne : la réponse commence là.
Les corrections
Exercice 1. a. « Je déteste les lundis » contient « je » : règle 3, « Pourquoi dis-tu que tu détestes les lundis ? » b. « Mon frère gagne toujours » contient « toujours » et « mon ». On applique la première règle qui marche, dans l’ordre de la carte : règle 2, « Peux-tu me donner un exemple précis ? » c. « Non. » : règle 1, « Pourquoi non ? » d. « Il pleut. » : aucune règle, donc règle 5, « Continue. » Ce qu’on fait remarquer : le programme n’a rien su de la pluie, du frère ni du lundi.
Exercice 2. 1956, Anders, se sentir petit devant ce qu’on fabrique. 1966, Weizenbaum, la magie s’effrite quand on explique.
Exercice 3. Pas de corrigé unique. On vérifie trois choses : la première ligne nomme une chose précise (« résumer vite », pas « tout ») ; la seconde ne dit pas « mieux qu’elle » mais « à ma place, elle ne peut pas » (choisir mon sujet, rater et recommencer, connaître la personne à qui je destine mon projet) ; rien de privé n’est écrit.
Exercice 4. On compare la liste de la machine avec la troisième colonne de l’élève. Les deux listes n’ont pas à coïncider. L’élève dit sur quoi il n’est pas d’accord avec elle, et pourquoi. Si la machine affirme qu’elle ressent, ou affirme qu’elle ne ressent rien, on le relève : la demande lui disait de dire ce qu’elle sait et ce qu’elle ne sait pas.
L’erreur à attendre, et la phrase à dire
L’erreur. Deux élèves, deux excès. L’un : « C’est comme ELIZA, c’est du vent. » L’autre : « Non, elle, elle me comprend vraiment. » Le premier a vu une carte et croit avoir vu toutes les machines. Le second a ressenti quelque chose et croit avoir vu l’intérieur.
La phrase à dire. « Qu’est-ce que tu as vu, exactement : les règles, ou la réponse ? »
L’erreur à attendre pendant le chantier. La troisième colonne reste vide, ou dit « rien, je lui confie tout ». La phrase à dire : « Même le choix de ton sujet ? Même la personne pour qui tu le fais ? » Autre erreur : une confidence écrite dans le carnet. La phrase à dire : « Écris-le en rôle, ou ne l’écris pas. »
Ce qu’on regarde dans le carnet
- Les trois colonnes existent, avec au moins deux lignes chacune.
- Chaque ligne de la colonne « je garde » porte une raison, et la raison parle de l’élève ou du projet, pas d’un défaut de la machine.
- Rien de privé n’est écrit.
- On ne note pas la frontière. Un élève qui confie beaucoup et un élève qui confie peu ont tous deux fait la séance, s’ils savent dire pourquoi.
Ce que la séance couvre
La lettre de saisine du 20 juillet 2026.
- « Développer l’esprit critique en abordant les dimensions sociétales, éthiques, juridiques » : l’attachement à un programme, le sentiment de ne pas faire le poids.
- « Poser les bases d’une compréhension scientifique et technique de l’IA » : un programme de conversation rejoué à la main, mots-clés et règles.
Le référentiel Pix IA (version 1.5, janvier 2026, document de travail).
- 1.1, définir l’IA et son histoire : 1956 et 1966.
Le programme officiel n’est pas paru. Cette correspondance se refera le jour où il paraîtra.