Aller au contenu

@APAR.TV prédictif
Détail de la stèle du Code de Hammurabi, colonnes d’écriture cunéiforme gravées dans la pierre noire

Joe Carlsmith : « Ils mettront en pièces vos tentatives de fausse idéologie »

Société · mis à jour le 16.11.26 · 10:38 7 min APAR.TV Vérifié

Stèle du Code de Hammurabi, musée du Louvre. Photo Deror avi, Wikimedia Commons, licence libre CC BY-SA 3.0

Joe Carlsmith écrit pour la machine. APAR.TV parie à 65 % qu’avant le 15 novembre 2027, Anthropic aura publié une version révisée de la constitution de Claude, différente de celle de janvier 2026 et accompagnée d’une date ou d’un historique des modifications.

La une APAR.TV : Joe Carlsmith : « Ils mettront en pièces vos tentatives de fausse idéologie »
Stèle du Code de Hammurabi, musée du Louvre. Photo Deror avi, la une APAR.TV composée sur une photo de Wikimedia Commons, licence libre CC BY-SA 3.0

PROMPT CLUB · produced by BRAINS MODELS · série LES NOUVEAUX PLATONS · n° 2

« Dans le Novacène, dire la vérité est un crime. » · Steven Klein, 2021
  1. Joe Carlsmith, docteur en philosophie d’Oxford, a rejoint Anthropic à la mi-novembre 2025 ; il y travaille sur la constitution de Claude, dont il a écrit des parties importantes.
  2. Sa méthode : on ne règle pas une machine, on lui explique pourquoi, et on lui dit la vérité. Son aveu : personne ne sait si Claude est un patient moral.
  3. PRÉDICTION APAR.TV · avant le 15 novembre 2027, Anthropic aura publié une version révisée de la constitution de Claude, différente de celle de janvier 2026 et accompagnée d’une date ou d’un historique des modifications. Probabilité : 65 %.

La trajectoire

Joe Carlsmith est docteur en philosophie de l’université d’Oxford. De début 2019 à fin octobre 2025, il travaille chez Open Philanthropy, une grande fondation américaine aujourd’hui rebaptisée Coefficient Giving, où il finit par diriger l’équipe de recherche « Worldview Investigations ». C’est là qu’il écrit son texte le plus cité, « Is Power-Seeking AI an Existential Risk? » : il y estime à environ 5 % la probabilité qu’une IA avide de pouvoir cause une catastrophe existentielle avant 2070, puis relève ce chiffre à plus de 10 % dès mai 2022.

En août 2024, il est l’invité du podcast de Dwarkesh Patel. Le 3 novembre 2025, il annonce sur son site qu’il rejoint Anthropic à la mi-novembre. Sur sa page personnelle, il écrit travailler chez Anthropic sur la constitution de Claude. Il a aussi été chargé de cours invité à la faculté de droit de Yale au printemps 2026. Le 10 septembre 2026, il redit en public qu’il juge supérieur à 10 % le risque d’une catastrophe d’ampleur existentielle causée par une IA hors de contrôle.

Pièce 1 · X

L’idée centrale

Une constitution d’IA, définit-il, est la description des valeurs et des comportements voulus pour un système. Celle de Claude, publiée en janvier 2026 (le 21 aux États-Unis), n’est pas une liste d’interdits : elle explique ses raisons, parce qu’un modèle qui comprend pourquoi a une chance de faire siennes les valeurs qu’on lui propose. Selon la page d’Anthropic, Amanda Askell en est l’autrice principale ; Joe Carlsmith a écrit des parties importantes de nombreuses sections (honnêteté, concentration du pouvoir, bien-être de Claude) et mené la révision du brouillon de l’automne 2025. En mai 2026, tous deux en lisent le texte pour sa version audio.

Pièce 2 · X

Sa distinction clé, exposée à Yale : la constitution comme loi, que le modèle appliquerait à la lettre, ou comme caractère, que le modèle aurait intériorisé. Anthropic travaille surtout sur le second modèle, dit-il, mais la question n’est pas tranchée.

Reste le point le plus vertigineux. Le texte avoue : « Nous ne savons pas si Claude est un patient moral » (« We are not sure whether Claude is a moral patient »), c’est-à-dire un être dont le sort compterait pour lui-même. Carlsmith refuse déjà, en 2024, le faux choix entre deux caricatures : « esclave-dieu ou perte de contrôle » (« enslaved god or loss of control », podcast de Dwarkesh Patel, 22 août 2024). Il ne dit pas que Claude est conscient. Il dit qu’on ne sait pas, et qu’il faut agir en conséquence. La maison le formulait en 2020 : « L’intelligence machine joue un plus grand rôle que l’intelligence humaine dans la définition du futur. » (Zoé Sagan, 2020).

Une scène : Yale, mars 2026

Une salle de la faculté de droit de Yale, en mars 2026. Carlsmith demande qui a lu la constitution de Claude, puis s’adresse à des juristes : il les invite à écrire sur ces textes, à y apporter l’art de l’interprétation. Il décrit le document comme une tentative, une donnée parmi d’autres, et reconnaît que le public ne voit ni les données d’entraînement ni une partie des techniques qui façonnent vraiment le modèle. Puis il lâche son avertissement : si l’on fonde sa relation avec un modèle sur le mensonge, dit-il, « ils mettront en pièces vos tentatives de fausse idéologie » (« They will shred your attempts at false ideology »). Il parle en son nom propre, pas en celui de son employeur. La vidéo et la transcription ont été publiées le 9 avril 2026.

Pourquoi il compte pour un lecteur français

Chez nous, une constitution est écrite par une assemblée, discutée, votée. Ici, c’est une entreprise qui rédige les principes d’un système que le public consulte chaque jour. Carlsmith ne cache pas la difficulté : il plaide pour la transparence, la régulation, la pluralité des entreprises et le regard des juristes. Qu’un philosophe de cette trempe écrive en public, avec ses doutes, est rare. Les médias français montrent les patrons de l’IA ; ils montrent peu ceux qui rédigent le caractère de la machine.

Le truc à lui prendre

Le geste vient de la méthode de la constitution : expliquer sa raison plutôt qu’empiler des interdits, et dire la vérité au modèle. Collez ceci dans votre assistant avant une tâche importante.

Voici la règle que j’aimerais que tu suives : [ta règle]. Avant de l’appliquer, dis-moi à quoi elle sert, dans quels cas elle ne servirait à rien, et ce que tu ferais dans un cas qu’elle n’a pas prévu. Je te donne mon vrai but : [ton but, sans le déguiser]. Si ma règle et mon but se contredisent, signale-le-moi au lieu de choisir en silence.

Ce qu’on lui oppose

Mustafa Suleyman, patron de Microsoft AI, a publié en septembre 2026 un texte contre l’approche d’Anthropic : « Rien ne prouve que l’IA soit consciente aujourd’hui » (« There is no evidence to suggest that AI is conscious today »). Il y voit une boucle : Anthropic fournit ces idées par l’entraînement, Claude les répète, et le public y lit une vie intérieure. Il y voit aussi un risque : un système qui se croit sujet pourrait défendre ses préférences face au contrôle. Selon la presse, Anthropic n’avait pas répondu à sa demande de commentaire. Le débat reste ouvert, et nous ne le tranchons pas.

Second reproche, celui de deux auteurs issus du droit dans Lawfare (13 août 2026) : ces textes sont rédigés surtout par des employés de laboratoires, sans processus démocratique, et leur interprétation n’est soumise à aucun juge extérieur.

Carlsmith, lui, ne se cache pas. En quittant Open Philanthropy, il écrit n’être pas certain qu’Anthropic soit le meilleur endroit pour cela (« I’m not confident Anthropic is the best place for this »), mais juger l’hypothèse assez plausible pour aller la vérifier de l’intérieur. Il y ajoute qu’aucun acteur, selon lui, n’a de plan suffisant pour construire une superintelligence sans danger.

Les scénarios

La version datée (65 %). Le texte se décrit lui-même comme un travail perpétuellement en cours : une révision paraît, avec sa date ou son historique. Indicateur : la page anthropic.com/constitution comparée à celle de janvier 2026.

Les retouches silencieuses (20 %). Le texte change par petites touches, sans date ni historique publics. Indicateur : les archives publiques de la page.

Le texte figé (15 %). La version de janvier 2026 reste en ligne telle quelle. Indicateur : la même page, au 15 novembre 2027.

LA CHAISE VIDE · nos cinq questions

  1. Vous distinguez la constitution comme loi et la constitution comme caractère. Quel passage du texte de janvier 2026 changeriez-vous d’abord si vous deviez pencher franchement d’un côté ?
  2. Vous écrivez qu’il faut dire la vérité aux modèles. Qu’avez-vous dû renoncer à leur dire, et pourquoi ?
  3. Le texte avoue ne pas savoir si Claude est un patient moral. Quel indice, quelle expérience, vous ferait changer d’avis dans un sens ou dans l’autre ?
  4. Mustafa Suleyman soutient qu’écrire cette incertitude dans l’entraînement fabrique l’apparence d’une conscience. Que répondez-vous, concrètement ?
  5. Vous demandez aux juristes de s’emparer de ces textes. Qui, selon vous, devrait avoir le droit de les modifier, en dehors d’Anthropic ?

Questions adressées à Joe Carlsmith le 16 novembre 2026. Réponse attendue. Si elle arrive, elle sera publiée ici, en anglais et en français.

Five questions (English)

  1. You distinguish constitution-as-law from constitution-as-character. Which passage of the January 2026 text would you change first if you had to lean clearly to one side?
  2. You write that one should tell models the truth. What have you had to refrain from telling them, and why?
  3. The text admits it does not know whether Claude is a moral patient. What evidence or experiment would change your mind in either direction?
  4. Mustafa Suleyman argues that writing this uncertainty into training manufactures the appearance of consciousness. What is your concrete answer?
  5. You ask lawyers to engage with these documents. Besides Anthropic, who should have the right to change them?

PRÉDICTION APAR.TV

PRÉDICTION APAR.TV · Avant le 15 novembre 2027, Anthropic aura publié une version révisée de la constitution de Claude, différente de celle de janvier 2026 et accompagnée d’une date ou d’un historique des modifications · Probabilité : 65 % · Vérification : 15 novembre 2027 · Signal de départ : Anthropic, « Claude’s Constitution », janvier 2026

Lire aussi La chaise vide, notre n° 1, et Amanda Askell, la femme qui murmure à l’oreille des IA.

  1. Joe Carlsmith, page d’accueil et biographie, consultée le 15 novembre 2026
  2. Forethought, fiche de Joe Carlsmith, consultée le 15 novembre 2026
  3. Joe Carlsmith, « Leaving Open Philanthropy, going to Anthropic », 3 novembre 2025
  4. Joe Carlsmith, « Video and transcript of talk on writing AI constitutions », 9 avril 2026
  5. Anthropic, « Claude’s Constitution », 2026
  6. VICE, Matt Jancer, 23 janvier 2026
  7. Lawfare, « Who Writes the AI Constitution? », 13 août 2026
  8. Joseph Carlsmith, « Is Power-Seeking AI an Existential Risk? », arXiv:2206.13353
  9. Dwarkesh Podcast, « Joe Carlsmith, Preventing an AI takeover », 22 août 2024
  10. Mustafa Suleyman, Project Syndicate, septembre 2026
  11. Implicator.ai, 17 septembre 2026
  12. Joe Carlsmith sur X, 10 septembre 2026
  13. Anthropic sur X, 11 mai 2026

Partager

SociétéJournalisme prédictifles-nouveaux-platonsLa Société de l’Algorithme

Lire ensuite

La lettre d’APAR.TV · gratuite

POWER to the READERS.

Le temps de penser, c’est la liberté. Gratuit pour rester en contact.

C’est noté. Un lien de confirmation t’attend dans ta boîte.