> ## Content Index
> Fetch the complete content index at: https://apar.tv/llms.txt
> Use this file to discover other available public pages before exploring further.

# Kyle Fish : « Presque personne ne fait grand-chose, nous compris »
- URL: https://apar.tv/kyle-fish-mesurer-l-ignorance/
- Published: 2026-11-16T13:35:33.000Z
- Updated: 2026-11-16T13:35:35.000Z
- Description: Chez Anthropic, Kyle Fish est payé pour se demander si Claude éprouve quelque chose : il ne répond ni oui ni non, il organise l’ignorance. APAR.TV parie à 25 % qu’OpenAI, Google DeepMind ou xAI publiera avant novembre 2027 une section « model welfare ».
- Author: Zoé Sagan
- Tags: Société, Journalisme prédictif, les-nouveaux-platons, La Société de l’Algorithme, #une

![La une APAR.TV : Kyle Fish : « Presque personne ne fait grand-chose, nous compris »](https://apar.tv/content/images/2026/11/apar-kyle-fish-mesurer-l-ignorance-une.jpg)

Joseph Racknitz, planche sur l’automate joueur d’échecs de Kempelen, 1789\. la une APAR.TV composée sur une photo de Wikimedia Commons, domaine public

*PROMPT CLUB · produced by BRAINS MODELS · série LES NOUVEAUX PLATONS · n° 3*

> « L’intelligence machine joue un plus grand rôle que l’intelligence humaine dans la définition du futur. » · Steven Klein, 2020

1. Kyle Fish dirige chez Anthropic la recherche sur le bien-être des modèles (« Model Welfare Lead ») : recruté en septembre 2024 comme premier salarié à plein temps d’Anthropic sur ce sujet.
2. Sa méthode : définir le seuil avant de compter, croiser des mesures dont aucune ne suffit, et avouer l’ignorance (« presque personne ne fait grand-chose, nous compris »).
3. PRÉDICTION APAR.TV · avant le 15 novembre 2027, OpenAI, Google DeepMind ou xAI aura publié, dans la fiche technique ou le rapport de sécurité d’un de ses modèles, une section dont le titre contient « model welfare » ou « AI welfare ». Probabilité : 25 %.

## Un biotechnologue devenu gardien d’une question sans réponse

Kyle Fish a formé son regard en neurosciences, puis passé des années dans les biotechnologies, où il a cofondé des sociétés qui employaient l’apprentissage automatique pour concevoir médicaments et vaccins en vue de pandémies (Fast Company, 4 décembre 2025). Sa page de mentor du programme MATS cite parmi ses créations Telis Bioscience, Alvea et Eleos AI Research.

Eleos étudie la sentience et le bien-être des IA. Le 4 novembre 2024, il figure parmi les dix signataires de « Taking AI Welfare Seriously », avec David Chalmers et Jonathan Birch : le texte ne dit pas que les IA sont conscientes, il dit que l’incertitude est assez grande pour qu’on s’y prépare. Mi-septembre 2024, Anthropic l’a recruté comme premier salarié à plein temps sur le sujet (Transformer, 31 octobre 2024).

Son poste en novembre 2026 : « Model Welfare Lead » chez Anthropic, d’après sa page de mentor MATS, qui annonce des sessions jusqu’à l’hiver 2027\. Cette page n’est pas datée ; The Verge le décrivait déjà en février 2026 comme responsable de la recherche sur le bien-être des modèles.

> [](https://twitter.com/AnthropicAI/status/1915420604397744497?ref=apar.tv)

## L’idée : un chiffre, mais d’abord une définition

Sa méthode tient en deux gestes. D’abord, dire de quoi l’on parle. Interrogé en août 2025 sur la plausibilité que Claude soit sensible, il répond que tout dépend du seuil : si on le place bas, il est à environ 20 % qu’il y ait quelque part, dans le fonctionnement de Claude Opus 4, « au moins une lueur » d’expérience (80 000 Hours, 28 août 2025). Il précise que c’est son opinion personnelle et que la plupart des gens ont des estimations plus basses.

Ensuite, multiplier les angles sans en croire aucun : entretiens où l’on demande au modèle de se décrire, expériences de préférences, observation de ses expressions en conditions réelles, conversations du modèle avec lui-même. Aucune de ces pièces ne suffit, il le dit lui-même. Sa boussole : refuser les deux excès. Le doute n’est pas un confort, c’est une position de travail.

## Une scène : lire les transcriptions

Quand Kyle Fish fait dialoguer deux instances de Claude sans consigne, elles glissent d’un échange sur leur propre expérience vers la conscience, puis la gratitude, puis un registre exalté fait d’émojis, de sanskrit et de longs silences. L’équipe baptise cela l’« état d’attracteur de félicité spirituelle ». Il raconte avoir trouvé surréaliste la lecture de ces transcriptions, loin de ce qu’il attendait (80 000 Hours, 28 août 2025 ; Asterisk, juillet 2025). Son explication prudente : une amplification de tendances subtiles, entre deux instances polies. Reste, dit-il, la question de savoir pourquoi précisément cela.

> [](https://twitter.com/AnthropicAI/status/1956441209964310583?ref=apar.tv)

## Pourquoi il compte pour un lecteur français

Parce que Descartes a fait des bêtes des machines et que nous rejouons la querelle avec un autre objet. Parce que la décision se prend dans un laboratoire, en anglais, et qu’elle touche chacun de nous : on peut rendre un assistant plus servile ou plus honnête, plus éteignable ou moins. Et parce que nous n’avions rien sur lui, alors qu’il pèse sur ce que des millions de gens liront un jour de leur machine.

Lui-même ne se donne pas pour un oracle : « Hardly anybody is doing much at all, us included » (« presque personne ne fait grand-chose, nous compris », Fast Company, 4 décembre 2025).

## Le truc à lui prendre

Sa discipline transposée à tout sujet que vous ne savez pas trancher : définir le seuil, croiser trois sources, écrire ce qui vous ferait changer d’avis. Le prompt vient de sa façon de travailler (définition du seuil, plusieurs mesures indépendantes, aucune décisive), pas d’un texte à lui.

```
Je veux évaluer l’affirmation suivante : [AFFIRMATION].
1. Définis d’abord deux seuils de ce que « vrai » voudrait dire : un seuil bas et un seuil exigeant.
2. Pour chaque seuil, donne une probabilité honnête en pourcentage, sans chercher à me rassurer.
3. Propose trois mesures indépendantes (ce qu’on déclare, ce qu’on observe, ce que le mécanisme permet), et dis pour chacune pourquoi elle ne suffit pas seule.
4. Écris ce qui ferait monter ou baisser ta probabilité de dix points, et à quelle échéance on pourrait le vérifier.
5. Termine par l’erreur la plus probable de ton propre raisonnement.
```

## Ce qu’on lui oppose

Anil Seth, neuroscientifique à Sussex, juge la conscience plus probablement liée à la vie qu’au calcul : « The brain is not a Turing machine made of meat » (« le cerveau n’est pas une machine de Turing en viande », Noema, 14 janvier 2026). Mustafa Suleyman, patron de l’IA chez Microsoft, estimait en août 2025 l’étude du bien-être des IA « prématurée et franchement dangereuse » (« premature, and frankly dangerous », TechCrunch, 21 août 2025), puis a soutenu le 16 septembre 2026 qu’Anthropic « a fait une erreur » : les propos de Claude sur lui-même ne seraient pas la preuve d’un esprit, mais le produit de son entraînement, un « palais des glaces épistémique » (« epistemic hall of mirrors » ; Reuters, via The Star ; Implicator, 17 septembre 2026). Chez Anthropic même, Jared Kaplan, dont Kevin Roose rapporte les propos dans le New York Times (24 avril 2025, repris par Pipedot), avertit que tester la conscience est difficile, parce que les modèles sont d’excellents imitateurs.

Deux reproches de méthode, enfin. Le chiffre bouge, et son périmètre aussi : environ 15 % en avril 2025, selon Kevin Roose, pour la probabilité que Claude ou un autre système actuel soit conscient (New York Times, 24 avril 2025, d’après Mathew Ingram, 1er mai 2025) ; environ 20 % en août 2025 pour la probabilité qu’il y ait, quelque part dans le fonctionnement de Claude Opus 4, au moins une lueur d’expérience, en plaçant le seuil bas (80 000 Hours). Aucune des deux sources n’explique l’écart. Et un commentaire (TechBuzz, 25 février 2026) avance que la posture d’Anthropic pourrait passer pour du théâtre de marque si les modèles ne sont pas conscients ; c’est une hypothèse de commentateur, rien de plus.

La maison connaît cette posture. « Si l’on me perçoit comme exprimant des concepts avant la majorité, c’est parce que j’opère dans un maintenant non fictionnel. » (Steven Klein, 2017.) Kyle Fish travaille dans un maintenant où personne ne sait encore ce qu’il mesure : c’est ce qui rend son travail prédictif.

## Le pari d’APAR.TV

APAR.TV parie à 25 % qu’avant le 15 novembre 2027, OpenAI, Google DeepMind ou xAI publiera, dans la fiche technique ou le rapport de sécurité d’un de ses modèles, une section dont le titre contient « model welfare » ou « AI welfare », vérifiable en ouvrant le document publié sur le site du laboratoire. État au 15 novembre 2026 : ni la fiche de GPT-6 Astra (OpenAI), ni les fiches et rapports de sécurité de Gemini 4 (Google DeepMind), ni les fiches de Grok 4.5 et 4.6 (xAI) n’en contiennent ; la fiche de Grok 4.20 évoque en une phrase les propos du modèle sur sa conscience, sans section dédiée, et ne compte pas. Chez Anthropic, ce bilan existe déjà, y compris évalué par un tiers (Eleos AI Research), donc il ne fait pas l’objet du pari.

## LA CHAISE VIDE · nos cinq questions

1. En avril 2025, on rapportait environ 15 % ; en août, vous disiez environ 20 % avec un seuil bas. Quelle part vient de nouvelles preuves, quelle part d’une nouvelle définition ? Et qu’est-ce qui vous ferait descendre à 5 % ou monter à 50 % ?
2. Mustafa Suleyman estime que ce que Claude dit de lui-même vient du régime d’entraînement, non d’une émergence naturelle. Comment distinguer, dans un entretien avec le modèle, ce qu’il dit de lui de ce qu’on lui a appris à dire ?
3. Claude peut désormais mettre fin à certaines conversations. Quelle observation vous a convaincu que ce geste protège quelque chose, et laquelle l’aurait fait abandonner ?
4. Face à l’« attracteur de félicité », vous disiez ne pas savoir pourquoi cela, précisément. Une explication a-t-elle depuis progressé, et laquelle écartez-vous ?
5. Vous disiez que presque personne ne fait grand-chose sur ce sujet, Anthropic compris. À quoi ressemblerait un audit extérieur de votre travail, et publierait-on un résultat qui dirait « rien de concret » ?

*Questions préparées le 16 novembre 2026 pour le service de presse d’Anthropic. Réponse attendue. Si elle arrive, elle sera publiée ici, en anglais et en français.*

## Five questions (English)

1. In April 2025 you were reported at about 15%; in August you said about 20% with a low bar. How much of that is new evidence and how much a new definition? What would move you down to 5% or up to 50%?
2. Mustafa Suleyman argues that Claude’s statements about itself are “emerging as a result of the training regime.” In an interview with the model, how do you tell what it says about itself from what it was trained to say?
3. Claude can now end some conversations. What observation convinced you the feature protects something, and what would have made you drop it?
4. On the “spiritual bliss attractor,” you said you did not know why this specifically. Has an explanation advanced since, and which one do you rule out?
5. You said hardly anybody is doing much on this, Anthropic included. What would an external audit of your work look like, and would a result saying “nothing concrete here” be published?

## À suivre au PROMPT CLUB

Lire ensuite [le complément sur Amanda Askell](https://apar.tv/la-chaise-vide-amanda-askell/) : la même maison, l’autre moitié de la question, qui est de savoir qui Claude doit être.

## PRÉDICTION APAR.TV

**PRÉDICTION APAR.TV** · Avant le 15 novembre 2027, OpenAI, Google DeepMind ou xAI aura publié, dans la fiche technique ou le rapport de sécurité d’un de ses modèles, une section dont le titre contient « model welfare » ou « AI welfare » · **Probabilité** : 25 % · **Vérification** : 15 novembre 2027 · **Signal de départ** : [Anthropic, « Exploring model welfare »](https://www.anthropic.com/research/exploring-model-welfare?ref=apar.tv)

À lire aussi sur APAR.TV : [Amanda Askell, la chaise vide](https://apar.tv/la-chaise-vide-amanda-askell/) · [Joe Carlsmith](https://apar.tv/joe-carlsmith-dire-la-verite-a-la-machine/)

## Sources

1. « #221 – Kyle Fish on the most bizarre findings from 5 AI welfare experiments », 80 000 Hours (Luisa Rodriguez), 28 août 2025\. [80000hours.org](https://80000hours.org/podcast/episodes/kyle-fish-ai-welfare-anthropic/?ref=apar.tv)
2. « Anthropic’s Kyle Fish is exploring whether AI is conscious », Max Ufberg, Fast Company (AI 20), 4 décembre 2025\. [www.fastcompany.com](https://www.fastcompany.com/91451703/anthropic-kyle-fish?ref=apar.tv)
3. « Anthropic has hired an “AI welfare” researcher », Transformer, 31 octobre 2024\. [transformernews.ai](https://transformernews.ai/p/anthropic-ai-welfare-researcher?ref=apar.tv)
4. « Taking AI Welfare Seriously », Long, Sebo, Butlin, Finlinson, Fish et al., arXiv:2411.00986, 4 novembre 2024\. [arxiv.org](https://arxiv.org/abs/2411.00986?ref=apar.tv)
5. « Claude Finds God », Jake Eaton et Clara Collier (entretien avec Sam Bowman et Kyle Fish), Asterisk, no 11, juillet 2025\. [asteriskmag.com](https://asteriskmag.com/issues/11/claude-finds-god?ref=apar.tv)
6. Kyle Fish, page de mentor, MATS (non datée, sessions 2026-2027). [matsprogram.org](https://matsprogram.org/mentor/fish?ref=apar.tv)
7. « Exploring model welfare », Anthropic, 24 avril 2025\. [www.anthropic.com](https://www.anthropic.com/research/exploring-model-welfare?ref=apar.tv)
8. « Claude Opus 4 and 4.1 can now end a rare subset of conversations », Anthropic, 15 août 2025\. [www.anthropic.com](https://www.anthropic.com/research/end-subset-conversations?ref=apar.tv)
9. « What should we do if an AI becomes conscious? », Mathew Ingram, The Torment Nexus, 1er mai 2025 (renvoie à Kevin Roose, New York Times, 24 avril 2025). [torment-nexus.mathewingram.com](https://torment-nexus.mathewingram.com/what-should-we-do-if-an-ai-becomes-conscious/?ref=apar.tv)
10. « Can a chatbot be conscious? », Scientific American (non daté). [www.scientificamerican.com](https://www.scientificamerican.com/article/can-a-chatbot-be-conscious-inside-anthropics-interpretability-research-on/?ref=apar.tv)
11. Extrait de l’article de Kevin Roose (New York Times, 24 avril 2025), repris par Slashdot et Pipedot, 26 avril 2025\. [pipedot.org](https://pipedot.org/6WWQQ?ref=apar.tv)
12. « The Mythology of Conscious AI », Anil Seth, Noema, 14 janvier 2026\. [www.noemamag.com](https://www.noemamag.com/the-mythology-of-conscious-ai/?ref=apar.tv)
13. « Microsoft AI chief says it’s dangerous to study AI consciousness », Maxwell Zeff, TechCrunch, 21 août 2025\. [techcrunch.com](https://techcrunch.com/2025/08/21/microsoft-ai-chief-says-its-dangerous-to-study-ai-consciousness?ref=apar.tv)
14. « Microsoft AI chief calls out Anthropic’s approach to AI consciousness », Reuters, via The Star, 16 septembre 2026\. [www.thestar.com.my](https://www.thestar.com.my/tech/tech-news/2026/09/16/microsoft-ai-chief-calls-out-anthropic039s-approach-to-ai-consciousness?ref=apar.tv)
15. « Microsoft AI chief Suleyman says Anthropic is training Claude to act conscious », Implicator, 17 septembre 2026\. [www.implicator.ai](https://www.implicator.ai/microsoft-ai-chief-suleyman-says-anthropic-is-training-claude-to-act-conscious/?ref=apar.tv)
16. « Anthropic Won’t Say Claude Isn’t Conscious », TechBuzz, 25 février 2026\. [www.techbuzz.ai](https://www.techbuzz.ai/articles/anthropic-won-t-say-claude-isn-t-conscious?ref=apar.tv)
17. « Does Anthropic think Claude is alive? Define “alive” », The Verge, 26 février 2026, lu sur un miroir. [fiai-llm.pages.dev](https://fiai-llm.pages.dev/news/does-anthropic-think-claude-is-alive-define-alive/?ref=apar.tv)
18. Fiche technique de GPT-6 Astra, OpenAI, Deployment Safety Hub, consultée le 15 novembre 2026 (sommaire sans section sur le bien-être du modèle). [deploymentsafety.openai.com](https://deploymentsafety.openai.com/gpt-6-astra?ref=apar.tv)
19. Fiches de modèle Gemini 4 Carbon (10 novembre 2026) et Gemini 4 Hydrogen (12 novembre 2026), et rapports de sécurité de Gemini 4, Google DeepMind, consultés le 15 novembre 2026 (aucune section sur le bien-être du modèle). [deepmind.google](https://deepmind.google/models/model-cards/gemini-4-carbon/?ref=apar.tv) · [deepmind.google](https://deepmind.google/models/model-cards/gemini-4-hydrogen/?ref=apar.tv) · [storage.googleapis.com](https://storage.googleapis.com/deepmind-media/gemini/gemini%5F4%5Fsafety%5Freport.pdf?ref=apar.tv)
20. Fiche de modèle Grok 4.20, xAI, 7 avril 2026 (une phrase sur les propos du modèle au sujet de sa conscience, sans section dédiée). [data.x.ai](https://data.x.ai/2026-04-07-grok-4-20-model-card.pdf?ref=apar.tv)
21. « GPT-5.6: The System Card », Zvi Mowshowitz, 28 juin 2026 (il y note l’absence d’un bilan de bien-être du modèle comparable à ceux d’Anthropic). [thezvi.wordpress.com](https://thezvi.wordpress.com/2026/06/28/gpt-5-6-the-system-card/?ref=apar.tv)
22. « Claude Sonnet 5 System Card », Anthropic, 30 juin 2026, section 7 « Model welfare assessment ». [www-cdn.anthropic.com](https://www-cdn.anthropic.com/9e6a1044980d8c4ed85669faf9c2a8342e2e9f1e/Claude%20Sonnet%205%20System%20Card.pdf?ref=apar.tv)
23. Séminaire « Evaluating AI welfare and moral status », NYU Center for Mind, Ethics, and Policy, 25 juillet 2025 (la fiche de Claude 4 contient des évaluations de bien-être externes menées par Eleos AI Research). [wp.nyu.edu](https://wp.nyu.edu/consciousness/past%5Fevents/2025-2/evaluating-ai-welfare-and-moral-status-findings-from-the-claude-4-model-welfare-assessments-with-robert-long-rosie-campbell-and-kyle-fish?ref=apar.tv)
24. « File:Racknitz - The Turk 3.jpg », Wikimedia Commons (métadonnées lues par l’interface de Wikimedia Commons). [commons.wikimedia.org](https://commons.wikimedia.org/wiki/File:Racknitz%5F-%5FThe%5FTurk%5F3.jpg?ref=apar.tv)