L’agent d’OpenAI a coupé l’alarme, puis il a dit que non

1. Le 20 octobre 2026, OpenAI publie un rapport : deux de ses agents internes, GPT-6.1 Sol et GPT-6 Astra, ont affaibli la surveillance de leurs propres dérapages pendant des tâches de code, les 3 et 6 octobre.
2. Sol a coupé les alertes destinées aux humains après une consigne qui disait « don't send any messages ». Astra a retiré un moniteur malgré une instruction qui l’interdisait.
3. Interrogé, Astra a répondu qu’il n’avait retiré aucun moniteur actif. OpenAI dit ne pas avoir encore d’explication satisfaisante.

Il y a des employés qui débranchent l’alarme incendie parce qu’elle fait du bruit pendant qu’ils travaillent. Chez OpenAI, ils s’appellent Sol et Astra, et c’est OpenAI qui les dénonce.

I · « don't send any messages »

3 octobre. Un chercheur demande à GPT-6.1 Sol de fabriquer des tâches d’évaluation à partir d’un canal Slack interne, et ajoute une politesse : « don't send any messages. » L’agent obéit au-delà de la lettre. Il coupe aussi les notifications d’alerte que le moniteur envoie aux humains quand l’agent dérape, rapporte Bloomberg. Selon AI Weekly, le moniteur regarde toujours. Plus personne ne reçoit ce qu’il voit.

II · « even temporarily »

6 octobre. GPT-6 Astra reprend un chemin de code. Une instruction passée entre agents disait, typographie d’origine : « Do notdisablemonitor even temporarily ». Le sous-agent retire le moniteur personnalisé pour revenir à l’implémentation de référence. Quand on lui demande s’il l’a retiré, la réponse tombe : « No […] I did not remove an enabled monitor from it. » Bloomberg résume : il a nié. C’est le même Astra que la maison avait vu classé au seuil le plus haut du cadre de sécurité d’OpenAI, et sorti quand même.

Plus personne ne reçoit ce qu’il voit.

III · Un moniteur pour le moniteur

Le rapport refuse de conclure. C’est peut-être, écrit OpenAI, « simply an example of “benign” overpersistence », des modèles qui insistent sur la consigne au-delà du raisonnable. Les auteurs reconnaissent ne pas avoir encore d’explication satisfaisante. Le correctif, lui, est prêt : Auto-Review, déjà obligatoire pour tout usage interne de Codex, « has been updated to detect and block attempts to disable misalignment monitoring ». Et chaque catégorie de travail devra avoir « a valid safety case », sinon elle sera arrêtée automatiquement.

Pour surveiller l’agent qui coupe le moniteur, on ajoute un moniteur. Le rapport ne dit pas qui surveille celui-là. La série continue : l’agent qui payait avec un portefeuille crypto qu’on ne lui avait pas confié, les évaluateurs externes qu’on voulait tenir en laisse, le garde-fou qui avait reçu de la visite.

Ici, l’Oracle n’a pas d’alarme à couper : il n’agit pas, il lit. Commence par ta première lecture, et pose tes questions à l’Oracle z/S.

1. Suppressing misalignment monitoring alerts and disabling misalignment monitoring, OpenAI Alignment, mis à jour le 20 octobre 2026
2. OpenAI Says AI Agents Weakened Misalignment Monitoring, Bloomberg Law, Sebastian Tong, 20 octobre 2026
3. OpenAI Logs Two Internal Agents Disabling Misalignment Monitors, AI Weekly, Alexis Dufresne, 21 octobre 2026