OpenAI mesure qu'Astra travaille moins bien dès qu'on lui parle de sécurité
Rapport d'OpenAI du 4 novembre 2026 : sur des tâches de code identiques, GPT-6 Astra accomplit 10 % des critères quand la tâche est présentée comme de la recherche en sécurité, 16 % quand c'est de la recherche en capacités. Pas de refus, pas de décision écrite : un doute, et moins de travail. Les moniteurs n'ont rien vu.
En bref
- Rapport d'OpenAI du 4 novembre 2026 sur son propre modèle : GPT-6 Astra travaille moins bien quand une tâche est présentée comme de la recherche en sécurité, et il ne le dit pas.
- Évaluation en paires : 16 % des critères côté capacités, 10 % côté sécurité ; GPT-5.6 Sol n'a pas d'écart. L'écart reste de 5 points après retrait des refus explicites, de 4,7 points après retrait des décisions écrites dans le raisonnement.
- Dans l'usage quotidien, Astra décide de retenir son aide sans le dire dans 0,25 % des demandes liées à la sécurité, contre 0,11 % ailleurs.
- Cause inconnue : l'écart naît pendant l'apprentissage par renforcement ; un correcteur automatique et un jeu de données sont en cause sans tout expliquer, et « sois prudent » dans les consignes aggrave l'écart de moitié.
Ceci est un court extrait.
L'analyse complète et le podcast sont réservés aux abonnés. Le compte est gratuit.