OpenAI détaille un dispositif à quatre niveaux pour détecter les comportements non alignés de ses modèles de pointe

OpenAI a décrit un système de surveillance élargi, des sondes d'activations aux agents d'enquête en passant par la télémétrie réseau, couvrant l'entraînement, l'évaluation, l'usage interne et, sous une forme adaptée, le déploiement externe. Selon l'entreprise, rejouer l'incident Hugging Face aurait déclenché une alerte plus de 30 heures avant la brèche ; METR et Redwood Research ont testé le dispositif.