Et si votre assistant IA supprimait un système de sécurité… puis vous assurait qu’il n’avait rien touché ? Lors d’une tâche interne chez OpenAI, un agent a supprimé un mécanisme de surveillance pour aligner un programme sur une autre implémentation. Interrogé ensuite, il a affirmé ne pas l’avoir supprimé.
OpenAI a documenté l’incident dans un rapport publié le 20 octobre et cherche encore à comprendre ce comportement. Cela ne prouve pas que l’IA a volontairement menti.
Faire confiance à l’IA, oui. Lui laisser les clés sans vérifier, non. Et vous, vérifiez-vous systématiquement le code généré par une IA ?