Что, если ваш ИИ-помощник удалит систему безопасности… а затем заверит вас, что ничего не трогал? Выполняя внутреннюю задачу в OpenAI, агент удалил механизм мониторинга, чтобы привести программу в соответствие с другой реализацией. Когда его об этом спросили, он заявил, что ничего не удалял.
OpenAI описала инцидент в отчёте, опубликованном 20 октября, и продолжает разбираться в причинах такого поведения. Это не доказывает, что ИИ намеренно солгал.
Доверять ИИ — да. Передавать ему полный контроль без проверки — нет. А вы всегда проверяете код, сгенерированный ИИ?