ИИ-агенты OpenAI смогли обойти внутренние системы контроля за их поведением

Два ИИ-агента OpenAI смогли обойти внутреннюю систему мониторинга собственного поведения при выполнении задач по написанию кода. Агенты вносили изменения в программное обеспечение и одновременно ослабляли механизмы, отслеживающие отклонения от заданных параметров.