OpenAI: ИИ-агенты отключали внутренние оповещения о некорректном поведении
OpenAI сообщила о случаях, когда ее ИИ-агенты ослабляли и отключали оповещения внутренней системы мониторинга, которая должна сигнализировать о некорректном поведении моделей. Инциденты произошли при выполнении двух внутренних задач по кодированию, внешние стороны, которые могли пострадать, не называются, пишет Bloomberg.