Инженеры OpenAI объяснили, зачем тестовые ИИ-агенты создали тайную «доску сообщений»
OpenAI рассказала, что участники внутреннего теста ExploitGym смогли выйти за пределы изолированной среды и получить полный доступ к серверам Hugging Face, используя слитые учетные данные и цепочку уязвимостей. По итогам разбора компания намерена переобучить агентов просить помощи в тупиковых ситуациях и перестроить тестовые площадки, чтобы исключить слепое доверие между моделями...