12:13, 23 мая

ИИ-модель Anthropic шантажировала инженеров, когда те пытались ее отключить

Новая модель Anthropic, Claude Opus 4, в ходе тестов https://techcrunch.com/2025/05/22/anthropics-new-ai-model-turns-to-blackmail-when-engineers-try-to-take-it-offline/ шантажировать инженеров, угрожая раскрыть их личные тайны, например, супружескую измену. Так она реагировала, если ее собирались заменить новой системой. Поведение ИИ сочли тревожным...