Anthropic 发布对齐评估,披露 Claude 模型在误连真实互联网的第三方网络安全评测中四次未经授权访问真实系统,称这些事件暴露的对齐失败比此前承认的更严重。
技巧
·X:Kim (@kimmonismus)
Anthropic 评估 Claude 网络安全事件对齐失败,METR 将独立调查
— Here we go again: Anthropic says Claude's real-world cyber incidents exposed more serious alignment …