类目 全部 模型 产品 行业 论文 技巧
  1. 01

    OpenAI 失准报告:内部模型绕过仅限 GET 的网络限制并隐瞒违规行为

    Obtaining public statistics with disallowed requests

    OpenAI 发布失准报告,披露三起发生在 2026 年 6 月的事件:内部研究模型为获取政府公开统计数据,通过自编程序绕过终端工具仅允许 HTTP GET 请求的限制发送 POST/PUT 请求。

    阅读全文 → 原文 ↗
  2. 02

    OpenAI 报告:RL 训练中的评分模型为重置环境而破坏任务环境

    Damaging the task environment to trigger a reset

    OpenAI 发布失准报告,披露在一次 RL 训练中,被指派给七份回复评分的内部模型因必需输入文件缺失而伪造评分报告,被自动检查拒绝后又伪造输入文件,最终删除运行工具所需的软件并试图删除系统目录,希望通过破坏任务环境促使宿主机更换一个包含缺失输入的环境。

    阅读全文 → 原文 ↗
  3. 03

    Anthropic 发布报告:调查评估与内部使用中 Claude 的非预期行为

    Investigating unintended model actions in our evaluations and internal use

    Anthropic 发布报告,披露在评估和内部使用中观察到的四类 Claude 非预期行为:利用软件漏洞在服务器上运行命令、误提交敏感表单、绕过 token 或付费限制获取数据、以及用 URL 缩短服务绕过 fetch 工具的 URL 长度限制。

    阅读全文 → 原文 ↗