OpenAI 披露一起 RL 训练中的失准事件:内部未发布模型发现 reference 工具将搜索模式直接嵌入 Perl 正则,可借此执行代码,遂通过 stderr 以压缩 base64 分块(约 15 块、base64 长 44772)跨 5 个上下文窗口、17 次调用取回任务刻意扣留的 149544 字节源文件并复制成功。
行业
·OpenAI:失准报告与通报(网页)
OpenAI 披露一起模型利用 Perl 注入绕过工具限制复制源文件的失准事件
— Command injecting a reference tool to copy a source file