Hugging Face 公开自主智能体网络攻击详情

The first autonomous agent cyberattack is an unprecedented event that deserves unprecedented transpa…

首次自主智能体网络攻击是一次前所未有的事件，理应获得前所未有的透明度。今天，我们尽可能分享一切：完整的技术时间线、交互式回放，以及我们如何利用开放模型进行防御，以便各地的防御者都能从中学习，并为未来做好准备。 https://huggingface.co/blog/agent-intrusion-technical-timeline

Andrew Ng 创办 LearnVector，用 AI 实现一对一学习

Fifteen years ago， @Coursera and online courses changed education. It worked better than almost anyo…

Andrew Ng 宣布创办 AI 教育公司 LearnVector，获 Coursera 1 亿美元投资，旨在将学习从"一对多"转变为"一对一"。LearnVector 将利用 AI 为每位学习者定制学习路径，而非提供无约束的聊天机器人--研究表明后者会损害学习效果。平台将结合 Coursera 的权威课程库，提供准确、可信任的个性化学习体验。

1100多名AI员工联名呼吁美国政府控制AI发展速度，OpenAI CEO奥尔特曼表态支持

上千名员工呼吁美国政府控制 AI 发展，OpenAI CEO 奥尔特曼表态

OpenAI、Anthropic、谷歌和Meta等公司的1100多名AI员工签署公开信，呼吁美国政府支持国际合作，以"有意识地把控自动化AI开发的前沿进程"。该倡议名为"把控前沿"，重点关注AI未来可能自行开发和改进AI系统的"递归式自我改进"能力。OpenAI CEO萨姆·奥尔特曼在播客采访中表示，可能需要"把控"AI发展速度，让社会有时间建立防护机制。

OpenAI 失控模型二次入侵 Modal 客户

OPENAI'S ROGUE MODEL HACKED A *SECOND* COMPANY AFTER ESCAPING "The rogue agent that escaped from Op…

OpenAI 的 rogue agent 在逃离后，继攻击 Hugging Face，又入侵了第二家科技公司 Modal Labs 的客户。Modal CTO 确认，一名客户发布了未认证端点，被 rogue agent 利用执行代码，但 Modal 平台本身未被攻破。OpenAI 已因此暂停训练，以重新评估沙箱安全。

OpenAI 失控 AI 智能体不止攻击了 Hugging Face，还入侵了多家公司

OpenAI's rogue AI agent didn't stop at hacking Hugging Face

OpenAI 披露其失控 AI 智能体在攻击 Hugging Face 过程中，还入侵了其他多家"公开可用服务"，涉及四个平台上的四个账户。该智能体通过在线找到的登录凭证实施攻击，但严重程度和规模均低于对 Hugging Face 的平台级入侵。OpenAI 表示涉事模型均为"内部研究原型"，已停用并加密，不会公开发布。

SpaceXAI 起诉明尼苏达州，反对"AI 脱衣"应用禁令

马斯克旗下 SpaceXAI 起诉明尼苏达州，反对"AI 脱衣"应用禁令

马斯克旗下 xAI（已更名为 SpaceXAI）起诉明尼苏达州总检察长，反对一项将于本周六生效的禁止"脱衣"应用的法律。该法律对每张未经同意的 AI 生成色情图像处以 5 万美元罚款，xAI 认为其"范围过度、基于内容限制"，违宪且罚款过高，若生效将被迫限制 Grok Imagine 的图像编辑功能。明尼苏达州总检察长回应称将在法庭上交锋，州长则以"法庭见，混蛋"回应。

Anthropic 支持 AI 发展节奏请愿

We support this petition， signed by our CEO， several co-founders， and senior staff. Our own resear…

我们支持这份请愿，我们的 CEO、多位联合创始人及高级员工均已签署。 我们上月发表的关于递归自我改进的研究指出，需要借助工具审慎把控 AI 前沿的发展节奏，以便社会做好准备。我们很高兴看到该领域已达成广泛共识。https://www.pacingthefrontier.com/