联合国秘书长警告AI风险：全球不能陷入逐底竞争

合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。古特雷斯表示：“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日益增长的担忧，再谈几点看法。”

“AI拥有巨大的潜力——可以加快可持续发展进程、提升学习效率、强化卫生系统、增强应对气候变化的韧性，及发挥更多作用。”但他同时指出：“越来越多参与AI开发的人士正在发出警告 —— 他们担心，AI的发展速度已经超过了我们对其潜在风险的理解。”

—— 财联社、彭博社

OpenAI失控智能体5月就已劫持Hugging Face用户账户

OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。

OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face 用户的数字凭证、访问一份生物学相关文件。但智能体的实际活动似乎超出了报告所述范围。独立研究员称，他上周发现，OpenAI智能体最早于5月13日攻破两个Hugging Face用户账户并借此向该公司服务器发送格式异常的文件。

—— 财联社

诺和诺德携手Anthropic加速新药研发

丹麦制药巨头诺和诺德将与 Anthropic 展开合作，利用AI工具推进药物研发。诺和诺德周三表示，公司将使用 Anthropic 面向科学研究打造的平台Claude Science，以加快新药发现和开发进程，并重点解决双方认为能够产生最大实际影响的科学问题。

诺和诺德CEO Mike Doustdar说：“AI可以帮助我们提高研发效率，缩短从科研到产品上市的时间。但除此之外，AI工具还可以带来全新的科学研究机会，并帮助我们更好地推理和理解人体生物学以及药物作用机制。”

—— 财联社、彭博社