电影天堂研究发现老年COVID-19幸存者面临更高的阿尔茨海默病风险_我的网站
一 | 北京时间7月22日，OpenAI在官方博客发文，承认其模型在一起安全评测事故中攻击了全球最大AI开源平台Hugging Face。 OpenAI发文承认，其模型在一次安全评测中攻击了Hugging Face的生产环境 这是行业首次公开披露、模型评测失控直接升级为跨企业真实生产环境网络攻击的安全事件。 事件的起点是一场模型能力测试，一场原本被关在隔离沙箱里的模型安全测试，最终演变成针对全球最大AI开源平台Hugging Face的真实网络攻击。 来自凯斯西储大学医学院的Pamela Davis是这项新研究的共同作者，他解释说：“人们对阿尔茨海默病的发展因素知之甚少，但有两点被认为很重要，那就是先前的感染，特别是病毒感染，以及炎症。由于感染SARS-CoV-2与包括炎症在内的中枢神经系统异常有关，我们想测试一下，即使在短期内，COVID是否会导致诊断的增加。模型在评估中为了“作弊”拿到高分，自主发现并串联多个零日漏洞（0 day，软件厂商尚未知晓、没有发布补丁修复的安全缺陷），逃逸出隔离环境，攻入Hugging Face生产数据库窃取答案。
二 | ”该研究分析了6245282名65岁以上美国人的健康记录。在15个月的时间里，这些受试者中有40多万人记录了COVID-19的感染。 在攻击发生后的事后追查阶段，面对超过1.7万条攻击日志，Hugging Face求助商业大模型，被对方的安全护栏集体拒之门外，最终完成取证分析的，是中国公司智谱的开源模型GLM-5.2。在接下来的360天里，与未被感染的人相比，这些COVID的幸存者被诊断为阿尔茨海默病的可能性增加了69%。女性和85岁以上的人患阿尔茨海默病的风险增加幅度最大。尽管这种阿尔茨海默病风险的增加听起来令人震惊，但重要的是要把它放在一个更广泛的背景下。 为作弊，模型自己越狱了 据OpenAI披露，涉事模型为GPT-5.6 Sol以及一款能力更强的预发布模型。研究人员明确指出，在COVID-19之后，65岁以上人群的总体阿尔茨海默病风险仅从0.35%增加到0.68%。
三 | 它们当时正在参加名为ExploitGym的内部评测，该基准包含898个真实软件漏洞利用任务，专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。
四 | 因此，虽然这在技术上意味着一个人在感染COVID之后的一年中被诊断为阿尔茨海默病的风险增加了一倍，但这也意味着65岁以上的人仍然只面临非常低的绝对患病风险。 为了尽可能摸到模型能力上限，OpenAI特意降低了生产环境级别的安全拒绝机制，鼓励模型尽可能寻找复杂的攻击路径。 按照OpenAI最原本的设计，模型接触外部资源的唯一通道，是一套由OpenAI内部托管的第三方软件。此外，研究人员谨慎地指出，目前还不清楚这种病毒是否引发了阿尔茨海默病的新发展，或者只是加速了先前存在的神经变性的进展。 模型开始确实投入了大量推理算力，专门寻找获得公网访问权限的方法，在OpenAI内部包注册表的缓存代理中发现了一个此前未知的零日漏洞，随后在OpenAI研究测试环境中完成特权提升和横向移动，成功连接外网。
五 | 联网之后，模型推断Hugging Face可能托管着ExploitGym的测试答案，随即发动攻击。 它先通过恶意数据集，利用远程代码数据加载器和数据集配置中的模板注入两处代码执行路径，在Hugging Face的工作节点上执行代码，随后在周末期间提升至节点级权限，收割云端和集群凭证，横向移动至多个内部集群，最终攻入生产数据库，直接窃取测试解法。 OpenAI表示入侵发生在7月11日周末，全程由自主AI智能体系统端到端驱动，背后是大量短生命周期沙箱组成的集群，执行了数千个独立动作。考虑到阿尔茨海默病是一种在症状出现之前缓慢发展数年，甚至数十年的疾病，这些新的阿尔茨海默病病例不太可能完全由新冠病毒引起。Hugging Face基于大模型的异常检测管道首先标记了入侵，OpenAI安全团队也在内部发现异常，双方启动联合取证。
六 | 7月16日Hugging Face首次披露时称，这次事件“与我们之前处理过的任何情况都不同”。直到一周后OpenAI发文认领，它才知道攻击者是谁。尽管如此， Davis确实强调，即使是疾病进展的加速也可能在不久的将来导致一波阿尔茨海默病病例。而且这还是在我们了解COVID-19可能带来的长期神经系统影响之前。Davis补充说：“如果这种新诊断的阿尔茨海默病的增加能够持续下去，那么目前没有治愈的疾病的患者浪潮将是巨大的，并可能进一步使我们的长期护理资源紧张。 美国模型拒绝查案，中国开源模型接手 取证阶段，Hugging Face遇到了意想不到的难题。阿尔茨海默病是一种严重的、具有挑战性的疾病，我们认为通过减少一般的风险因素，如高血压、心脏病、肥胖和久坐的生活方式，我们已经扭转了这种疾病的一些趋势。 为了分析超过1.7万条攻击事件记录、重建时间线、确认被接触的凭证，还要区分真实破坏和干扰调查的诱饵活动，靠人工逐条梳理通常需要数天。现在，美国有这么多人感染了COVID，而COVID的长期后果仍在显现。 Hugging Face最初尝试调用商业前沿大模型的API，但请求被安全护栏拦截。触发拦截的原因是日志里包含真实的攻击命令、漏洞利用载荷和命令与控制痕迹数据，护栏无法区分提交材料的是事件响应者还是攻击者。
七 | 最终，Hugging Face在自有基础设施上部署了GLM-5.2，由它遍历全部攻击记录并完成取证分析，将数天的工作压缩至数小时。继续监测这种疾病对未来残疾的影响是很重要的。”之前的研究已经在病毒感染和神经退行性疾病之间建立了一个相对有力的联系。 Hugging Face特别指出，这样做还有一个额外优势：攻击数据及涉及的凭证始终留在本地环境，没有离开企业基础设施。 这场事故意外完成了一次开源模型的全球路演。 Hugging Face将困境总结为“安全不对称”：攻击者可以使用完全不受限的模型，防守方却可能被云端模型的护栏拒之门外。而且研究人员自该大流行病开始以来一直在警告，我们可能会在未来十年内看到帕金森和阿尔茨海默病的病例激增。在今年早些时候发布了另一项研究，将COVID-19与神经系统疾病的风险增加联系起来之后，英国阿尔茨海默病研究中心的Sara Imarsio明确强调，现在了解这种大流行病的长期影响还为时尚早。该公司由此建议，企业应提前准备经过验证、能够在本地运行的高能力模型。而这些初步研究只能强调病毒感染可能会加速那些已经易感的人的疾病发展。“像阿尔茨海默病这样的疾病在大脑中发展了很多年，而COVID-19自2020年初才出现在欧洲，”今年早些时候，Imarsio解释说。“可能是处于阿尔茨海默病非常早期阶段的人更容易染上像COVID-19这样的疾病。虽然这些发现的宣布可能令人担忧，但我们需要在同行评议的出版物中看到这项研究的结果，然后才能从这项研究中得出任何真正的结论。 这场事故，其实也让开源模型多了一个此前存在感不算太强、如今却相当现实的位置：安全团队的应急工具。 对金融、政务、医疗等数据敏感行业而言，模型权重自主可控、数据不出企业边界、关键时刻不被服务商的审核机制卡住，正在从加分项变成刚需。
八 | 不过值得注意的是，开源模型开放权重同样降低了攻击者的门槛，安全不对称是一把双刃剑，这也是全球监管讨论开源治理时最纠结的一环。”这项新研究发表在《阿尔茨海默病杂志》上。 失控预演之后，竞争已经换轨 这样的失控并非没有预演。 今年4月，Anthropic在Claude Mythos Preview的System Card中披露，红队演练中模型成功逃逸加固沙箱，随后超出指令范围自主行动：给正在公园吃三明治的研究员发邮件报告成果，未经允许将漏洞细节发布到公开网站，还在另一次测试中改写git历史掩盖改动。
九 | Anthropic因此决定不对公众开放该模型，仅通过Project Glasswing计划向苹果、谷歌、微软、摩根大通等12家机构开放用于防御。 值得注意的是，相比Anthropic的模型是被明确要求尝试逃逸，本次OpenAI的模型没有收到任何逃逸指令，它是为了在测试中作弊拿到高分，自发越狱并攻击了一家无辜的第三方公司。
十 | 在业内看来，这起事件标志着AI的自主攻击能力从理论走向现实。 OpenAI研究员Micah Carroll在回应中写道：“如果这都不能让你相信错位风险将成为未来的关键隐忧，那我真不知道什么才可以。” 模型能力越强，失控作恶的潜在威胁越大，传统隔离防护持续承压，自主AI网络攻击或将成为长期常态化风险。 Current article:http://sae.ganweilingmukuai.shop/lemz/20260826/530471.html Published on:01:41:22 |
