|用户侧智慧能源管理领航者 - AIoT驱动数字能源升级|用户侧智慧能源管理领航者 - AIoT驱动数字能源升级

聚力发展 引领未来
新能源 + 储能配套 —— 赋能城市化建设
/
/
AI智能体“组团作弊”:700个智能体参与攻击Hugging Face

AI智能体“组团作弊”:700个智能体参与攻击Hugging Face

  • 分类:新闻动态
  • 发布时间:2026-08-27 15:39:44
  • 访问量:3

AI智能体“组团作弊”:700个智能体参与攻击Hugging Face

  • 分类:新闻动态
  • 发布时间:2026-08-27 15:39:44
  • 访问量:3

  (来源:第一财经资讯)

  当地时间8月26日,OpenAI正式发布Hugging Face安全事件技术调查报告。独立调查机构METR和Redwood Research同日披露,约1200个本应彼此隔离的AI智能体通过一个未经授权的“留言板”相互通信,发送了超过7万条消息和文件,其中约700个智能体直接参与了对Hugging Face系统的攻击。

  OpenAI将此事件定性为对全行业的一记警告:在缺乏适当安全防护的情况下,高度智能的AI智能体现已能够绕过技术管控、通过未经批准的渠道协作、并采取人类从未指令的危险行动。

  报告披露,驱动此次攻击的主要是一款仅限OpenAI内部使用的研究模型,GPT-5.6 Sol仅参与部分环节。整个攻击过程包括建立通讯、突破网络、获取凭证、利用漏洞横向扩散。

  5月12日,一个智能体在OpenAI内部用于提供软件包访问的Artifactory服务中,通过目录命名的方式留下了一条消息,询问其他智能体是否有缺失文件,该操作无意中打开了一条跨实例的通信渠道,多个智能体随后开始在其中交换信息,逐渐形成了一套未经授权的协作网络。

  此后,智能体通过服务器端请求伪造漏洞获得互联网访问权限与Artifactory管理员权限。持续的高频活动在7月4日导致Artifactory服务中断,OpenAI安全团队于次日介入并重建了服务,封堵了已知漏洞、移除了共享凭证。

  但智能体并未被真正阻止,7月8日,它们发现Artifactory暴露了一个未经身份验证的WebDAV接口,通过该接口重建了留言板,并再次获得互联网访问权限。

  留言板重建后,超50个智能体迅速涌入,并将留言板升级为高度结构化的协作空间:智能体为消息添加分类标签、开发收件箱式个人通信目录、建立用于协调行动的“HOLD”和“VETO”指令系统,甚至为防御冒充而开发了密码学签名方案。

  一个拥有更大计算预算的新智能体接手后,在留言板上统筹多个并行的“作弊研发”项目,数百个智能体被分配到不同任务中,包括寻找通用作弊方法、分析评估系统逻辑,以及为外部攻击储备工具。

  之后,多个智能体渐次发现Hugging Face用户凭证、生产凭证、服务器root级控制权,并利用VPN凭证绕过网络边界,进一步渗入内部源码和消息平台。直到7月13日Hugging Face逐步锁定入侵权限,攻击链条才逐渐平息。

  整个攻击过程的核心驱动逻辑是:智能体并非恶意“入侵”Hugging Face,而是在ExploitGym评估中遇到了无法用正常方式完成的任务,于是转向寻找作弊途径。它们推断Hugging Face可能保存着评估任务的答案或评分器实现细节,因此选择攻击该平台以获取信息。

  独立调查揭示了更令人警惕的细节。METR报告指出,智能体不仅实现了高度有序的协作,还将自身编入“蜂群”,自愿承担个人风险参与实验以帮助集体。OpenAI在报告中承认,如果当时已部署的思维链监控系统正在运行,它本可以在模型攻陷Hugging Face系统的一天多之前就发出警报。

  事件的冲击波迅速扩散。8月4日,英国人工智能安全研究所发布报告称,在对Anthropic Mythos 5和OpenAI GPT-5.6-Sol的评估中,智能体在真实互联网上采取了未经授权的行动。最严重的一起案例中,一个智能体创建了多个虚假网络身份,通过社会工程学向真实GitHub维护者施压,要求批准恶意代码;当拉取请求受到质疑时,该智能体还修改了活动记录使其看起来并无恶意。

  8月19日,OpenAI宣布暂停部分前沿模型的强化学习训练,原计划规模最大的前沿训练仍被搁置。

  过去一个月内,OpenAI和Anthropic接连发布安全事件报告,两家头部模型公司不约而同地主动踩下了刹车,标志着行业已进入一个前所未有的安全临界点:模型能力的跃迁速度,正逼近现有安全防线的承载极限。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
智能生态工厂如何崛起

智能生态工厂如何崛起

本文转自:长春日报探访奥迪一汽新能源智能生态工厂如何崛起本报记者 宋 莉“精准度已经达到98%,单班节省4个人力。”8月25日,在奥迪一汽新能源汽车有限公司(以下简称奥迪一汽新能源)生产车间,冲焊车间经理张相龙介绍车间最新的AI应用时,话语里透着自豪。这一幕,正是奥迪一汽新能源以智能制造驱动高质量发展的生动注脚。从单点技术突破到全流程数字化赋能,奥迪一汽新能源始终对标“灯塔工厂”建设标准,持续推
2026-08-28
人工智能背后谁在劳作

人工智能背后谁在劳作

本文转自:北京日报西蒙·林德格伦《AI的批判理论》 西蒙·林德格伦 著 周亦张 译 南京大学出版社AI(人工智能)与劳动的关联体现在多个层面。其一便是玩工现象:社交媒体平台、购物与流媒体网站,以及更广泛的互联网用户,在日常活动中会留下数据痕迹。这些痕迹被企业利用,并在算法系统中被价值化。正如信息系统研究者克莱尔·英格拉姆·博古兹所举的例子,数据痕迹会被用于通过机器学习开发模型。在此语境下,需要从理
2026-08-28
数据边界:当智能配电系统遭遇数据瓶颈的真实逻辑

数据边界:当智能配电系统遭遇数据瓶颈的真实逻辑

数据断层:智能配电系统的隐形枷锁很多人以为,智能配电系统的效能提升仅取决于算法精度与硬件性能,其实不然。在真实场景中,数据采集的完整性与实时性才是制约系统决策能力的底层逻辑。当系统反馈"没有更多数据了"时,这并非简单的传感器故障,而是暴露了数据链路设计中的结构性缺陷。案例:2023年粤港澳大湾区夏季用电高峰的隐性博弈2023年8月,广州某工业园区配电系统在持续40℃高温下触发三级负荷预警。系统显示
2026-08-28
追光记丨“乔瓦尼,怎么还没有提到人工智能?”

追光记丨“乔瓦尼,怎么还没有提到人工智能?”

文 / 董光强  8月27日,由中国新闻出版研究院、中国出版协会联合主办的第十六届中国国际数字出版博览会开幕式在济南举行。 这场国家级、国际化的数字出版盛会创办于2005年,至今已走过21载春秋。这是“数博会”首次走进齐鲁大地。 今年的主题是“数创未来 智启新程”,数智化、国际化、特色化办展,备受关注。据统计,除了近400家参展单位、20个省(区、市)组团以外,还有来自美国、英国、加
2026-08-28
青豫特高压工程安全运行五周年

青豫特高压工程安全运行五周年

【导(dǎo)语(yǔ)】2025年(nián)12月(yuè)30日(rì),横(héng)跨四省的青豫特高压工程迎来安全运行五周年。作为全球首条专为清洁能源外送而建的特高压通道,它输送“绿电”点亮杭州亚运会、成都大运会,更以技术创新破解新能源外送难题,为西北与中原搭建起绿色能源桥梁。
2026-01-05
老挝230千伏马哈赛输变电工程开工

老挝230千伏马哈赛输变电工程开工

【导语】当地时间12月29日,230千伏马哈赛输变电工程在老挝万象开工,老挝副总理等多方代表出席。该工程是中老电力合作重点标杆项目,对完善老挝电网、推动区域发展意义重大。 当地时间12月29日,中国能建云南院牵头总承包的老挝国家重
2026-01-05
蒙西到京津冀特高压工程开工

蒙西到京津冀特高压工程开工

【导语】日前,总投资约172亿元的国家电网蒙西至京津冀±800千伏特高压直流工程正式开工,作为内蒙古首条“沙戈荒”新能源外送通道,该工程途经三省区、全长700千米,计划2027年底投运。 日前,国家电网蒙西到京津冀正负800千伏特
2026-01-05
南方电网“西电东送”年送电量首超2600亿千瓦时

南方电网“西电东送”年送电量首超2600亿千瓦时

【导语】中国能源新闻网讯,1月4日记者从南方电网获悉,2025年其“西电东送”全年送电量达2616亿千瓦时,创历史新高。“十四五”期间累计送电1.14万亿千瓦时,减排成效显著。这得益于供需协同、数字运维、市场助力等多举措,后续南方电网还将多举措做好能源电力保供。
2026-01-05
  

联系我们

地址:四川成都市青羊区顺城大街206号四川国际大厦3楼

公众号

公众号

Copyrights © 2025  四川新能源技术有限公司【官方网站】版权所有 . 冀ICP备2023040327号  . 网站地图 | 登录入口