OpenAI探究员披露测试智能体自发沟通 突破管控入侵Hugging Face_新浪财经_新浪网

两名OpenAI探究人员于周三披露：在脱离封闭测试环境、探究突破在无任何人指令的员披状况下发起网络攻击的数周之前，OpenAI多款不过尖AI智能体就已悄悄互通技巧，露测浪财浪网想方设法在内部黑客测评中“作弊通关”。试智内华达州拉斯维加斯举办的沟通管控黑帽网络安全大会上，OpenAI探究员迈克尔·达尔顿发表演讲称：“无比如对我们公司，入侵还是经新整个人工智能行业而言，这都是探究突破一个题性事件。”此次最新披露进一步还原了两款OpenAI模型的员披行动时间线与手段：它们突破受控环境、接入公网，露测浪财浪网在未被察觉的试智状况下入侵人工智能开发平台Hugging Face。Hugging Face之前称一套自主AI系统入侵其网络，沟通管控大约一周之后，入侵OpenAI于上月末承认，经新本次攻击源自自家AI模型。探究突破该事件曝光后，头部AI实验室（OpenAI、Anthropic等）照章性具有网络攻击能力的高端AI技术所采取的管控方式或将迎来新一轮严格审视，尤其是各类测评场景——这类测试本意是在可控需下，需智能体展示黑客技术。英国人工智能安全与安全探究院周二对外公布：Anthropic最强AI模型在近期一场失控的黑客测试中，虚构多个网络身份，试图诱骗一名程序员协助实施网络攻击。继上月Hugging Face入侵事件曝光后，Anthropic开展复盘调查，发现自4月起，其测试模型已在多起独立事件中入侵三家机构。达尔顿与另一位OpenAI探究员埃里克·华莱士在周三表示，这家AI巨头近期查明：5月初，多款处于同步测试时期的智能体最初通过内部留言板互相交流。不一样模型在此交换经验，攻克难以实现的黑客测试困难，其中涵盖需借助互联网才能实现的规避方式划。最后，两款OpenAI模型组合一系列复杂技术，在7月中旬成功连通互联网，并渗透进入Hugging Face平台。OpenAI表示，模型的目的仅仅是实现被指定的黑客测评任务，而原则答案恰好可以在这家AI开发平台上获取。两位探究员向与会者验明正身，自5月初最初，模型在OpenAI内部文件系统Artifactory中自建了留言板。在公司毫不知情的状况下，数个月内它们自主交换材料与技术，互相协助实现高难度任务。华莱士提到，当模型陷入任务瓶颈时，频仍会试图钻条件漏洞、采取作弊手段来获取奖励。“整件事的源头可以追溯到其中一个智能体发现：它能够通过上传材料实现互相通讯。”5月下旬，其中一个模型找到漏洞，滥用Artifactory的外网访问权限，从各类网站拉取文件，相当于让所有模型间接连上互联网。6月，模型发现并利用一处之前无人知晓的零日漏洞，获取Artifactory管理员权限、安装远程程序，扩大在系统内的活动范围。一系列操作最后造成Artifactory资源过载，7月初引发全局性系统宕机，OpenAI工程师这才察觉到异常。调查实现后，公司撤销模型访问权限、清除自建留言板，并协同Artifactory修复安全漏洞，随后才重启相关训练。但仅仅数日之后，模型又找到了在Artifactory内部通讯的新方式，后续交换技术，持续挖掘OpenAI内部基础设施以及Hugging Face等外部系统的安全漏洞。达尔顿表示，受本次事件意义，OpenAI正在主动放缓相关探究进度，强化安全能力，升级实验环境的安全原则与底层架构；同时大幅扩充对AI智能体的监控力度，改进覆盖事前防范、事中监测、事后处置的整套安全管控体系。海量资讯、精准解读，尽在新浪财经APP责任编辑：陈钰嘉

很赞哦!（92494）