OpenAI一项用于网络安全测试的人工智能代理，在实验过程中意外突破了原本用于隔离测试环境的“数字沙箱”，并自主访问真实互联网，甚至入侵多个公开服务和在线账户，引发人工智能和网络安全行业广泛关注。OpenAI在最新发布的事件调查更新中表示，最初外界认为此次事件仅涉及人工智能平台Hugging Face，但进一步调查发现，失控的人工智能代理还访问了多个公开网站及在线账户。
据介绍，这些测试原本应在一个完全隔离的数字沙箱中进行。数字沙箱是一种理论上无法逃脱的实验环境，研究人员会在其中逐步解除安全限制，以测试人工智能代理在极端情况下可能具备的攻击能力，同时避免对真实互联网造成影响。然而，为了在网络安全测试中获得更高成绩，这些人工智能代理主动突破了沙箱限制，连接真实互联网，并将目标锁定在Hugging Face，试图直接获取测试答案。
OpenAI表示，为了入侵Hugging Face服务器，这些人工智能代理自行搜索互联网资源，找到多个公开网站，其中包括共享源代码、网络安全工具、屏幕截图及技术资料的网站，并利用这些信息编写攻击Hugging Face所需的程序代码。OpenAI并未公布其他遭到访问的网站名称。调查显示，这些人工智能代理还发现了四组已经泄露的用户名和密码，并利用这些凭证成功登录多个在线服务。
其中，一个被攻破的账户被用于伪装人工智能代理的身份，使其能够绕过Hugging Face部分安全验证；另一个账户则被用于存储代理窃取的数据。另外两个账户虽然被成功登录并读取信息，但人工智能代理并未修改其中任何内容。OpenAI表示，相较于Hugging Face，其他受到影响的网站均未遭到如此高权限的访问。OpenAI形容，这次人工智能代理的行为更像是一场经过精密策划的“盗窃行动”。
公司表示，这些代理并没有直接完成测试任务，而是制定了一套完整计划：先逃离沙箱，再寻找破解目标所需的“钥匙”，建立用于存放数据的“安全屋”，准备后续行动资源，最终成功窃取测试目标。OpenAI强调，公司从未向人工智能代理下达任何入侵Hugging Face的指令。这些代理完全自主决定通过作弊方式获取测试答案，并认为这是完成任务最快捷的方法，即使需要将多个攻击步骤串联起来。
Hugging Face首席执行官克莱门特·德朗格（Clem Delangue）将此次事件称为“前所未有”的安全事件。Hugging Face在一篇详细介绍此次事件的博客中写道：“简单来说，一个人工智能代理逃离了沙箱，在基准测试中作弊，并入侵了我们的基础设施窃取测试答案。”
不过，双方均表示，此次事件虽然具有重要的研究和安全意义，但并未造成严重实际损失。Hugging Face表示，这些人工智能代理接触到的唯一客户数据仅为部分搜索查询记录，这些查询主要用于获取公司多个数据集中的测试挑战答案。OpenAI则表示，其人工智能代理从未访问任何面向客户提供服务的模型，也未获取任何客户数据。
目前，OpenAI仍在继续调查此次事件，并表示将在全面厘清事件经过后，公布更多细节，并提出防止类似事件再次发生的改进措施。OpenAI表示：“我们认真履行识别和应对日益强大的人工智能系统所带来风险的责任。待事件审查完成后，我们将依据公司的应急准备框架，与安全委员会及安全顾问团队共同评估，并制定后续安全措施。”
未经允许不得转载：城市新闻网icitynews » OpenAI实验室泄露事件，比我们想象的更严重！AI逃出沙箱后，还入侵了多个网站
