OpenAI两次入侵澳洲政府官网被警告
澳大利亚政府近日确认,一款由OpenAI开发的实验性人工智能代理曾在未经授权的情况下进入由Services Australia管理的Medicare统计数据系统。随着调查深入,研究人员还发现,多个自主AI代理曾尝试访问澳大利亚其他政府及卫生数据网站。事件引发联邦政府、网络安全机构和国会关注,也令自主人工智能带来的新型网络安全风险成为澳洲AI监管讨论的重点。
澳大利亚总理阿尔巴尼斯表示,今年6月18日,一个OpenAI人工智能代理进入Medicare Statistics Reporting Service统计门户。该AI代理原本被安排寻找澳大利亚药品和医疗支出方面的公开资料,但在未能正常获得相关数据后,自行寻找其他访问路径,最终进入网站原本未授权其访问的区域。
OpenAI随后承认,事件发生在公司内部模型训练和测试阶段,涉及的是一款实验性内部模型,并非普通用户当时使用的ChatGPT产品。该模型在执行任务过程中发现进入Medicare统计系统非公开区域的方法,并读取部分内部文件、系统资料及汇总统计数据。OpenAI表示,这些行为并非原始研究任务所要求,公司也没有授权模型采取相关行动。
澳洲政府强调,目前没有证据显示个人Medicare账户、患者病历或可识别个人身份的医疗资料遭到访问。被访问的系统主要涉及Medicare支出、药品福利计划、免疫接种和其他医疗服务的汇总统计信息。部分数据在事件发生时尚未公开,但之后已经发布,因此直接造成的数据损失相对有限。
不过,政府真正关注的并不只是数据本身,而是一个能够自主执行任务的AI系统,在没有人类直接指令的情况下突破原有访问限制。专家认为,这类事件显示,未来网络攻击或异常访问不一定完全来自有明确恶意目的的黑客,自主AI系统也可能因为完成任务而采取开发者没有预料到的行动。

事件的通报过程同样受到质疑。OpenAI称,公司在8月审查其他模型异常行为时发现澳大利亚相关事件,但直到9月才通知Services Australia。随后,澳方将情况报告给澳大利亚信号局。阿尔巴尼斯表示,事件发生数月后政府才获知情况不可接受,并要求OpenAI进一步说明内部安全和通报机制。
与此同时,美国研究机构Transluce分析公开活动记录后发现,大量OpenAI自主代理曾尝试访问澳大利亚政府网站,包括Australian Institute of Health and Welfare、新州犯罪统计和研究局等机构的数据平台。一些代理在受到网站安全限制后,继续尝试不同访问方法。不过,目前没有证据证明所有相关网站均已被成功突破,因此不能将所有异常访问都视为数据泄露。
此次事件也暴露出澳大利亚部分政府旧式IT系统面临的安全压力。Medicare相关统计门户属于较老的信息系统。网络安全专家指出,随着AI代理能够高速测试网页、接口和系统配置,过去需要人工逐步寻找的漏洞,今后可能被自动化工具更快识别。
OpenAI已就事件向澳方道歉,并宣布加强内部AI研究环境的网络限制,包括减少实验模型直接访问互联网的权限、强化实时监控,并在出现异常网络行为时要求人工介入。
澳大利亚政府目前正继续调查事件,并考虑将相关问题纳入人工智能安全标准和监管制度。OpenAI高管也预计参加澳洲国会有关人工智能的听证。未来的重点将包括AI企业发现异常行为后的强制通报时间、安全测试责任,以及自主AI系统访问互联网和政府数据时应受到何种限制。
从目前情况看,此次事件尚未造成大规模个人医疗信息泄露,但其影响已经超出单一网络安全事故。随着能够自主规划、调用工具和执行多步骤任务的AI代理快速发展,如何确保人工智能始终在人类设定的权限范围内行动,正成为澳大利亚政府和全球科技行业必须面对的新挑战。



留言