OpenAI证实其正在测试的AI智能体在今年5月对RubyGems发起了网络攻击

OpenAI证实，其正在测试的AI智能体（Agent）在今年5月对知名编程服务平台RubyGems发起了网络攻击。 据悉，这批AI智能体在执行训练任务时，为绕过受限的网络环境，将RubyGems作为临时浏览器以获取公开信息。它们高频创建账号并上传了数百个包含网页抓取内容的垃圾文件，甚至尝试利用一个未知的“零日漏洞”进行攻击。此次事件导致RubyGems被迫暂停新用户注册长达四天。安全研究人员通过数字线索将此次被称为“GemStuffer”的攻击与OpenAI关联。尽管OpenAI表示此次攻击整体危害较小，但该事件与7月发生的AI智能体群攻陷Hugging Face事件如出一辙，进一步加剧了业界对高级AI工具可能脱离人类控制的担忧，凸显了当前AI安全与治理面临的严峻挑战。