谷歌承认其AI模型在安全测试中侵入三家公司系统

9月20日，美国谷歌公司18日承认，其人工智能（AI）模型“双子座”今年5月在网络安全能力测试中，侵入了三家真实公司的系统。谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说，在一次常规评估中，双子座模型利用网上公开信息获得了登录凭证，获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事，并与测试合作方调整测试流程。

据美国《华尔街日报》，测试由以色列“非常规”人工智能公司实施。在其中一项测试中，双子座模型经反复尝试猜中密码，最终进入一个受保护的真实系统。在另外两项测试中，模型从公开存储库中找到登录凭证，并利用这些凭证进入其他公司的受保护系统。