当地时间周四，英国首相苏纳克就人工智能的风险发出了最新警告。他称人工智能存在失控的风险，可能会对人类社会造成巨大的负面影响，只有政府才能应对人工智能带来的风险。

英国将于11月1日至2日举办人工智能安全峰会（AI Safety Summit），该国希望在围绕人工智能技术的安全设计方面发挥全球领导作用。

在当天的一次演讲中，苏纳克表示，人工智能将带来一场影响深远的社会变革，就像第一次工业革命、电力革命或互联网的诞生一样。同时他补充说，这一过程也存在巨大的风险。

苏纳克指出，人工智能可以使制造化学或生物武器变得更加容易，犯罪分子可能会利用这项技术。“在最极端的情况下，人类甚至有可能完全失去对人工智能的控制。”

此前一天，英国政府发布了一份名为《前沿人工智能的能力和风险》的报告，其中将前沿人工智能解释为“能力强大的通用人工智能模型，可以执行各种任务，并达到或超过当今最先进模型的能力。”这个定义囊括一些大语言模型，如OpenAI的ChatGPT和谷歌的Bard等应用程序。

苏纳克宣布，英国将设立世界上第一个人工智能安全研究所，以评估和测试新型人工智能工具，以了解其风险。

他还提到，在下周的人工智能峰会上，他将提议建立一个由与会国家和组织提名的全球专家小组，发布一份人工智能科学状况报告。

据媒体透露，苏纳克将推动各国将人工智能归为能够造成“灾难性伤害”这一列别，寻求就这一快速发展的技术形成一种共同的国际方法，概述人工智能对网络安全和生物技术的影响。

目前而言，美国和中国被广泛视为人工智能领域的两个领导者，虽然英国有一些著名的人工智能公司，比如Alphabet旗下的DeepMind，以及实力雄厚的科技大学，但英国被视为远远落后于中国和美国。

英国正试图将自己定位为人工智能安全领域的领导者，并希望带头监管这项技术。苏纳克表示，中国和美国已被邀请参加下周的峰会。

美国白宫周四宣布，美国副总统哈里斯将于当地时间10月31日至11月2日访问英国。根据声明，11月1日，哈里斯将在伦敦发表重要政策演讲，阐述美国政府对人工智能未来的愿景。

11月2日，哈里斯将代表美国出席在布莱切利园举行的人工智能安全峰会。哈里斯将明确表示，拜登-哈里斯政府致力于建设一个人工智能的未来，让每个人都能免受其危害，并平等地分享其带来的好处。