国际新动态:中美日等在英国峰会上就应对人工智能风险达成共识。由英国主办的为期两天的人工智能安全峰会于本周三开幕,中国与美国、英国和日本等超过25个国家一道,同意共同努力应对人工智能带来的风险。
参加此次峰会的国家和欧盟发布了一份联合声明,即正式的《布莱切利宣言》,其中提到了网络攻击等人工智能的潜在危险。
宣言说:"这些人工智能模型最重要的能力有可能造成严重甚至灾难性的伤害,无论是蓄意的还是无意的。签署国承诺共同努力提高安全性”。
包括中国科技部在内的28个国家的高级官员出席了会议。科技公司的领导人也参加了会议,其中包括埃隆-马斯克,他成立了一家新的人工智能开发公司,此外还有生成式人工智能ChatGPT开发商OpenAI的首席执行官萨姆-阿尔特曼。
日本赞成七国集团成员之间进行讨论,却也有一些日本人对中国的参与持保留意见。
英国首相苏纳克上周在谈到邀请北京代表与会的决定时说:"你们当然应该尝试与他们中国接触,因为随着时间的推移,要想妥善解决人工智能问题,就需要一个国际解决方案”。
此次峰会将于周四在布莱切利公园举行,这里是二战期间英国在伦敦附近的一个密码破译基地。
英国科学、创新和技术大臣米歇尔-多纳兰在开幕致辞中宣布,第二次峰会将于六个月后在韩国举行,第三次峰会将于一年后在法国举行。
会议聚焦于前沿人工智能,深入探讨了人工智能被用于网络攻击和生化武器研发的风险,以及失去对技术控制的风险等问题。多纳兰强调,在2024年新的人工智能技术出现之前,需要采取积极主动的态度。
联合声明敦促人工智能公司确保安全,并呼吁他们在"衡量、监控和减轻潜在有害能力"的计划中保持透明度和问责制。
多纳兰说,即使是尖端人工智能的开发者也不完全了解风险。为此,将建立一个框架,让研究人员分享与技术创新相关的风险知识。
参与该框架的成员将由各国提名。人工智能滥用案例和失控风险等信息将通报给各国政府,并被用于制定对策。
该框架将以联合国政府间气候变化专门委员会为蓝本。欧盟委员会主席乌苏拉-冯-德莱恩和谷歌母公司字母表全球事务总裁肯特-沃克也提出了由这样一个研究机构负责人工智能安全措施以获得科学共识的想法。
英国是OpenAI和字母表子公司Deep Mind的发源地,也是以大学和研究机构为中心进行人工智能开发的领先国家之一。英国政府一直强调利用人工智能促进经济增长,并致力于创造一个既能充分利用人工智能,又能最大限度降低风险的环境。
苏纳克上周表示,"英国的答案是不要急于监管"人工智能。政府认为,如果主要的人工智能公司同意采取安全措施,那么暂时就没有必要进行监管。
作为建立支持性环境努力的一部分,英国将成立一个国内人工智能安全研究所,负责评估尖端人工智能的风险。美国商务部长吉娜-雷蒙多出席峰会并发表演讲,宣布美国也将成立自己的研究所。
在美国、欧盟和七国集团分别讨论制定人工智能开发和使用规则的同时,也有建立国际合作框架的举动。
上个月,联合国公布了一个讨论人工智能相关问题(如使用风险和治理)的咨询机构,该机构由来自包括美国和中国在内的33个国家的39名学者、行业高管和政府官员组成。
此外,还有由法国和加拿大牵头的人工智能全球伙伴关系,其目的是在公共和私营部门的专家之间分享知识。参与者包括美国、日本、欧洲和印度。
这些国际机构都重视人工智能风险管理,在工作上有很大的重叠。为了实现安全使用人工智能和为人工智能发展创造灵活的环境,很可能需要划分每个组织的角色,或有可能将其合并。
2023/11/0205:42日经英语新闻
声明:该文观点仅代表作者本人,本信息平台不持有任何立场,欢迎在下方【顶/踩】按钮中亮出您的态度。