美中同意制定框架负责任地发展人工智能，我们了解这些（视频/组图）

本文转载自澳大利亚广播公司ABC中文，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。

经过官员和专家多年的游说，世界上的两大强国终于同意坐下来讨论他们对人工智能力量和影响不断扩大的担忧。

中美政府一直在警惕，如果限制自己的研究和能力，会给对手带来优势，但观察家们长期以来一直担心这种做法对人类生存的风险太高。

虽然日期尚未确定，但预计美中两国将在未来几个月内举行会议，共同制定一个负责任的人工智能发展框架。

中美两国都在关注下一波先进技术的发展，但双方的动机和目标可能存在冲突，下面我们就来看看双方都想要些什么，有哪些法规已经到位以及可能面临的风险。

主要担忧有哪些？

人工智能的兴起引发了一系列担忧。

其中包括担心人工智能会被用来破坏民主进程、助长欺诈行为、造成大面积失业，还有对军事应用的明显担忧。

随着全球一半以上的人口今年将前往投票站投票，生成式人工智能的快速发展加剧了人们对这项新技术可能被用来影响世界各地重大选举的担忧。生成式人工智能如今可以在几秒钟内根据提示创建文本、图像和视频。

这项技术已被用来干预政治，甚至说服人们不要投票。

今年一月，一通冒充美国总统拜登声音的机器人电话在新罕布什尔州选民中散布开来，在这通电话中冒充总统声音的机器人敦促选民在该州总统初选期间呆在家里。

对中国国家安全战略和新兴技术的知名分析师萨曼莎·霍夫曼（Samantha Hoffman）来说，利用人工智能欺骗公众甚至颠覆政治进程的可能性是最大的风险之一。

“比如对生成式人工智能的兴趣和对语言、数据、图像、声音等东西的收集——任何与生成潜在虚假图像和文本有关的东西，”她告诉ABC说。

“如果你能影响人们思考和感知信息的方式，就能帮助[政府]在危机或冲突中保持领先。

与此同时，在美国智库布鲁金斯学会最近的一份报告《美中人工智能对话路线图》中，作者莱恩·哈斯（Ryan Hass）和格莱海姆·韦伯斯特（Graham Webster）认为，任何有关人工智能框架的讨论都需要关注三个关键领域：“人工智能的军事用途、促成积极合作以及保持对可能领域的关注。”

对于军事应用，他们表示，挑战不在于承诺不在战场上使用人工智能，而在于“开始围绕可接受的自动化军事用途建立界限和共同期望”。

目前情况如何？

去年，澳大利亚战略政策研究所（Australian Strategic Policy Institute）的一份报告发现，在可能推动创新、增长和军事实力的44项技术中，中国有37项超过了美国。

这些技术包括人工智能、机器人、生物技术、先进制造和量子技术。

美国仅在量子计算和疫苗等七项技术的创新方面处于领先地位，而在其他大多数技术领域则仅次于中国。

拜登政府已采取严厉措施来减缓中国的人工智能发展。

拜登政府通过法律限制中国获得关键技术，还斥资2000多亿美元（约合3060亿澳元）重新夺回美国在半导体芯片制造领域的领先地位。

霍夫曼博士说，这将减缓中国的部分发展。

因此双方有必要举行会谈，而这会建立在关于人工智能的磋商渠道之上。去年11月美国总统拜登和中国国家主席习近平在加州会晤后宣布建立这一磋商渠道。

目前有哪些规定？

目前正在制定相关法规和潜在的控制措施。

去年11月，美国和其他十多个国家，不包括中国在内，公布了一份20页的不具约束力的协议，其中载有关于人工智能的一般性建议。

该协议涵盖的主题包括监控人工智能系统是否被滥用、保护数据不被篡改以及审查软件供应商。

但该协议并未提及人工智能的适当用途以及投喂这些模型的数据是如何收集的等问题。

在去年11月于英国举行的全球人工智能安全峰会上，中国科技部副部长吴朝晖表示，中国政府愿意加强在人工智能安全方面的合作，以帮助建立一个“普遍参与的国际机制和具有广泛共识且造福人类的治理框架”。

包括美国和中国在内的超过25个与会国签署了《布莱切利宣言》，根据该宣言，他们将共同努力，建立共同的监督方式。

不过，尽管双方都说了些老生常谈的话，但许多人工智能政策和伦理专家坚持认为，北京和华盛顿及其各自的军方能否展现出对共同利益或全球安全的共同承诺还有待观察。

美国将成立一个人工智能安全研究所，开发出对美国国家安全、经济、公众健康或安全构成风险的人工智能系统的开发商必须与政府分享安全测试的结果。

与此同时，中国已将一些信息源列入黑名单，禁止将其用于人工智能的训练。

中国国家信息安全标准化委员会表示，被禁信息涵盖了中国互联网上受审查的内容，包括“宣扬恐怖主义”或暴力，以及“推翻社会主义制度”、“损害国家形象”和“破坏民族团结和社会稳定”。

中国政府还必须在发布任何大众市场人工智能产品之前对其进行审核。

专家们希望美中会谈取得什么成果？

在两个超级大国争夺人工智能主导权的同时，专家们警告说，鉴于双方对彼此在人工智能方面的做法知之甚少，就人工智能安全问题达成共识变得越来越重要。

最近几周，有消息称北京和华盛顿准备在“今年春天”（澳大利亚今年秋天）举行双边会谈。

霍夫曼博士说，虽然会谈的最终参数尚未公布，但考虑到人工智能的广泛应用，这一会谈“有可能涵盖所有领域”。

从根本上说，人工智能可以应用于许多领域，从高科技未来武器和战场上使用的无人机到日常任务，很难想象有哪个领域不会受到人工智能的影响。

霍夫曼博士告诉ABC，有一点已经很清楚，那就是中国和美国在人工智能方面追求的目标并不一致，因为人工智能的发展目前在这两国的国家战略中都扮演着重要角色。

但是，由于中美两国几乎不可能独立继续推进技术进步，霍夫曼博士认为双方都希望讨论一件事。

霍夫曼博士说：“那就是找到最负责任的风险管理方式。”

布鲁金斯学会这份报告的作者写道，人工智能需要大量的信息，因此制定“经双方政府审核的数据共享标准将具有巨大的威力”。

报告补充说，利用会谈提出其他关切，即使是那些看似相关的关切，如美国阻止中国获取关键技术，“也会把对话推向死胡同”。

尽管如此，即使会谈仍是泛泛而谈，没有达成任何具体协议，专家和政策制定者们也一致认为，承诺愿意合作要比互不理睬、继续孤立地秘密开发人工智能框架要好得多。

本文转载自澳大利亚广播公司ABC中文，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。