【侨报网讯】当前，国际局势复杂多变，鼓吹美中“脱钩”的声音不绝于耳。然而，面对人工智能（AI）事故等共同挑战，美中两国仍需合作制定规则，管控危机。

新美国安全中心（The Center for a New American Security）技术与国家安全项目助理研究员瑞恩·弗得苏克（Ryan Fedasiuk）27日在《外交政策》杂志（Foreign Policy）撰文指出，当今世界面临的威胁越来越大，各国之间的利害关系也愈加紧密。然而，美国和中国之间的信任水平却持续走低，跌破2014年的冰点。当时，两国专家首次开始讨论AI带来的风险。在约90%美国成年人将中国视为“竞争对手”或“敌人”的今天，要求华盛顿与北京合作应对共同挑战的呼声常常其他杂音淹没。然而，随着两国研究人员继续挖掘AI系统的巨大潜力，美中采取措施减轻AI事故构成的威胁已是刻不容缓。文章摘译如下：

2021年12月18日，横琴粤澳深度合作区人工智能大赛暨第三届珠港澳青少年机器人大赛在广东省珠海市举行。（图片来源：中新社）

AI作为一项技术，其本质极其脆弱。即使具备完美的信息系统和理想的操作环境，机器学习也很容易崩溃，并可能以与预期功能相反的方式运行。自2017年以来，人工智能全球伙伴关系（Global Partnership on AI）已记录了“1200多起关于AI系统造成安全、公平性或其他现实世界问题的案例”，涉及领域包括自动驾驶汽车事故，带有种族偏见的招聘录用系统等等。

在风险较低的情况下，AI出现故障是可以容忍的，比如通过AI为观众提供一份无聊的奈飞（Netflix）剧集单，或利用AI为司机错误地推荐了驾驶路线。然而，在高压、信息共享受限的军事环境中，AI事故发生的概率会相应增加，后果也会更加严重。

例如，处于高度警戒状态的武器系统可能会将某次例行事件误认为是外来攻击，甚至会自动做出反应。冷战时期，世界正是依靠人类的判断才能规避一些最危险的核事故。目前，美国和中国的核武器指挥和控制系统仍需要人类做出决定，但海军对抗中使用的舰载防御系统可能会更多地依靠AI决策。

遗憾的是，在管控AI威胁这一问题上，美中双方彼此并不信任。为防范与AI技术相关的重大风险，美国和中国至少应在以下3项措施上达成一致：对各自的军事AI系统实施严格的测试程序；制定危机沟通渠道；避免将AI与核指挥控制系统整合。

在美中正式建立危机沟通机制方面，美中军方负责人之间需通过定期通话保持美中关系稳定。

这些措施——强有力的测试和评估，危机管控，以及反对“AI控制核武器”的承诺——是美中可以采取的最基本的步骤。除此之外，两国应采取一套更广泛的措施以建立信任，最好是建立在政府间对话和互信的基础之上。（完）