11月2日，英国举办的全球首届人工智能安全峰会落幕，美国和中国等在内的28个国家和欧盟签署了一份共同治理人工智能的宣言，但是，峰会对如何确保ai不会被滥用来侵犯人权却没有达成共识，宣言最后也没有提及人权。
苏纳克邀中国参加为何引争议？
从英国决定邀请中国与会开始，中国就一直是争议的中心。英国首相里希·苏纳克（rishi sunak）不顾本国政客和人权团体的反对，邀请中国政府和科技企业参加英国ai安全峰会。
苏纳克表示，邀请中国不是一个容易的决定。事实上，很多人因此批评我，但我认为这是一个正确的长期决定，因为任何关于人工智能安全的严肃对话都必须让领先的ai国家参与进来。
英国前首相伊丽莎白·特拉斯（elizabeth truss）是批评苏纳克这一决定的政客之一。她在峰会举行前致函苏纳克，呼吁撤销对中国的邀请。
不过，根据峰会日程，英国苏纳克在峰会第二天和一批政府、企业和专家进行“小范围”会面，进一步讨论如何应对ai技术的风险，并确保ai被“善意使用”。中国不在和苏纳克会谈的“少数”国家代表之列。
科技业者对邀请中国参加这一峰会态度不一。特斯拉和太空探索技术公司（spacex）的ceo伊隆·马斯克星期四在峰会后与苏纳克对谈时表示，将中国纳入有关ai安全的讨论是“必要的”。在他看来，“中国愿意参与ai安全的讨论”，同时感谢苏纳克邀请中国，也感谢中国参加峰会。
英国ai峰会宣言为何不提ai对人权的影响？
峰会上与会各国签署的《布莱切利宣言》（ bletchley declaration ）阐述了前沿ai技术可能对人类社会造成的风险。宣言签署方承诺为管控风险共同合作。宣言明确了各方对人工智能在网络安全、生物科技和假信息传播方面的担忧，但没有提及利用ai侵犯人权的问题。
分析人士认为，英国方面有意将峰会议题缩小在上述三个方面，目的是能让与会方达成具有实际内容的共识。
美国继续防范前沿ai技术落入中国之手
美国和中国都是ai技术强手、同时也是竞争对手，苏纳克对成功将这两个国家聚集在同一场论坛感到自豪。美国官方对英方邀请中国与会持欢迎态度。白宫科技政策办公室主任阿拉蒂·普拉巴卡尔（arati prabhkar）10月26日对《华盛顿邮报》表示，英方为了“在正确的谈判桌召集正确的人”做出了努力，而美方希望“在世界各个地区进行有益的对话”。
但美中同台不代表美国将放松技术管制，而是继续防范前沿ai等可能用于军事领域的两用科技落入中国之手。
美国政府加强在半导体芯片技术领域对中国的出口管制，目的之一就是堵截中国ai发展的技术渠道。
雷蒙多在演讲中没有直接提到美中两国在ai领域的理念分歧，但提到了ai领域的大国竞争。
“即使各国竞争激烈，我们也能够而且必须寻求全球问题的全球尊龙凯时ag旗舰的解决方案。这将需要在人工智能安全方面进行全球协调。这将需要每个国家承诺防止滥用，并确保危险的人工智能技术不会落入坏人之手。
中国提倡“以人类共同福祉为目标，保障社会安全、尊重人类权益，共同防范打击对ai技术的滥用和恶用”，强调“发展中国家在ai全球治理中的代表性和发言权”。
值得注意的是，美国拜登行政当局在英国ai峰会前发布了有关ai安全和发展的行政命令，明确提出美国的“对手和其他外国行为者”通过使用ai系统，可能对美国国防和情报机构、盟友和伙伴构成威胁，美国将继续努力应对。
ai对人类的潜在危害远不止侵犯人权
代表美国出席这场峰会的副总统卡马拉·哈里斯（kamala devi harris )星期三呼吁各方重视人工智能对人类生存构成的威胁，这包括“ai引发的大规模网络攻击”和“可能危及数百万人生命的ai生物武器。
本西奥10月24日在英国查塔姆研究所（chatham house）举办的一场讨论会上表示，事实上，使用当前的人工智能系统（为化学武器设计有毒化学品）非常容易。你甚至不需要展望未来。
ai可能对金融系统、就业和民主体系带来动荡，但人类目前并不清楚如何控制ai。
与这些风险息息相关的是，我们现在不知道如何构建一个能够按‘预期’运行的人工智能系统；‘预期’指的是某些特定的任务，但也要求ai以符合我们的价值观、规范、道德和法律等方式运行。
