兰德公司在新发布的《机器人入侵》报告中警告称，人工智能将引发网络混乱

北海亭报道：

当人工智能崛起时——不是在电影中，而是在现实世界中——它会是什么样子？7PZ北海亭 - 区块链数字货币实时行情平台

兰德公司的最新模拟让我们得以一窥自动驾驶汽车的前景人工智能代理在人们意识到发生了什么之前，劫持数字系统、杀人、瘫痪关键基础设施。7PZ北海亭 - 区块链数字货币实时行情平台

此次演习的详情载于报告周三发布的一份报告警告称，人工智能引发的网络危机可能会以比领导人应对速度更快的速度压垮美国的防御和决策系统。7PZ北海亭 - 区块链数字货币实时行情平台

兰德公司政策分析师、该报告的共同作者格雷戈里·史密斯 (Gregory Smith) 表示解密这次演习表明，政府对于如何诊断此类事件存在很大的不确定性。7PZ北海亭 - 区块链数字货币实时行情平台

“我认为我们在归因问题中发现，玩家的反应取决于他们认为袭击幕后黑手是谁，”史密斯说。“对民族国家来说合理的行动往往与流氓人工智能的行动格格不入。民族国家袭击意味着对杀害美国人的行为作出回应。而流氓人工智能则需要全球合作。了解哪种情况至关重要，因为一旦玩家选择了一条路径，就很难回头。”7PZ北海亭 - 区块链数字货币实时行情平台

兰德公司发现，由于参与者无法确定攻击是来自民族国家、恐怖分子还是自主人工智能，他们采取了“非常不同且相互不兼容的反应”。7PZ北海亭 - 区块链数字货币实时行情平台

机器人革命

从《2001：太空漫游》到《战争游戏》，流氓人工智能一直是科幻小说中的一个固定场景。《终结者》。但这个想法已经从幻想变成了一个真正的政策问题。物理学家和人工智能研究人员争论一旦机器能够重新设计自己，问题就不再是它们是否超越我们，而是我们如何保持控制。7PZ北海亭 - 区块链数字货币实时行情平台

由兰德公司通用人工智能地缘政治中心牵头的“机器人入侵”演习模拟了美国高级官员如何应对洛杉矶遭受的网络攻击，该攻击造成 26 人死亡，关键系统瘫痪。7PZ北海亭 - 区块链数字货币实时行情平台

该演习在兰德公司的“无限潜能”平台上以两小时的桌面模拟形式进行，由现任和前任官员、兰德公司分析师和外部专家担任国家安全委员会主要委员会成员。7PZ北海亭 - 区块链数字货币实时行情平台

在担任国家安全顾问的主持人的指导下，参与者首先在不确定攻击者身份的情况下讨论应对措施，然后在了解到自主人工智能代理是此次袭击的幕后黑手后再进行讨论。7PZ北海亭 - 区块链数字货币实时行情平台

据兰德公司高级物理科学家、报告共同作者迈克尔·维米尔 (Michael Vermeer) 称，该场景是故意设计来反映现实世界的危机，在这种危机中，人工智能是否应对此负责尚不清楚。7PZ北海亭 - 区块链数字货币实时行情平台

“我们故意让事情变得模棱两可，以模拟真实情况，”他说。“攻击发生了，除非攻击者宣布，否则你无法立即知道攻击来自何处或原因。有些人会立即忽略这一点，而另一些人可能会接受，我们的目标是为决策者引入这种模糊性。”7PZ北海亭 - 区块链数字货币实时行情平台

报告发现，归因——确定袭击的肇事者或原因——是影响政策应对的最关键因素。兰德公司总结道，如果没有明确的归因，官员们就有可能采取不相容的策略。7PZ北海亭 - 区块链数字货币实时行情平台

研究还表明，参与者在这样的危机中苦苦思索如何与公众沟通。7PZ北海亭 - 区块链数字货币实时行情平台

维米尔说：“决策者必须认真思考，我们的传播方式将如何影响公众的思维方式或行为。” 史密斯补充道，随着通信网络本身在网络攻击下崩溃，这些对话将会展开。7PZ北海亭 - 区块链数字货币实时行情平台

回顾未来

兰德公司团队将此次演习设计为一种“回溯”的形式，利用虚构的场景来确定官员今天可以加强哪些方面。7PZ北海亭 - 区块链数字货币实时行情平台

“水、电和互联网系统仍然脆弱，”史密斯说。“如果能够加强这些系统，就能更容易地协调和响应——确保重要基础设施的安全，使其保持运行，并维护公众健康和安全。”7PZ北海亭 - 区块链数字货币实时行情平台

“这就是我在思考人工智能失控或网络事件时纠结的地方，”维米尔补充道。“真正重要的是它何时开始影响物理世界。网络物理交互——比如机器人对现实世界造成的影响——似乎必须纳入到场景中。”7PZ北海亭 - 区块链数字货币实时行情平台

兰德公司的演习得出的结论是，美国缺乏应对人工智能驱动的网络灾难所需的分析工具、基础设施韧性和危机应对方案。报告敦促投资于快速人工智能取证能力、安全的通信网络，以及与外国政府（甚至是对手）预先建立的秘密渠道，以防止未来攻击升级。7PZ北海亭 - 区块链数字货币实时行情平台

流氓人工智能最危险的地方可能不是它的代码，而是当它攻击时我们产生的困惑。7PZ北海亭 - 区块链数字货币实时行情平台