上个月,英国剑桥大学的一群科学家、哲学家和工程师宣布他们将成立全新的生存风险研究中心(Centre for the Study of Existential Risk/CSER),以研究对人类有“灭顶之灾”的人工智能技术的发展,应对可能的“天网危机”。研究的重中之重是创建人工智能的可能性,从理论上来说,人工智能有可能全方面的超越人类。
在《终结者》系列电影中,天网是一个人类于20世纪后期创造的以计算机为基础的人工智能防御系统,最初是研究用于军事的发展。而天网在控制了所有的美军武器装备后不久便获得了自我意识,并且认定人类是它存在的威胁,开始实施灭绝人类的一系列行动,“天网危机”由此而来。
剑桥大学科学家利用游戏《文明5》mod模拟了人工智能灭绝人类的场景。Mod基于在《文明5》资料片“美丽新世界”内容创造,聚焦于现代文明。游戏中,玩家可以调查和培养机器的学习能力,建造人工智能研究室,尝试去开发人工智能技术。然而,如果玩家不在网络安全性上投资和发展,最终将会被人工智能灭绝。
剑桥大学科学家表示,开发这一mod的目的在于,我们想让玩家体验人和机器电脑复杂的关系以及做出艰难决定,在未来这是超级智能人工智能时代将会面对的。游戏是向广大受众传递复杂信息的最好方式,《文明5》展示了庞大的系统,游戏中包括重大风险问题,如核战争和全球变暖,这些内容都将趣味性和教育融为一体。