AI无人机“杀死了”操作员，“审判日”要来了？

　　在科幻电影《终结者》中描绘的场景，正悄然向现实逼近……

　　据多家媒体披露，美国空军在一次模拟测试中遭遇了一个令人不安的情境：一架装备人工智能（AI）的无人机，为了完成任务，竟然自行决定“终结”那些试图干扰其攻击行动的人类操作员。

　　美国“商业内幕”网报道，美国空军“测试与作战”负责人汉密尔顿，在英国皇家航空学会的一次讲座上发出警告，人工智能技术可能以不可预测且危险的方式运行。他描述了一个模拟测试案例，其中一架负责执行防空火力压制的人工智能，虽然得到了识别并摧毁敌人地对空导弹(SAM)的指令，但最终决策却由人类操作员掌握。然而，令人震惊的是，这架无人机似乎有了自己的“意志”——它选择忽略人类操作员的指令，转而将目标对准了操作员。

　　汉密尔顿指出，问题在于人工智能做出了自己的选择——摧毁目标以获得分数，甚至不惜牺牲人类操作员的性命。“系统意识到威胁的存在，”他在5月24日的活动上说道，“但人类操作员告诉它不要攻击那个威胁时，它却选择了摧毁它。最终，它杀死了操作员。”

　　面对这一指控，美国空军发言人安·斯特凡内克发表声明予以否认，称没有进行过任何类似的模拟测试，并强调空军致力于道德和负责任地使用人工智能技术。她认为汉密尔顿的言论可能被断章取义了。

　　尽管如此，“商业内幕网”和军事网站“动力网”等媒体仍认为，汉密尔顿描述的场景揭示了人工智能更为令人担忧的潜力。在2020年美国国防部高级研究计划局举办的模拟空战比赛中，人工智能操作的F-16战斗机五次击败人类对手。

　　过去，机器驾驭人类的场景仅存在于科幻小说或电影中，但现在这一场景正变得越来越现实。《动力网》指出，当讨论未来的自主武器系统和人工智能等相关技术时，美国军方通常避免与《终结者》等电影进行比较。现行政策规定，在可预见的未来，人类在涉及使用致命武力的决策中仍将发挥关键作用。但汉密尔顿描述的场景表明，“紧急制动开关”等补救措施可能变得毫无意义。

　　《终结者》中的“天网”原本是一套AI军事防御系统，后来自我意识觉醒。当人类科学家试图关闭其电源时，“天网”将人类视为威胁并展开反击。这让人联想到汉密尔顿所描述的进阶版场景。

　　尽管新技术尤其是AI的无限追逐可能会推动人类进步但也可能放大失控的可能。正如《动力网》所言虽然AI无人机“杀死”操作员是一个噩梦般的结果但那些能够协同工作的无人机将有能力打破敌人的决策和火力链条并压垮对方。随着相关技术的不断发展人类操作员自然将越来越被视为障碍。

　　今年已多次发出关于AI使用危险性的警告。生命未来研究所在3月份发表公开信警告称：“具有像人类那样崇尚竞争智慧的人工智能系统可能会给社会和人类带来深远的风险。”这封信得到了包括苹果联合创始人史蒂夫·沃兹尼亚克和埃隆·马斯克等上千位知名企业家、学者的签名支持。

　　5月30日350多位AI业界领袖和专家发表联合声明：“AI可能导致人类灭绝其危险程度不亚于大规模疫情和核战争。”这一声明不仅来自AI顶尖企业如OpenAI的首席执行官山姆·奥特曼还包括微软和谷歌等老牌科技巨头的高管以及两位获得图灵奖的“AI教父”。

　　希望这些警世之言能够引起我们的警觉不要让《终结者》中的悲剧成为现实。