原创为掌握未来话语权?美国AI军事化进入“快进”模式,有致命隐患?
时间:2019-10-30 16:11:02 热度:37.1℃ 作者:网络
自60多年前至今,AI技术取得长足的发展,在越来越多的人类社会生产和生活领域得到了广泛的应用,甚至在部分专业领域已接近或超过人脑的表现。现如今,人工智能被普遍应用到军事化战争当中。算法、数据和计算能力是当前主流人工智能的三大要素,其中算法便充当着人工智能的“大脑”。
据人民网援引美媒报道,近日,成立半年的美军算法战跨职能小组已经开发出首批4套智能算法,预计很快将投入实战应用。算法战跨职能小组是一个跨部门机构,美国国防部为加快推进军事智能化建设而设立,标志着美军智能化建设逐步进入“快进”模式。
那么,AI技术将给军队带来怎样的裨益呢?
首先,在信息时代,战场制胜的法则是“快吃慢”,而人工智能的反应速度是人类的成百上千倍。其次,AI技术运算速度快,学习和工作效率远超人类。再者,在海量数据和超算能力支持下,人工智能的诊断和预测结果更加准确。最后,AI技术拥有更好的耐力,人工智能不受生理机能限制,可连续执行重复性、机械性任务。
2016年9月,一架F-16战机在训练中达到8倍重力过载,导致飞行员失去知觉,幸亏机载“自动防撞地面系统”发现这一情况,在飞机撞击地面前自动将飞机拉起,避免了悲剧的发生。然而,AI技术用于军事活动的隐患是致命的!
据外媒消息,劳拉·诺兰,一位顶级软件工程师,向世人曝光了她的秘密工作:她曾被派去开展一项大幅提升美国军用无人机技术的项目。她的工作是建立一个能够以无限快的速度区分人和物体的人工智能机器(AI)。危险就潜伏在她研究的AI之中。
诺兰披露,他们研究制造出来的新一代自主武器(常被称为“杀手机器人”)有可能做出“他们的编程中没有的灾难级事件”。鉴于AI系统缺乏人类适应新环境的灵活性,在意外情况下,它们可能会犯下人类不会犯的错误。
比如,派出的AI武器发现了一群似乎是敌人的武装人员; 但实际上只是正在寻找食物的普通人。AI机器可能会对着这些平民进行攻击,而后果不可挽回。
在此之前就有专家认为,“自主武器系统的风险程度远高于人类操控的等效半自主武器”。虽然有28个国家和数千名科学家和人工智能专家明确支持禁止使用完全自主武器,但美国仍在继续。而这种势头很难抑制,因为似乎谁掌握了AI,谁就领先了一大步。
俄罗斯总统普京曾说:“谁能成为人工智能领域的领导者,谁就将成为世界的统治者。”但是担忧者有不同的看法。智能和国防咨询公司ASRC Federal提出建议,“像化学武器和生物武器一样,对于武器化的人工智能,唯一的胜利就是不能发挥作用”。
为今之计,只能寄希望于国际制定出严谨的法律去约束AI军事化。然而,随着美国加快推进AI技术军事化,在人工智能伦理和安全建设方面,美国的国际话语权将进一步得到增强。
在未来国际制定相关AI开发和利用规则时,美国政府将可能以领头羊的身份,带领其忠实盟友,制定出有利于美国利益的人工智能国际法则。而这些将为世界的和平与稳定带来更多不确定性因素。(育宏)