创业·就业

声音观察

人工智能也是“双刃剑”

王鹏
2018-12-06 11:05:23

  近日,根据“2019财年国防授权法案”批准,美国成立了人工智能国家安全委员会。这是今年美国继国防部组建联合人工智能中心后,在国家安全领域成立的又一个更高层次的人工智能专门咨询机构。按照要求,该委员会将采取必要的方法和手段,推动美国人工智能、机器学习和相关技术的发展,全面满足美国国家安全和国防需要。此举意味着,美国将人工智能的军事应用进一步提升到国家安全的战略层面。

  据悉,此次成立的美国人工智能国家安全委员会由美国众议院武装部队新兴威胁与能力小组委员会提议成立,由15名成员组成。该委员会的使命是着眼于美国的竞争力、国家保持竞争力的方式,以及需要关注的“道德问题”,审查人工智能、机器学习开发和相关技术的进展情况。具体职责包括:考察人工智能在军事应用中的风险以及对国际法的影响;考察人工智能在国家安全和国防中的伦理道德问题;建立公开训练数据的标准,推动公开训练数据的共享。

  从国家安全的战略层面出发,美国推动人工智能技术发展的目的在于始终保持技术引领和优势地位的战略态势。9月7日,美国国防部高级研究计划局在成立60周年大会上,宣布将投资20亿美元推动人工智能领域的发展。以国防部高级研究计划局为代表的技术研究机构对人工智能的研究早已不再局限于人们熟知的无人系统,而是诸如“机器如何获得类似人类的沟通和推理能力”等方面更深层次的机理研究。

  同时,美国还特别强调在人工智能领域保持对潜在对手的优势地位。美国国防部常务副部长罗伯特·沃克曾表示,“人工智能是当前美国国防战略的主要组成部分,目的在于重塑美国的军事技术优势。”

  在这两方面因素的推动下,美国政府不断加大在人工智能领域的投资力度。今年年初公布的《国防战略报告》就明确提出,将向自主技术、人工智能和机器学习等军事应用注入更多资金,加快吸收商业领域突破性技术,以获取军事竞争优势。按照计划,美军将在2019财年投入137亿美元,支持包括人工智能、无人系统在内的尖端技术研发创新。

  随着对人工智能研究的深入,美国在充分开发人工智能技术优势的同时,也开始关注到人工智能可能带来的技术风险和应用威胁。10月10日,美国陆军训练与条令司令部发起了一项“疯狂科学家”的调查活动,专门探讨人工智能在未来战场上的影响。在收到的115名参与者提交的意见书中,形成了8个方面的意见。其中一个方面专门指出需要对抗人工智能带来的风险,即人工智能支持的数据和算法容易受到欺骗、降级或其他形式的颠覆。其中,致命的自主性则是最受关注的问题。

  今年7月,智库新美国安全中心发布报告认为,人工智能技术的未来不可限量,但是目前仍然不成熟,存在4个方面的隐患:一是机器可能作弊,即人工智能系统可能在违背人类设计本意的情况下去完成任务;二是机器也有“偏见”,即在数据保障不充分的情况下,人工智能系统的错误反应可能会造成灾难性后果;三是AI的思考过程是个谜,即人工智能有一部分行为是不为人类所理解的;四是人机互动失败,即设计师与用户之间的差异可能造成人机互动失败而带来风险。美国兰德公司今年年初在一项研究中警告说,军事人工智能系统在分析局势时出错的可能性将会导致各国作出轻率的、潜在的灾难性决定。

  为此,美国开始认识到人工智能不仅是一个领域(尤其是军事领域)的应用问题,而应在政府层面有所规划。今年9月,美国众议院监督和政府改革委员会信息技术小组在发布的《机器的崛起》报告中指出,人工智能有可能以预期和意料之外的方式扰乱社会的每一个部门。鉴于这种潜在的危险,联邦政府必须解决人工智能带来的不同挑战,包括其当前和未来的应用。而这一理念在军事技术上的直接体现,就是保持对某些任务的控制权。美国国防部高级研究计划局目前正在开发一种合作自主系统,确保人类可以实现“进入决策”,即机器是自主的,但需由人类监督。可见,美军也意识到,无论人工智能有多先进,也不能把战争完全交给机器。

  (作者单位:空军工程大学)

来源:中国青年报
编辑:尹文卓

高清图库

创业沙龙

  • 中国石油创新大赛举行

    12月4日,中国石油创新大赛——中油瑞飞第三届员工创新大赛在北京迎来决赛。晋级决赛的12个项目,涵盖人工智能、大数据、区域链等新兴技术领域,主要围绕油气田生产需求及企业生产管理的“痛点”,推出数字化、智能化、信息化解决方案。

  • 第二届进口博览会海外路演启动

    2019第二届进博会海外路演活动12月3日拉开帷幕。中国国际进口博览局和国家会展中心(上海)在奥克兰举办的首站路演吸引了大批新西兰出口企业参加。多家企业和机构现场签约参展,展览面积超过1600平方米。

职场·健康

  • “我男朋友是程序员,出去玩一边蹦迪一边修BUG”

    最近,微博上一张图火了。网友们看后纷纷表示,程序员的确是太辛苦了,随时随地都带着电脑,修漏洞、改产品,工作现场惨不忍睹,真的是见者伤心……

  • 孩子为何游戏成瘾?这个锅得“多巴胺”背!

    网络游戏成瘾引发的个体及社会问题,究竟有没有病理学原因?昨天,上海交大医学院附属仁济医院放射科主任医师周滟团队在一项猜牌任务脑功能研究中发现,网络游戏成瘾青少年的大脑对奖励的敏感性增高,而对惩罚的敏感性降低,导致他们为了获得即时奖励而忽视长期的严重负面结果。

新闻排行

创见·思享

  • 创见·思享

    马云:风停了死的都是猪,许多企业只相信赌...

  • 创见·思享

    田青久:“二次创业”恰逢其时 一汽丰田逆...

  • 创见·思享

    陈昊:市场和客户是抵御寒冬的棉袄(图)

  • 创见·思享

    快手CEO宿华:超过1000万人在快手获...

  • 创见·思享

    吕伟忠:音乐创作要深入生活 弘扬正能量(...

新闻日历

友情链接

人民网 | 新华网 | 中国网 | 央视国际网络 | 国际在线 | 中国经济网 | 中国广播网 | 中国日报网 | 中国青年网 | 光明网 | 中国新闻网 | 中国西藏网
中国台湾网 | 党建网 | 千龙网 | 东方网 | 南方网 | 北方网
京ICP证100580号 | 互联网新闻信息服务许可证 (1012009003) | 京公网安备 11010102002957号 | 中国互联网视听节目服务自律公约
广播电视节目制作经营许可证(广媒)字第185号 | 信息网络传播视听节目许可证(0111630)
关于我们 | 广告服务 | 联系我们 | 本站地图 | 投稿邮箱 |版权声明 |违法和不良信息举报电话:010-84151598 |网络敲诈和有偿删帖举报电话:010-84151598
Copyright 2008-2016 by www.workercn.cn. all rights reserved
扫码关注



工人日报
客户端
苹果版
安卓版