因对AI可能出现的“错误”零容忍

美加强人工智能推理解释能力研究

2017年03月20日09:13  来源:科技日报
 
原标题:美加强人工智能推理解释能力研究

  随着硅谷私企引领人工智能(AI)爆发式发展,美国国防部曾发布报告称,将“立即采取行动”加速AI和自动化技术研发。据《麻省理工技术评论》杂志网站近日报道,美国国防高级研究计划局(DARPA)已经着手资助13个科研团队,赋予AI另一项本领——在机器学习技术基础上拥有更强的推理和解释能力。

  深度学习和其他机器学习技术已经大大提高了AI的声音识别和图片分类等能力,并在越来越多领域展开应用。但深度学习技术通常只擅长从大数据中找到线索,理解并得出想要的结论,这是至今无法完成的任务。比如,深度学习系统能识别出照片中的一只猫,但它不能“说出”猫的胡须、眼睛等具体信息,只能给出模棱两可的答案,甚至可能将印有小猫图案的毛毯误认为一只猫。

  对于需要识别潜在目标进行攻击的军用AI来说,这类错误和模棱两可是绝对不能容忍的。DARPA项目主管大卫·冈宁说:“在自动驾驶军用汽车和无人机等重要应用领域,AI需要学会推理和解释。因此我们决定加大投入,设计开发出拥有这些能力的全新机器学习方法。”

  在获得DARPA研发投入的研究团队中,其中一家公司正在研发的新型深度学习系统,能对分类图片中的每个位置进行分析解释;另一个安装机器学习系统的计算机界面已进入实验阶段,它能对数据、视频和人类语言等进行解释。

  德州农工大学胡夏(音译)带领的研究团队也被DARPA选中,他认为,拥有推理解释能力的AI不仅局限于军用,医药、法律和教育领域都对这类错误“零容忍”,只有AI更加可靠,这些领域的专家才会欣然接受AI给出的结果。(记者聂翠蓉)

(责编:贺迎春、熊旭)

推荐阅读

2017年中国载人航天工程将全面走完“第二步”在2016年相继完成长征七号运载火箭首飞试验、天宫二号与神舟十一号载人飞行任务后,今年4月中下旬,将在文昌航天发射场发射天舟一号货运飞船,开展货物运输补给、推进剂在轨补加、自主快速交会对接等多项关键技术试验。【详细】

6329米!国产水下滑翔机“海翼”刷新世界纪录我国自主研发的“海翼”号深海滑翔机,在马里亚纳海沟挑战者深渊上完成了大深度下潜观测任务并安全回收,其最大下潜深度达到了6329米,刷新了水下滑翔机最大下潜深度的世界纪录,为我国深渊科考提供了新的科考手段。【详细】