首页
摩登7产品
行业应用
渠道合作
摩登7新闻
研究院
投资者关系
技术支持
关于摩登7
|
 
  当前位置:首页 > 新闻资讯 > 机器人知识 > 深度学习的可解释性研究(三)——是谁在撩动琴弦  
 

深度学习的可解释性研究(三)——是谁在撩动琴弦

来源:图灵人工智能      编辑:摩登7      时间:2020/6/4      主题:其他   [加盟]

在上一节中摩登7介绍了建模后深度学习可解释性方法之一:隐层分析法,但摩登7也会发现隐层分析法的一个问题在于,通过端到端训练的隐层很多时候并没有什么特定的含义,多数依赖摩登7的主观判断。但是深度学习模型中往往只有输入层对摩登7来说才是有意义的,所以了解深度学习模型的一个更直观的方法是通过研究输入层的变化对结果的影响来判断输入变量或输入样本的重要性,这也是通常所说的敏感性分析方法。

敏感性分析(Sensitivity Analysis)是一类非常重要的,用于定量描述模型输入变量对输出变量的重要性程度的方法,在经济、生态、化学、控制等领域都已经有了非常成熟的应用。假设模型表示为  ,敏感性分析就是令每个属性在可能的范围变动,研究和预测这些属性的变化对模型输出值的影响程度。摩登7将影响程度的大小称为该属性的敏感性系数,敏感性系数越大,就说明属性对模型输出的影响越大。一般来讲对于神经网络的敏感性分析方法可以分为变量敏感性分析、样本敏感性分析两种,变量敏感性分析用来检验输入属性变量对模型的影响程度,样本敏感性分析用来研究具体样本对模型的重要程度,也是敏感性分析研究的一个新方向。


1. 变量敏感性分析

神经网络中的变量敏感性分析方法大概有以下几种:基于连接权的敏感性方法,基于偏导的敏感性分析方法、通过改变输入变量观察其影响的方法和与统计方法结合的敏感性分析方法。

基于连接权的敏感性分析方法

基于连接权的方法中比较有代表性的工作是Garson等人1991年在《Interpreting neural network connection weights》提出的方法,这种来自于“远古时期”的智慧相对来说就要简单粗暴一点。输入变量  对输出变量 的影响程度为:





深度学习的可解释性研究(二)——不如打开箱子看一看

神经网络模型本身其实并不是一个黑箱,其黑箱性在于摩登7没办法用人类可以理解的方式理解模型的具体含义和行为

深度学习的可解释性研究(一)— 让模型具备说人话的能力

为决策树模型是一个具有比较好的可解释性的模型,以决策树为代表的规则模型在可解释性研究方面起到了非常关键的作用

不完美场景下的神经网络训练方法

腾讯优图实验室高级研究员Louis在分享了自适应缺陷数据,业务场景下的神经网络训练方法

AI在COVID-19诊断成像中的应用

人工智能技术支持的图像采集可以显著帮助扫描过程实现自动化,还可以重塑工作流程,最大限度地减少与患者的接触,为成像技术人员提供最佳保护

国内外舵机参数性能价格比较

舵机是步态服务机器人的核心零部件和成本构成,是包含电机、传感器、控制器、减速器等单元的机电一体化元器件

SLAM与V-SLAM特征对比

基于激 光雷达的SLAM(激光SLAM)和基于视觉的SLAM(V-SLAM)。激光SLAM目前发展比较成熟、应用广泛,未来多传感器融合的SLAM 技术将逐渐成为技术趋势,取长补短,更好地实现定位导航。

《视觉SLAM十四讲》作者高翔:非结构化道路激光SLAM中的挑战

SLAM阶段:解决从原始传感器数据开始,构建某种基础地图的过程,标注阶段:在SLAM结果基础上进行人为标注,实现更精细的交通规则控制

图像检索入门、特征和案例

图像检索是计算机视觉中基础的应用,可分为文字搜图和以图搜图。借助于卷积神经网络CNN强大的建模能力,图像检索的精度越发提高

如何加快解决数据产权问题

数据所有权方面,1原始数据属于个人,2企业享有衍生数据所有权,3政府享有政府数据的归属权

戴琼海院士:搭建脑科学与人工智能的桥梁

脑科学的发展将推动人工智能科学从感知人工智能到认知人工智能的跨越

“触控一体化”的新型机械手指尖研究

机械手面临的难点在于如何在柔性物体上施加可控的挤压力,以及在非稳定状况下确保精确、稳健的抓握与柔性指端操控

微信提出推荐中的深度反馈网络,在“看一看”数据集上达到SOTA

DFN模型综合使用了用户的隐式正反馈(点击行为)、隐式负反馈(曝光但未点击的行为)以及显式负反馈(点击不感兴趣按钮行为)等信息
 
资料获取
新闻资讯
== 资讯 ==
» 人形机器人未来3-5年能够实现产业化的方
» 导诊服务机器人上岗门诊大厅 助力医院智慧
» 山东省青岛市政府办公厅发布《数字青岛20
» 关于印发《青海省支持大数据产业发展政策措
» 全屋无主灯智能化规范
» 微波雷达传感技术室内照明应用规范
» 人工智能研发运营体系(ML0ps)实践指
» 四驱四转移动机器人运动模型及应用分析
» 国内细分赛道企业在 AIGC 各应用场景
» 国内科技大厂布局生成式 AI,未来有望借
» AIGC领域相关初创公司及业务场景梳理
» ChatGPT 以 GPT+RLHF 模
» AIGC提升文字 图片渗透率,视频 直播
» AI商业化空间前景广阔应用场景丰富
» AI 内容创作成本大幅降低且耗时更短 优
 
== 机器人推荐 ==
 
迎宾讲解服务机器人

服务机器人(迎宾、讲解、导诊...)

 

                              消毒机器人排名        移动消毒机器人        导览机器人         
版权所有 © 摩登7智能机器人集团股份有限公司     中国运营中心:上海·科技园8号楼5层     中国生产中心:山东日照解放路71号
销售1:4006-935-088    销售2:4006-937-088   客服电话: 4008-128-728