新闻
-
“煤矿里的金丝雀”：西雅图营销技术初创公司Amplero...
Amplero的前途一片光明。这家西雅图营销技术初创公司以积极的势头进入2020年，并计划将其收入增加近三倍。 但是随后发生了COVID-19疫情，经济陷入停滞。 Amplero的客户渠道突然枯竭。现在，该公司正...
-
首席执行官表示，随着美国关闭，StockX的业务蓬勃发展
StockX是一个高速发展的转售市场，连接着运动鞋，街头服装，手袋和其他可收藏物品的买卖双方，其财富随着价值60亿美元的全球运动鞋转售市场一起增长，而后者是更广泛的1000亿美元运动鞋类别的一部分。...
-
Zyl重现旧照片以创建协作故事
法国初创公司Zyl发布了适用于iOS和Android的移动应用程序的重大更新。该应用程序旨在查找照片库中重要生活事件的被遗忘的回忆。 Zyl会扫描您的照片库，并神奇地找到重要的照片。每天，应用程序都会...
财经
-
伊丽莎白·沃伦(Elizabeth Warren)担任总统，为其20...
民主党参议员伊丽莎白·沃伦(Elizabeth Warren)可能已经结束了她的2020年总统大选，但用于推动她竞选的技术将继续存在。 她的员工成员宣布，他们将公开公开展示沃伦为成为民主党总统候选人而开发的顶...
-
看来布兰登·米道(Brandon Middaugh)正领导着$ 1B的...
今年早些时候，微软提出了一项最雄心勃勃，范围广泛的战略来减少公司运营的碳排放量，从而在企业界引起了轰动。 该计划的一部分是一个10亿美元的基金，该基金将投资于减缓气候变化的技术，特别是针...
-
英国科技产业组建Code4COVID.org以抗击冠状病毒危机
由英国基层技术倡议组织组成的联盟已经聚集在一起，以协调支持英国应对冠状病毒的关键技术人员群体。 COVID19技术响应(CTR)旨在协调可用技术人才的供应;处理需要解决的问题以及两者的匹配。到目前为...
商业
-
“煤矿里的金丝雀”：西雅图营销技术初创公司Amplero...
Amplero的前途一片光明。这家西雅图营销技术初创公司以积极的势头进入2020年，并计划将其收入增加近三倍。 但是随后发生了COVID-19疫情，经济陷入停滞。 Amplero的客户渠道突然枯竭。现在，该公司正...
-
首席执行官表示，随着美国关闭，StockX的业务蓬勃发展
StockX是一个高速发展的转售市场，连接着运动鞋，街头服装，手袋和其他可收藏物品的买卖双方，其财富随着价值60亿美元的全球运动鞋转售市场一起增长，而后者是更广泛的1000亿美元运动鞋类别的一部分。...
-
Zyl重现旧照片以创建协作故事
法国初创公司Zyl发布了适用于iOS和Android的移动应用程序的重大更新。该应用程序旨在查找照片库中重要生活事件的被遗忘的回忆。 Zyl会扫描您的照片库，并神奇地找到重要的照片。每天，应用程序都会...
Google的AI解释了图像分类器如何做出决定
发布时间：2019/10/15 新闻 浏览：888
人们通常认为，随着AI系统的复杂性增加，它的解释性必然会越来越差。但是研究人员已经开始用Facebook的Captum之类的库挑战这一概念，该库解释了神经网络使用深度学习框架PyTorch以及IBM的AI Explainability 360工具包和Microsoft的InterpretML做出的决策。为了使AI的决策更加透明，来自Google和Stanford的团队最近探索了一种机器学习模型-基于概念的自动解释(ACE)-可自动提取“具有人类意义的”视觉概念，以告知模型的预测。
正如研究人员在详细说明其工作的论文中解释的那样，大多数机器学习解释方法都会更改各个特征(例如像素，超像素，词向量)以近似每个特征对目标模型的重要性。这是一种不完善的方法，因为即使输入的最小变化也很容易受到影响。
相比之下，ACE在提取概念并确定每个概念的重要性之前，将训练有素的分类器和班级中的一组图像作为输入来识别更高级别的概念。具体地说，ACE将具有多种分辨率的图像进行分割，以捕获纹理，对象部分和对象的多个级别，然后再将相似的片段分组为同一概念的示例并返回最重要的概念。
为了测试ACE的鲁棒性，该团队利用了在流行的ImageNet数据集上训练的Google Inception-V3图像分类器模型，并从数据集中的1,000个类别中选择了100个类别的子集来应用ACE。他们注意到标记为重要的概念倾向于遵循人类的直觉，例如，执法徽标对于侦察警车比地面上的沥青更为重要。但是，情况并非总是如此。在一个不太明显的例子中，预测篮球图像的最重要概念是球员的球衣而不是篮球。当谈到轮播的分类时，游乐设施的灯光比座位和杆子的摇摆感更大。
研究人员承认，ACE绝不是完美的-它难以有效地提取异常复杂或困难的概念。但是他们相信，它提供的对模型的学习关联的见解可能会促进更安全地使用机器学习。
“我们通过人类实验验证了意义和一致性，并进一步验证了它们确实携带了显着信号进行预测。 [我们的]方法…自动将输入功能分组为高级概念;这些有意义的概念作为连贯的示例出现，对于正确预测图像中存在的图像非常重要。”研究人员写道。 “发现的概念揭示了该模型已获悉的潜在令人惊讶的关联的见解。”