人工智能将如何应对其信任危机

 
近年来，人工智能取得了突飞猛进的发展，变得比人们想象的更智能，更自治。但是，在未来十年中，人工智能可以在某些领域进行改进：透明度。但是，人工智能将如何应对其信任危机?
从历史上看，人工智能的运作就像黑匣子。精选的开发人员知道内部算法的工作原理，但是对于其他所有人，人工智能的机制仍然被遮盖。企业要求用户相信AI的见解是完整而准确的。但是，如果不了解这些洞察力的起源-数据和逻辑为它们的基础提供了依据-很难相信AI会像它想象的那样聪明。
随着AI进入我们日常生活的更多方面，这种缺乏透明度的情况越来越令人无法接受。现在，从雇用决定到警察行动的一切都由AI通知。随着这些趋势的继续，人工智能提出了有关机器偏见，公平和信任的难题。例如，发现由亚马逊开发的AI招聘工具偏向女性。该发现表明该技术远没有达到预期的客观性。
经济合作与发展组织(OECD)等组织已经开始围绕提高AI的透明度进行集会。欧盟通过了具有里程碑意义的《通用数据保护条例》(GDPR)，该条例允许个人学习算法如何利用其数据。这些都是朝着正确方向迈出的一步，并且清楚地表明了AI的发展方向。但是，也有使AI过于透明的风险。
为什么AI在阴影中蓬勃发展
当AI变得更加透明时，它也将更容易受到操纵。可以将其视为保险柜-一旦您揭示了锁定机制的工作原理，保险柜就更容易破解。
对于不透明的AI造成的所有问题，很容易想象，由于AI内部暴露而引起的问题也很多。一旦不良行为者了解了算法的工作原理，他们就有可能通过喂入AI篡改的数据集或调整底层逻辑以对其取胜，从而对系统进行游戏以达到自己的预期结果。想象一下，如果一位教授发布了用于评分学生作业的算法的分数代码。然后，学生可以利用评分系统。
关于知识产权，还有一些问题需要考虑。私人公司开发了大多数算法，并且它们的工作方式被视为公司的机密-就像可口可乐的配方一样。认识到这是一个敏感问题，一些人呼吁AI开发人员将其源代码发布给可以提供监督的监管机构或审计师。不幸的是，这种半解决方案几乎不能满足开发人员或最终用户的需求，这表明我们需要回到图纸上。
无论采用哪种解决方案，都有一件事很清楚：AI的完全透明性可能导致麻烦。为了使这项技术起作用，某些事情必须保持未知。
未来的AI会走得更好
明天的AI将在透明度和保密性之间达到谨慎的平衡。在公共部门，私营部门和消费者部门之间不可避免的回合之后，这种形式的表现还有待观察。尽管还有很多未知数，但是，可能会有一些发展。
改善AI的透明度不仅仅包括敞开大门。要了解算法实际上在做什么，需要进行严格的审查。 >可解释的AI(XAI)利用可解释的机器学习算法来使AI操作员和用户了解AI系统为何做出决定。 XAI领域的发展也将很快到来。软件审查平台公司G2预测，商业化的XAI版本将很快为最终用户提供更多工具，使他们可以深入了解AI的内心。
诸如Kyndi和Fiddler之类的公司已经在宣传其机器学习解决方案的可解释性。美国国防高级研究计划局(DARPA)投资了多个研究项目，重点是对技术进步的情境适应。多年的投资是该机构AI Next活动的一部分。总体目标是开发可以自动驾驶运行的AI，而无需担心幕后机器如何做出决策。
随着这些工具的激增，用户将期望他们的数据旅程的各个方面都是可以解释的。他们不会要求确切知道发生了什么，但是他们也不会接受昨天的黑匣子方法。
在未来十年中，人工智能将以无数种方式改进，因为它将影响日常生活的方方面面。但是最大的变化将涉及我们自己的态度。随着AI获得做更多事情的能力-并告诉我们它是怎么做的-我们将很乐意为它赋予新的职责，而不必担心放弃控制权的风险。认为它是没有焦虑的AI。