人工智能中的偏见：一个被认可但仍未解决的问题

 
有些人称赞这项技术是解决一些人类最严重问题的方法，也是那些将人工智能妖怪化为世界上最大的生存威胁的人。当然，这些都是光谱的两个方面，人工智能无疑为未来提供了令人兴奋的机会，也提出了需要克服的挑战性问题。
近年来引起媒体关注的一个问题是人工智能的偏见。这是我两年多前在TechCrunch(代码中的暴君)中写过的主题。辩论正在肆虐。
当时研究显示，当用户在网上搜索“手”时，谷歌受到了抨击，图像结果几乎全是白色;但是当寻找“黑手”时，这些图像更具贬义性，包括伸出一只白手向黑人提供帮助，或在地球上工作的黑手。这是一个令人震惊的发现，导致声称，人工智能技术不会治愈社会中的分歧，而是会使它们永久化。
正如我两年前断言的那样，这种情况可能会发生并不奇怪。至少在2017年，在美国设计AI算法的绝大多数人都是白人男性。虽然这些人对少数民族有偏见并没有任何暗示，但是他们在他们创造的人工智能中传递他们自然的，无意识的偏见是有意义的。
并且不仅仅是谷歌算法存在偏见的AI风险。随着技术在各个行业中越来越普遍，消除技术中的任何偏差将变得越来越重要。
了解问题
两年前人工智能在许多行业和应用中确实非常重要和不可或缺，但从那时起，它的重要性可以预测地增加了。人工智能系统现在用于帮助招聘人员确定可行的候选人，贷款承销商在决定是否向客户提供贷款时，甚至在审议被定罪的犯罪分子是否会重新犯罪时判断。
当然，数据当然可以帮助人们使用人工智能和数据做出更明智的决策，但如果人工智能技术有偏见，那么结果也是如此。如果我们继续将人工智能技术的未来委托给一个非多元化的群体，那么社会中最脆弱的成员可能在寻找工作，获得贷款和被司法系统公平审判方面处于劣势，还有更多。
无论是否需要，人工智能都将是一场革命。
幸运的是，近年来围绕人工智能的偏见问题已经凸显出来，越来越多有影响力的人物，组织和政治机构正在认真研究如何处理这个问题。
AI Now Institute就是一个研究AI技术的社会影响的组织。 AI Now由研究科学家Kate Crawford和Meredith Whittaker于2017年推出，专注于AI对人权和劳动力的影响，以及如何安全地整合AI以及如何避免技术偏见。
去年5月，欧盟制定了“通用数据保护条例”(GDPR) – 一套规则，使欧盟公民能够更好地控制其在线使用数据的方式。虽然它不会直接挑战AI技术中的偏见，但它会迫使欧洲组织(或任何拥有欧洲客户的组织)在使用算法时更加透明。这将给公司带来额外的压力，以确保他们对他们正在使用的AI的起源充满信心。
尽管美国尚未就数据使用和人工智能制定类似的规定，但在2017年12月，纽约市议会和市长通过了一项法案，要求提高人工智能的透明度，因为有报道称该技术导致种族偏见。刑事判刑。
尽管研究小组和政府机构对有偏见的人工智能在社会中可能发挥的潜在破坏性作用感兴趣，但责任主要落在创造技术的企业，以及他们是否已准备好以解决问题为核心。幸运的是，一些最大的科技公司，包括那些被指责过去忽视AI偏见问题的公司，正在采取措施解决这个问题。
例如，微软现在正在聘请艺术家，哲学家和创意作家来训练人工智能机器人使用细微差别的语言，例如不使用不合适的俚语或无意中发表种族主义或性别歧视言论。 IBM正试图通过应用独立的偏差评级来确定其AI系统的公平性，从而减轻其AI机器的偏差。去年6月，Google首席执行官Sundar Pichai发布了一系列人工智能原则，旨在确保公司的工作或研究不会在算法中产生或加剧偏见。
解决AI中的偏见问题
当然，改善主要AI公司内部的多样性将大大有助于解决技术偏差问题。负责分发影响社会的人工智能系统的企业领导者需要提供公共透明度，以便监控偏见，将道德标准纳入技术，并更好地了解算法应该针对谁。
政府和企业领导人都有一些值得深思的问题需要思考。
但是，如果没有政府机构的规定，这些类型的解决方案可能会变得太慢，如果有的话。虽然欧盟已经建立了GDPR，在许多方面缓和了人工智能的偏见，但没有强有力的迹象表明美国将很快跟进。
在私人研究人员和智囊团的帮助下，政府正朝着这个方向迅速行动，并试图解决如何规范算法的问题。此外，像Facebook这样的公司也声称监管可能是有益的。尽管如此，对用户生成的内容平台的高度监管要求可以帮助像Facebook这样的公司几乎不可能竞争新的创业公司进入市场。
问题是，政府干预的理想水平是什么，不会阻碍创新?
企业家经常声称监管是创新的敌人，而且这种潜在的改变游戏规则，相对新生的技术，应该不惜一切代价避免任何障碍。然而，无论是否需要，人工智能都是一场革命。它将继续改变数十亿人的生活，因此显然需要朝着道德，无偏见的方向前进。
政府和企业领导人都有一些值得思考的严肃问题，没有太多时间去做。 AI是一种快速发展的技术，它不会等待犹豫不决。如果允许创新不受限制，只有很少的道德准则和一组不同的创作者，结果可能会导致美国和全世界的分歧加深。