AI帮助Facebook识别和禁止200个白人至上主义团体

 
在今天下午的博客文章中，Facebook详细介绍了在其平台和Instagram上打击恐怖分子，暴力极端组织和仇恨组织所取得的进展。根据Menlo Park技术巨头的说法，最近的大部分成功都是通过自动化技术实现的，而且还有一个350人的反恐小组，其范围已经扩大，以防止那些宣扬或参与暴力的人造成现实世界的伤害。
这些披露是在国会听证会之前进行的，该听证会讨论了包括Facebook，谷歌和Twitter在内的科技公司如何控制其所在社区的暴力内容。正如“纽约时报”所指出的那样，立法者应该向高管询问他们如何处理极端主义团体的帖子。
Facebook声称其机器学习算法帮助它根据他们的行为单独检测“范围广泛”的恐怖组织，主要是通过识别与已知不良资料的副本相匹配的内容并评估帖子来确定他们是否可能违反政策。该公司最初针对的是ISIS和基地组织等全球性团体，导致在过去两年内删除了超过2600万件内容(其中99%被主动识别)。但是从2018年中期开始，它将人工智能和人工调节技术的使用范围扩大到“更广泛”的危险组织，从而导致禁止来自Facebook的200个白人至上主义组织以及删除赞扬或支持这些组织的内容。
Facebook表示，它将与美国和英国的政府和执法官员合作，在未来的枪械培训计划中训练计算机视觉算法，目标是提高他们对现实世界，第一人称视频的敏感度。 3月份在新西兰基督城举行的大规模枪击事件等暴力事件。 (英国“金融时报”报道称，Facebook将免费向英国大都会警察局提供人体摄像头，作为交换，它可以访问与英国内政部共享的视频片段。)攻击及其后果“受到强烈影响Facebook表示，“对其政策及其执行情况进行了更新。
另外，该公司表示，它正在扩大一项计划，将那些在Facebook上搜索与白人至上相关的条款的人与专注于帮助人们离开仇恨团体的资源联系起来，例如Life After Hate。在澳大利亚和印度尼西亚，它与Moonshot CVE合作测量这些努力的影响，并开始分别将澳大利亚和新西兰的搜索者引导到EXIT Australia和ruangobrol.id。
最后，Facebook表示它制定了“恐怖组织”的定义，以指导其对这些组织的执法决策，并且“更明确地”说明了暴力行为(特别是那些针对平民的行为)的企图，其目的是强迫和恐吓。它说，它改变了反恐小组的结构，以打击白人至上主义暴力事件的崛起以及与特定恐怖组织没有明显联系的恐怖分子。
“我们知道糟糕的演员将继续尝试通过更复杂的努力来阻止我们的发现，我们致力于推进我们的工作并分享我们的进步，”Facebook写道。 “我们致力于透露我们打击仇恨的努力……迄今为止，我们提供的有关我们打击恐怖主义的努力的数据已经解决了我们针对基地组织，伊斯兰国及其附属机构的努力。”
Facebook首席执行官马克扎克伯格经常断言，人工智能最近开源的图像和视频算法将大大减少数百万不知情的Facebook用户滥用的数量。生产中的一个具体例子是“最近邻”算法，其发现非法照片的速度比之前的版本快8.5倍，这补充了学习Facebook图形中所有节点的深度图嵌入的系统 – 数据集合，网络上的故事，广告和照片 – 查找可能相互关联的滥用帐户和网页。
在5月发布的Facebook社区标准执行报告中，该公司报告说，人工智能和机器学习帮助减少了九个内容类别中的六个的滥用职位。具体而言，Facebook表示，在人类发现之前，它主动检测到其采取行动的内容的96.8%(与2018年第四季度的96.2%相比)，并且对于仇恨言论，它表示现在确定了超过四百万的仇恨中的65%每个季度从Facebook上删除的演讲帖子，比一年前的24%和2018年第四季度的59%有所上升。
据该公司称，这些和其他算法的改进有助于减少在Facebook上观看的非法内容的总量。 报告估计，每1万人观看网络上的内容，只有11到14次观看成人裸体和性活动，25次观看暴力。 关于恐怖主义，儿童裸体和性剥削，这些数字要低得多 – Facebook表示，在2019年第一季度，每万人观看社交网络上的内容，不到三个观点包含违反这些政策的内容。