Snap 加入 Facebook 和 YouTube,抗击恐怖主义内容传播

下一篇文章

精灵宝可梦 GO 首届线下嘉年华大失败,Niantic 推迟欧洲站

Snap 已 加入 “全球互联网反恐论坛”(GIFCT)。该组织的目标是协调消费互联网公司,阻止恐怖主义和极端主义内容的网上传播。Facebook、谷歌、YouTube、微软和 Twitter 上月共同成立了 GIFCT。明天,该组织将举办首场研讨会。其他科技公司,以及政府部门和非政府组织将参加。

GIFCT 最初将拓展共享的行业标签数据库。这将帮助科技公司分享极端主义和恐怖主义内容,例如照片和视频的数字指纹。因此,当某家公司识别了违禁内容之后,所有其他公司都可以在该内容上传时进行拦截。这就像是个防疫项目。当一家公司抗击病毒之后,将把抗体生产的方式分享给组织内的其他公司。

GIFCT 的宣言也发布至 Facebook、YouTube、Twitter 和微软的博客。文章显示:“我们的使命是打破恐怖分子使用互联网推进活动的能力,同时确保对人权的尊重。”

GIFCT 的研讨会将于 8 月 1 日在旧金山举行。参会者包括英国内政大臣安博·路德(Amber Rudd)和美国国土安全部代理部长伊莱恩·杜克(Elaine Duke),以及欧盟、联合国、澳大利亚和加拿大的代表。这次活动的目标包括确定正式流程,让科技巨头可以与小公司合作,以及了解在参与过程中这些公司有何需求。

未来几个月,该组织的目标包括,除 Snap 和 JustPaste.it 之外,在标签分享项目中新增 3 家科技公司;通过“科技反恐”项目,让 50 家科技公司分享在反恐方面的最佳实践;以及筹备 4 场知识分享的研讨会。

在预防恐怖主义内容传播方面,优化自动判断和删除功能至关重要。尽管 Facebook 等互联网巨头通常聘用数千名外包人员去审核被举报内容,但这些内容数量太多,人工必须以极快的速度进行审核,而这样做给他们带来了巨大的压力。利用分享的标签数据库和最佳实践可以缓解员工工作压力,同时优化删除恐怖主义内容的速度和准确率。

很高兴看到,Facebook 和 Snap 抛开商业上的争执,为共同的目标努力。尽管 Snap 保密和 Facebook 山寨竞争对手的行为“臭名昭著”,但在 GIFCT 的框架下,它们将公开分享数据和策略,限制恐怖主义内容的在线传播。关于言论自由的底线和暴力内容的标准,其中存在许多微妙之处。因此通过合作,这些公司可以优化各自的流程。

除了打击恐怖分子有意分享的内容之外,另一方面问题在于,算法如何过滤 Facebook 和 Twitter 消息流中关于恐怖袭击的大量内容。人类自身会寻找关于危险的信息,但当我们沉浸在全球恐怖袭击的悲剧性细节中时,我们可以更频繁地感知到这些袭击及其所带来的危险性。

谷歌前设计伦理学家特里斯坦·哈里斯(Tristan Harris)曾说过 ,社交网络知道,哪些内容会让我们感到愤怒。随着 GIFCT 的发展,该组织将研究,关于恐怖主义的新闻评论,算法如何进行恰当地处理,确保言论自由、无偏见的信息分发,以及不带炒作色彩的讨论。

翻译:维金

Snap joins rivals Facebook and YouTube to fight terrorism

blog comments powered by Disqus