必应的英文搜索有个儿童色情问题

下一篇文章

英国税务海关总署:两年内有 4600 名卖家存在逃税行为

用户能够很容易在微软的必应搜索引擎中找到非法的儿童色情图片,但更令人担忧的是,必应会推荐相关的关键词和图片,为恋童癖者提供更多的儿童色情内容。在接到匿名举报后,TechCrunch 委托网络安全初创公司 AntiToxin 展开了一项调查,结果令人震惊。

必应搜索会返回非法的儿童性虐待图片

【警告:不要在必应或其他地方搜索本文所讨论的关键词,因为那可能涉嫌犯罪。AntiToxin 受到法律顾问的密切监督,并且是跟以色列当局合作开展此项调查的,调查结果已经妥善地提交给了执法部门。本文不包含任何非法图片,这里和 AntiToxin 的报告中都使用红框对相关图片进行了遮挡处理。】

调查发现,在搜索 “porn kids”(儿童色情)、“porn CP”(CP 是 “儿童色情作品” 的英文首字母缩写)和 “nude family kids”(家居裸体小孩)这些关键词时,必应会返回非法的儿童性剥削图片,甚至于那些没有搜索此类图片的人也会被必应引流到这样的内容上去。

当调查人员搜索 “Omegle Kids”(Omegle 上的孩子)时——Omegle 是一款在青少年中间很流行的视频聊天应用——必应的自动补全功能给出了 “Omegle Kids Girls 13”(Omegle 上的 13 岁女孩)的建议,如果使用这个词组进行搜索,结果便会出现大量儿童色情内容。如果用户点击浏览那些图片,必应会在其类似图片功能中展示更多非法的儿童性剥削图片。在搜索另一组关键词 “Omegle for 12 years old”(Omegle 上的 12 岁孩子)时,必应给出了搜索 “Kids On Omegle Showing”(Omegle 上孩子在不可描述)的建议,那会返回更多涉嫌犯罪的内容。

必应的类似图片功能会提供更多非法儿童性虐待图片的搜索建议

 

这些证据表明,微软在监管其必应搜索引擎以及阻止搜索建议和类似图片推荐为恋童癖者提供便利方面遭遇了巨大的失败。不同于必应,在谷歌上搜索类似的关键词并不会返回明显违法的图片或内容。像微软必应这样的互联网公司必须投入更多,通过可扩展的技术解决方案以及人工审核,打击这类滥用行为。对微软这家在上季度取得 88 亿美元利润的公司来说,不为安全措施提供充足资金保障是找不到任何借口的。

有人匿名把必应搜索这些令人不安的问题报告给了 TechCrunch。在这之前的去年 12 月,笔者曾撰文报道过 WhatsApp 上存在儿童性剥削图片交易群组的事情,以及 Google Play 上有第三方应用为这些群组牵线搭桥并通过谷歌和 Facebook 的广告网络获得收入(同时也让谷歌和 Facebook 这些平台获利)。在这些报道发表后,WhatsApp 对那些群组及其成员进行了封号处理,谷歌则从 Google Play 中移除了那些为 WhatsApp 群组牵线的应用,此外谷歌和 Facebook 都禁止此类应用展示自家平台的广告,Facebook 还同意把费用退还给广告商。

不安全的搜索

在接到匿名举报后,TechCrunch 委托 AntiToxin 对必应搜索存在的问题展开调查。在适当的法律监督之下,调查人员在 2018 年 12 月 30 日至 2019 年 1 月 7 日间使用必应进行搜索。搜索在桌面版的必应上完成,并且关闭了 “安全搜索” 功能。AntiToxin 是在去年成立的,其使命是开发保护网络安全的技术,以此对抗霸凌、虐待和其他形式的不当行为。(信息披露:AntiToxin 的员工中包括罗伊·卡西,他曾在 2007 年至 2012 年间为 TechCrunch 撰稿。)

AntiToxin 首席执行官佐哈尔·列夫科维茨(Zohar Levkovitz)告诉笔者:“作为家长,我们应该期待负责任的科技公司加倍乃至三倍地投入,以确保他们没有为已经危险重重的儿童网络环境火上浇油。而作为 AntiToxin Technologies 的首席执行官,我想明确一点,我们将随时待命,为任何将此列为优先事项的公司提供帮助。” 你可以在这里找到 AntiToxin 首次发表的完整报告,我们也贴在了下面:

  1. antitoxin-technologies-microsoft-bing-report-1-1

  2. antitoxin-technologies-microsoft-bing-report-1-2

  3. antitoxin-technologies-microsoft-bing-report-1-3

  4. antitoxin-technologies-microsoft-bing-report-1-4

  5. antitoxin-technologies-microsoft-bing-report-1-5

  6. antitoxin-technologies-microsoft-bing-report-1-6

  7. antitoxin-technologies-microsoft-bing-report-1-7

  8. antitoxin-technologies-microsoft-bing-report-1-8

  9. antitoxin-technologies-microsoft-bing-report-1-9

  10. antitoxin-technologies-microsoft-bing-report-1-10

  11. antitoxin-technologies-microsoft-bing-report-1-11

  12. antitoxin-technologies-microsoft-bing-report-1-12

  13. antitoxin-technologies-microsoft-bing-report-1-13

TechCrunch 向微软提交了有问题的搜索关键词的完整列表,并询问了他们为什么会发生这种事情。微软负责必应搜索和人工智能产品的副总裁乔迪·里伯斯(Jordi Ribas)向 TechCrunch 提供了如下声明:“显然,根据我们的标准和政策,这些结果是不可接受的,我们非常感谢 TechCrunch 让我们知道了问题的存在。我们立刻采取行动移除了非法内容,但我们还希望避免将来出现任何其他类似的违规行为。我们专注于从这件事中汲取教训,以便做出必要的改进。”

必应建议的搜索关键词会返回非法的儿童性虐待图片

 

微软声称,他们已经指派一支工程技术团队解决 TechCrunch 披露的问题,现在他们正着手封禁任何类似的搜索关键词、存在问题的相关搜索建议和类似图片。然而,AntiToxin 发现,尽管报告中提到的一些关键词搜索已经被禁止或经过了清理,但还有一些仍然会返回非法内容。

微软告诉笔者,他们正在修改必应搜索的标记选项,以包含更加广泛的用户举报类别,其中就包括 “儿童性虐待”。当被问及为什么会发生这种事情时,该公司的一位发言人向 TechCrunch 表示,“跟谷歌一样,我们将所有内容编入了索引,而且我们尽最大努力对内容进行了筛选。我们组合使用了 PhotoDNA 技术和人工审核机制,但那并没有让我们每次都做到完美,我们一直致力于做得更好。”

微软首席执行官萨蒂亚·纳德拉(图片来源:Stephen Brashear/Getty Images)

微软的发言人拒绝透露有多少人在从事必应搜索的人工审核,或者他们是否计划增加人手来加强防御。但这位发言人随后试图反驳这种思路的推理,称:“我差不多明白了你的意思,你是在说我们在这里完全搞砸了,以及我们一直都很糟糕,但在历史的背景下,事实显然不是这样。” 事实是,微软完全搞砸了,而这样一个事实——该公司开创了可以检测非法图片的 PhotoDNA 技术,并且被其他科技公司采纳——并不能改变这一点。

必应搜索的儿童色情问题再次展示,科技公司拒绝将其取得的利润进行再投资,以保障他们用户以及整个社会的安全。科技公司不负责任地优先考虑增长和效率,由此造成种种弊端,公众不应该再容忍这些事。技术解决方案已被证明不足以提供安全保障,我们需要更多的人类哨兵。这些公司现在必须加大投入保护我们免受他们释放的危险,否则我们付出的代价就是世界失去安全。

翻译:王灿均(@何无鱼

Microsoft Bing not only shows child pornography, it suggests it