交友应用 Bumble 推出检测不雅照的人工智能

下一篇文章

简单、爽快且圆满的《复仇者联盟 4:终局之战》(无剧透)

交友应用终于开始在利用人工智能技术来清理用户的聊天信息, Badoo 就为旗下多款交友应用引入了一项这样的新功能,这些应用中最有名的是主打 “女性优先选择” 的 Bumble。

这项名为 “Private Detector” 的新功能将利用深度学习技术来识别鸡鸡照片和其他不雅照片,并在聊天中进行标记,让用户能够选择查看照片或是进行举报。

他们引入这项功能很棒,但这并不是什么尖端的深度学习技术应用。说实话,他们本可以在之前就加入这样的功能,但 Badoo 首席执行官安德烈·安德列夫(Andrey Andreev)选择让公司团队在内部开发这项技术。该公司声称,他们检测不雅照片的准确率能够达到 98%。

Badoo 推出过一种低技术的选项,就是对用户在聊天中发送的照片进行模糊处理,接收者必须手动打开照片。虽然接收者可以根据聊天的走向来判断要不要打开照片,但有时候鸡鸡照片还是防不胜防。

这项新功能符合 Bumble 创始人兼首席执行官惠特尼·沃尔夫·赫德(Whitney Wolfe Herd)一直推崇的理念,即为女性打造一款安全的、骚扰行为更少的交友应用。此外,沃尔夫·赫德也在从立法角度切入,致力于解决那些不请自来的不雅照片。她一直在跟得克萨斯州的立法机构进行合作,以通过法案将主动发送清晰淫秽照片的行为判定为非法。Bumble 的总部位于得克萨斯州的奥斯汀。

Badoo 表示,由于检测工作主要依赖于技术栈,他们预计不需要向内容审核团队增加人手。

从 6 月份开始,“Private Detector” 功能将在 Bumble 以及 Chappy 和 Lumen 正式上线。

翻译:王灿均(@何无鱼

Bumble’s ‘Private Detector’ uses AI to detect dick pics