月光微博客

月光博客的微型博客和微型网志

« MySQL的错误弹窗国家宗教事务局拟规定互联网上不得直播录播拜佛烧香 »

Facebook能看懂表情包啦

  Facebook 宣布开发出了一款名为 Rosetta 的新型人工智能(AI)系统,可用于检测图片和视频帧(video frame)中的仇恨性言论。Facebook 官方展示了一张示例图。在检测一张印着“企鹅会飞”的文字的企鹅图片时,Rosetta 将文字与图像区分开来,并使用卷积神经网络来识别和转录两部分的内容,最终判断出这是一张“表情包”。

  对于 Facebook 来说,他们面对的是每月 22 亿用户发布的浩如烟海的信息,这其中不仅有文本,还有图片、视频、表情包等等——仇恨言论可能会在其中以任何形式出现。Facebook 称,Rosetta 可以读懂图片和视频帧上的影像和文字,分辨其是否是违反 Facebook 内容审核指南的内容。

  Facebook 官方展示了一张示例图。在检测一张印着“企鹅会飞”(penguins can fly)的文字的企鹅图片时,Rosetta 将文字与图像区分开来,并使用卷积神经网络来识别和转录两部分的内容,最终判断出这是一张“表情包”(meme)。

  对于一直因难以有效控制仇恨言论传播而饱受指责的 Facebook 来说,这一系统的推出将有助于缓解其燃眉之急。

  自 2015 年以来,Facebook 一直在使用一种名为光学字符识别(OCR)的检测系统,但 OCR 在检测仇恨言论的能力上稍逊一筹。具体差在哪,从 Facebook 今年 5 月公布的《社区标准实施报告》结果中就能看出。

  这份报告公示了 Facebook 今年一季度删帖、封号的记录。在他们删除的所有内容中,“裸体和性”占到了 72.7%,“图片暴力”占到了 11.8%,而“仇恨言论”只有 8.7%。

  一季度受到 Facebook 处理的仇恨言论只有 250 万条,是所有类别中数目最小的一个。而且,其中 Facebook 自主检测的内容只占到了所有被标记内容的 38%,有超过 60% 的内容需要靠用户举报来发现,让人怀疑是否有更多的内容还隐在暗处未被揪出。

  这其中的原因,一部分是因为“Facebook 的人工智能系统目前仍然难以辨别言论中的仇恨情绪。”Facebook 产品管理副总裁 Guy Rosen 说。另一部分原因是 Facebook 上的仇恨言论本身可能并不那么显而易见。

  今年 4 月,Facebook 上的一些不实信息助长了斯里兰卡佛教徒和穆斯林之间的冲突。罪魁祸首其实往往是一些带有煽动性质的谣言,起初可能和仇恨与偏见并无瓜葛。内容本身已经足够具有迷惑性,更不用说 OCR 能够理解的语言还非常有限,在很多小语种地区 Facebook 还需要依赖当地人工审查员来分辨内容。

  马克·扎克伯格在国会证词中表达了将来使用 AI 来清除其平台上的仇恨言论的计划:“我乐观地认为,在五到十年的时间里,我们将拥有一些人工智能工具,可以深入了解不同类型内容的语言细微差别,以便更准确。”

  Rosetta 就是在此关头临危受命的 AI 系统了。据 Facebook 介绍,这一系统同时适用于 Facebook 和 Instagram,每天可以检测十亿张图片,并识别除了英语和拉丁语系以外的语种,比如阿拉伯语和印度语等。

  目前,Facebook 和 Instagram 团队已经开始使用 Rosetta。该公司计划继续增加它可以理解的语言数量,并使其能更好地从视频帧中提取文本。

  说到语言,Facebook 最近还为其自动翻译服务增加了 24 种新语言,包括塞尔维亚语,白俄罗斯语,马拉地语,僧伽罗语,泰卢固语,尼泊尔语,卡纳达语,乌尔都语,旁遮普语,柬埔寨语,普什图语,蒙古语,祖鲁语,科萨语和索马里语。Facebook 称,这些语言的翻译尚处早期阶段,可能会包含很多错误,公司正在完善它们,并会在未来加入更多语种。

  作者:williamlong


发表评论:

本站采用创作共用版权协议, 要求署名、非商业用途和保持一致.

This site is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 2.5 License.