返回首页
网站导航
资讯首页> 网站公告 >产品资讯 > Google 用人工智能技术 自动屏蔽不良言论

    Google 用人工智能技术 自动屏蔽不良言论

    产品资讯2019年03月25日
    分享

    美国脱口秀节目《吉米鸡毛秀》上有一个经典环节,邀请明星朗读网友的「恶毒推文」。面对铺天盖地的网络暴力,即使是习惯被评头论足的明星也不免气急败坏,直接爆粗口。网络在带来网络自由的同时,这些键盘侠、杠精也是其产物之一。

    面对铺天盖地的评论,很多平台都制定了发言规定。对于不友善言论,知乎采取的方法是「折叠」,微博上更常用「拉黑」,或者屏蔽关键词。为了净化网络讨论环境,Google 也做出了自己的尝试,他们推出一个叫 Tune 的 Chrome 插件,用户可以打开按钮,对一些恶毒评论进行屏蔽。

    这个小工具来自 Jigsaw 公司,它的前身为 Google Ideas,是 Google 创建的一个技术孵化器,致力于用技术解决网络暴力、言论自由、信息透明等难题。

    Tune 的作用就是屏蔽恶毒评论。它目前支持 YouTube、Twitter、Facebook、Reddit、Disqus五个平台,开启之后,用户会看到一个调整恶毒程度的按钮,有 quit、low、medium、loud、blaring 五档,级别越高,可以看到的恶毒评论越多,反之则是一个安静友善的网络环境。

    ly1903234

    你还可以选择两个极端:「来者不拒」展示全部评论、「岁月静好」隐藏所有评论。

    有哪些评论会被屏蔽呢?带攻击、侮辱性质的话语是一定会被屏蔽的,比如常见的 F 开头字眼。这些评估基于人工智能技术,用一套机器学习模型来评估评论可能对会话产生的影响。Perspective 网站展示了这套模型的「忍耐度」,你可以尝试输入一些评论,测试它们是否恶毒。

    ly1903236

    这项技术的应用不光是检测「恶毒评论」,还能引导社区氛围。维基百科正在研究如何避免编辑词条时的恶意攻击,媒体则用来引导高质量讨论。水贴、抖机灵、夸大事实…… 这套系统可以做的还有很多,任务艰巨。

    目前 Tune 仅仅是一个实验性的项目,它对恶毒评论的评估不一定准确,会有漏网之鱼、也会「误杀好人」。不过对于只想要安安静静上网的网友来说,这倒是个不错的工具,眼不见心不烦。

    当然,这个工具仅仅是在使用者的一端屏蔽了恶毒评论,无法根除这个问题。想建立一个真正友善的社区,还是要靠平台合理的规则引导,以及每个人的自觉。

    来源:极客公园