+ 首页 > 谷歌学院 > 谷歌知识问答 > 谷歌AI技术帮助寻找恶意评论

谷歌AI技术帮助寻找恶意评论

文章来源:http://google.trueland.net/发布日期:2017-02-20浏览:

  最近谷歌和维基百科的IT专家公布了一项利用了AI技术的新成果,利用AI节制维基百科中用户的评论,找出在评论中搞人身攻击的用户以及他们这么做的原因。下面就由上海谷歌推广小编带大家深入的了解一下。

  针对维基百科中的评论问题,研究团队开发机器学习算法,分析维基百科在2015年收到的评论。2015年一整年,维基百科的讨论页面收到了近6300 万条评论,这些评论存在的本意其实是讨论如何改进维基百科收录的文章。

  这些算法通过训练10万条包含带有侮辱性言语的评论进行学习。刚开始时还需要十位人类员工对这些评论进行分类,帮助机器了解哪些评论带有人身攻击的言论。这项研究成果以论文形式发表出来,将在四月的世界互联网大会上展出。

  研究团队发现,在发表人身攻击言论的用户中,匿名用户的占比更高,而发表最多的却是小部分的活跃注册用户。众多的评论中43%的评论都来自匿名用户,而且大多数人都不会经常发帖,但是平均发表脏话的概率要比注册用户高六倍。此外,维基百科中注册用户比匿名评论用户多 20 倍,意味着超过半数的人身攻击言论仍是注册用户发表的。大多数情况下用户不会发表这些攻击性的言论,然而一旦被激怒,他们就会选择在网上骂街。

  所有的用户中有一个包含了34 名活跃用户的小群体,这个群体的危害指数被评论超过20分,他们贡献了近十分之一的侮辱性言论。这些人就是网络上的“骂街党”,他们热衷于上网进行人身攻击,还将此作为娱乐和宣泄。不过新的机器学习算法能帮助维基百科很容易找出这些人,封掉这些人的账号,就能减少很多恶意言论,省下了不少精力和时间。维基百科也不需要将所有的评论进行筛选,而是只要重点关注一些骂街党即可。

  网上骂战,有时像野火一样被瞬时点着。正因如此,相比能自动决定该屏蔽哪个论坛用户的计算机程序,有时候人类管理员更有用。论文的作者表示,“这些结果说明,围绕着人身攻击行为的一系列问题并不好解决。但我们的研究证实,目前只有不到五分之一的人身攻击行为,会触发维基百科违规程序。”显然未来AI注定会在网站评论管理方面起到更加重要的作用。能够自动筛选评论的系统能够提供十分有效的辅助作用。