编者按：本文来自投中网，作者张雪 ；悉地网经授权转载。
假新闻，假新闻，假新闻，在自媒体泛滥成灾的时代，在人人都拥有话语权和传播权的年代，假新闻和谣言俨然成为了网络时代的一颗毒瘤。
有一个场景，相信大家都不会陌生，那就是父母几乎每天私信我们或者发到家庭群里的养生消息和所谓的爆炸性新闻。
甚至一度，在家庭群里辟谣假新闻被长辈踢出群的情况更是屡屡登上热搜榜。
父母长辈对煽动性的消息和新闻有如此深的执念，我们作为晚辈，否认也不是，反驳也不是，不然他们则会站在舆论的高地指责你不听话，不孝顺。
那么面对假新闻和网络谣言这种全球性问题，我们到底该怎么办才能做到两全其美呢？
在2019年这个看着最不正经的一天，阿里巴巴认真地发布了一款新技术，即旨在粉碎网络谣言和假新闻的AI技术——“AI谣言粉碎机”，希望让深受网络谣言之害的父母们，不再每天都过愚人节。
（阿里云官微截图）
据人民网发布《中老年人上网状况及风险网络调查报告》显示，6成中老年曾遭受过网络谣言的危害。在社交网站上，谣言屡见不鲜，如“国外研究出一种新药，可让人的寿命延长30%”、“最新消息，未来一半的药品都将由保健品替代”、“专家称适当抽烟有利于防雾霾”等等……，在没有辨别的情况下，不少中老年人对此深信不疑。
AI谣言粉碎机是怎么工作的？
要了解AI谣言粉碎机的够工作原理，就不得不提这样一个人，他是阿里达摩院智能实验室科学家，NLP团队的核心成员之一——李泉志，也是AI谣言粉碎机的主创人员之一。
值得一提的是，在加入达摩院前，他曾是世界级通讯社——路透社重要的“情报官”：通过机器筛选成千上万的网络信息，为数千位一线记者提供可靠线索。
李泉志曾表示，判断一个新闻真假，要分三个步骤：
首先，在盘根错节的信息里，机器会找到最初的信源，分析其用户画像（专业领域，个人或机构，机构类型，影响力，过去发表的内容类型，是否可信，地域，注册时间，活跃规律等），进而判断此发布者的信誉度。
如果这条新闻带有链接，AI谣言粉碎机会再看看链接的域名是否来自可信网站，比如新华社、政府医药管理局。
接下来，则需要打开正文，之后机器会把这些关键的论证提炼为知识点，与知识图谱里的权威知识库做匹配验证。如果毫无联系、自相矛盾，减分。
李泉志进一步指出，除了内容不实、上下文逻辑不连贯外，机器还能从行文风格里找到蛛丝马迹。针对“多一次转发就多一次活命机会”这样的“标题党”机器也会火眼金睛的识别出来，毕竟假新闻经常会采用夸大性、空洞的说辞来危言耸听，真新闻则往往行文严谨、一丝不苟。
而这判断新闻真假的第三步，也是最为复杂和关键的一步就是对传播路径的深入分析。
一条谣言的发酵背后必定有无数人的助推，在留言、转发等行为里，不同的人会有多种不同的态度。
通过训练的机器统计不仅能统计所有用户的态度，更不可思议的是，它会“看人下菜”，区别对待每条发言的分量。
机器会对所有反馈用户进行画像分析：是否是认证用户、过去发表的内容类型、注册时间、活跃规律、是否和事件发生地在同一个地方等，以此来计算用户信誉度。
最后根据不同态度的人群比例、各自的信誉度，以及处于传播路径中的位置等信息，计算出此新闻的可信度。
李泉志强调道，我们的整个传播路径是个神经网络，环环相扣，不会断章取义的。以上三步中计算出的信息会输入到神经网络模型中。基于这些信息，模型会综合判断出此新闻是否为谣言。
如何赢得“老妈们”的信任？
判断一则新闻的真假需要这么复杂的过程，那时间需要多久呢？通过阿里达摩院的实践，最快判断一条消息的真伪只需要1秒钟。
不仅如此，AI谣言粉碎机在特定场景中的准确率已经达到81%。依靠深度学习和神经网络技术，通过对信息的多维度和多角度分析，阿里达摩院首次把谣言识别和社交用户观点识别打通，并做交叉分析。
这套系统除了能够多维度思考外，还能完全自主学习训练，随着经验的丰富，它的判断能力会越来越好。
关于这件事，李泉志透露了一个重要信息——这项技术不仅能控制假新闻源头、防止谣言大规模扩散，它还有一个隐藏的“大招”。
俗话说，造谣一张嘴，辟谣跑断腿。谣言的扩散速度犹如林中之火，一点即燃，但是当真相出来时，却往往无人问津。
而AI谣言粉碎机这项技术的隐藏”大招“，是可以针对性地为民众辟谣。根据传播路径索引，曾经支持假新闻谣言的人，都可以收到官方的辟谣信息。
不过，遗憾的是，AI谣言粉碎机还尚未落地。
还大家一个纯净的朋友圈
据阿里方面对CV智识表示，“我们非常期望这一技术能被社交平台和新闻网站应用，也欢迎大家来共同推进这一技术的落地：达摩院负责该技术研发，未来产品将统一通过阿里云平台输出。”
所以在未来，阿里“AI谣言粉碎机”，有望帮助社交平台和新闻网站在假新闻尚未造成大面积伤害时就快速识别出来，遏制其传播。在信息被证实为谣言后，AI还可通过虚假信息的传播路径，定向给阅读过此信息的用户进行辟谣。
其实，网络谣言不仅在侵害中老年人的生活，很多年轻人也会被谣言欺骗。未来，阿里AI“谣言粉碎机”要针对的也将远不止于养生领域，未来，它将会在娱乐、理财、健康、法律等多领域都会发挥巨大威力。
达摩院语言技术实验室首席科学家司罗表示，阿里“AI谣言粉碎机”未来有望帮助社交媒体的审核机构承担60%的工作量。
北京师范大学新闻与传播学院院长喻国明也认为，“阿里’谣言粉碎机’不仅仅是一项科学技术的应用，而且是新的社会历史条件下的信任重建。只有虚假信息被扼杀在繁衍的温床里，破碎将倾的社会信任才会被重新在人们心中恢复其定盘星和压舱石的作用。”
不过，CV智识也表示了对用户隐私的担心，阿里方面表态称，这个技术是针对社交平台和公开网络空间的新闻和言论的，分辨的目的是破除假新闻，当一个消息扩散起来，需要辨别真伪的时候这个技术才会起作用。
如果只是用户个人的消息，那这个技术没有用的理由，所以完全不涉及用户隐私的问题。
当被问及阿里选择做AI谣言粉碎机的初衷时，阿里相关负责人表示，除了要改善假新闻泛滥成灾的现状，还有就是AI谣言粉碎机的相关技术，正是达摩院一直探索的技术研究范围。所以此次研发AI谣言粉碎机更像是阿里达摩院在自然语言处理方面的实践作业。
本文（含图片）为合作媒体授权悉地网转载，不代表悉地网立场，转载请联系原作者。如有任何疑问，请联系editor@cyzone.cn。
咨询微信客服
0516-6662 4183
立即获取方案或咨询
top
