假新闻机器人背后：人工智能的猫鼠游戏
2019-07-12 16:21:38   来源：   评论：0 点击：

想用假新闻机器人颠覆世界可能没有那么容易。

人工智能带来的“假新闻危机”

AI在文本创作上的能力正在加强。人们对于人工智能的创作能力赋予了更大的想象力，尤其是在OpenAI 推出文本生成模型 GPT-2 后。

前不久《权力的游戏》烂尾，有程序员直接用GPT-2重写了比电视剧更好的结局，这也让GPT-2算法名声大噪。

无独有偶，一个名为GROVER的假新闻写作机器人最近得到了大家的关注。

GROVER可以帮助人们进行博客营销，尽管生产出的内容并不是那么完美，但是却足以说服那些没有仔细阅读文章的读者。

营销机构Fractl的克里斯汀·廷斯基在接受采访时表示，“像GROVER这样的工具可以在你能想象到的所有利基市场中，创造出大量由电脑生成的内容”。

可是这真的是一件好事吗？

我们在为更加“聪明”的AI欣喜之时，或许也需要开始正视新的问题：

这些人工智能如果开始生产大量假新闻，后果究竟会如何？

据调查显示，有一半的美国人称在新闻网站上浏览了故意误导性的文章，大多数受访者表示，他们无法判断媒体报道的真实性。

假新闻的传播速度往往比真实新闻更快，因此一旦被不法分子利用，后果将不堪设想。

用人工智能的方式“反击”假新闻

要“扼制”生产假新闻的人工智能，最快速的解决办法是研究出鉴别假新闻的人工智能。

基于从新闻源出发控制假新闻的想法，麻省理工学院计算机科学与人工智能实验室（CSAIL）和卡塔尔计算研究所的研究人员推出了一套鉴别假新闻的全新AI解决方案。

研究团队对来自Media Bias/Fact Check（MBFC）的1,066个新闻来源进行了系统培训，注释了“事实性”和“偏见”的分数，他们声称这是同类软件中最大的数据库。

根据团队的说法，系统只需要150篇文章就可以确定是否可以可靠地信任某一来源，它在检测新闻来源是否具有高、低或中等水平的“事实性”时准确率可达到65％。

当然，他们并不是唯一试图用AI来对抗假新闻传播的机构。

总部位于德里的MetaFact利用自然语言处理算法（NLP）来标记新闻报道和社交媒体帖子中的错误信息和偏见。

他们推出的软件即服务平台“ AdVerify.ai”，不仅可以分析错误信息、恶意软件和其他有问题的内容，并且可以交叉引用一个定期更新的数据库，其中包含数千条虚假新闻。

此外，深陷信息泄露危机的Facebook也开始尝试部署“识别账户和虚假新闻”的人工智能工具。2018年，Facebook收购了总部位于伦敦的创业公司Bloomsbury AI，以帮助其打击误导性报道。

有会“写假新闻”的AI，就会有“鉴别假新闻”的AI，很明显，在这场与假新闻相关的较量中，哪一种AI都很难完全占到上风。

因此，就目前的情况来看，如果有人想用假新闻机器人来颠覆世界，可能并没有那么容易。