The Verge 中文站 8 月 31 日报道
对于在网络上看到的商户评价，你相信多少？确实，很多五星好评都是花钱买的。你可能会认为，辨别哪些是真实评论，哪些是水军刷的好评很容易。那么，你是否能识别出人工智能写出的好评？
来自芝加哥大学的研究人员训练了一个神经网络，能写出以假乱真的商家好评。他们的论文将在今年 10 月的 ACM 计算机和通信安全大会上发表。根据他们的研究成果，未来，在线评价不仅会是真真假假，甚至还将完全被破坏。目前，商家已经可以请水军去刷好评，而未来这样的过程将完全自动化。人工智能机器人将会在亚马逊、Yelp、TripAdvisors，以及其他这类网站上刷出大量评价。
如果你不相信这个人工智能，那么可以看看对纽约一家网站的五星好评，猜猜哪些是真实评价，哪些是人工智能写出的好评。
1、我喜欢这个地方。我常来这里已经有好几年，这是个与亲朋好友聚会的好地方。我喜欢这里的餐品和服务。在这里，我从没有过不良体验。
2、我点了烤蔬菜汉堡和薯条！味道很棒！非常可口！我都不知道该怎么形容！
3、我和家人都很喜欢这里。服务生人超级好，餐品也很不错。鸡肉吃起来很棒，大蒜酱完美。冰激凌加水果也很好吃。高度推荐。
实际上，以上 3 条评价全部都来自人工智能。这一人工智能利用 Yelp 平台上的数百万条评价进行了训练，随后得出了这样的结果。
这只是个小例子。研究人员还利用亚马逊 Mechanical Turk，用人工去检验生成的内容。人工智能对 40 家真实餐厅生成了 5 条评价，每个评价集合被提供给 3 名测试的参与者。这些参与者被要求指出，他们认为这些评价是否来自真人，以及评价是否有用。研究人员表示，人工智能生成的评价已经无法与真实评价做“有效区分”，而测试者对于这些评价的“有用性”打分为 3.15 分，对真实评价的打分为 3.28 分。
当然，这些虚假的评价也不完美。研究人员表示，他们可以开发出技术，筛选出人工智能生成的文字。（例如，真实评价和虚假评价中对不同字母的使用频率不同。结果表明，这个神经网络倾向于使用较少的字母。）然而，未来的神经网络可以通过训练变得更复杂，最终结果可能是，为了清理平台上的假评价，人工智能之间将展开对抗。
参与该项目的研究员之一本·赵（Ben Zhao）认为，这个成果的意义并不仅仅是刷好评。他表示，类似这样的技术“动摇了我们关于真实是什么的概念”。
“我们从在线评价开始。你是否会信任对一家餐厅或一款产品的他人评价？这样的技术还将发展，例如某个博客中的整篇文章都可能是由机器人基于某个主题自动生成的。随后你需要思考，这些信息来自哪里，你要如何去辨别。”
早在去年就有报道称，人工智能可以被用于生成或篡改视频和照片。例如，人工智能可以伪造政客讲话的视频，或是利用几分钟的语音作为样本，生成某个人的声音。
Yelp 和亚马逊平台的虚假好评或许只是新数字时代的开始。在这样的时代中，很重要的一件事将是分辨在网络上哪些是真人，哪些不是。
相关文章
