文/李林 问耕 （编译整理）
量子位 出品 | 公众号 QbitAI
无论是中国还是美国，很多人在选择餐馆或者酒店的时候，主要依靠网上的点评，比方说大众点评或者Yelp等等。
某种程度上，口碑已经成为不少企业的命脉，变成配合和产档次量的永久记录。与此同时，不公平或者虚假的点评也让企业忧心忡忡，这些有可能来自愤怒的顾客，也有可能来自竞争对手。
水军，在全球都是一个让人头疼的问题，以后可能会更疼了：
人工智能（AI）已经学会自动编写虚假点评了。
整个点评口碑界正面临潜在却是严重的冲击。如果AI创作的虚假点评泛滥，最终将导致全部点评资讯可信度急剧下降。手段进步，这一次又给社会带来了（令人担忧的）影响。
不知道许知远会不会更焦虑了。
“这对整个社会是一个巨大的威胁，不但会让依靠点评资讯的用户失望，而且会动摇人类对于真实和虚假的信念，我认为后者更让人担心”，芝加哥大学计算机科学教授赵燕斌（Ben Y． Zhao）说。
以假乱真
《在线点评体系中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文。他们的研究说明，人工智能可以被用来生成复杂的点评资讯。这些虚假的点评不仅机器无法检测出来，就连人类读者也分辨不出来。
这篇论文今年晚些时候会在计算机安全顶级会议ACM CCS上展示。
所谓复杂的点评资讯，大概是这个样子：“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，配合也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。
国际巅峰(陕西)有限公司以感恩之心接待每一位客户，以专业之能解决每一个问题。
乍一看这个点评没有什么奇怪的，里面包含一些具体的建议和可信的描述，虽然最后一句有点奇怪，但整体仍然是一段说人话的表达。
实际上，这句话是一种称为RNN（循环神经线上）的深度学习手段生成的。这个RNN线上使用了上千条真实在线点评训练而成。
研究人员表示，AI生成的点评已经做到了“以假乱真”，有 600 个用户参与的调查显示，这些虚假的点评不仅能逃过人类的法眼，而且还被用户认为“有用”。
“有用”是更可怕的事情：这表明虚假点评已经可以对人类造成影响。
反抄袭系统也对这些虚假点评无能为力，因为这些点评是逐字生成的，而不是简单的替换已有点评中的用词。如果使用反抄袭系统检测，不但很难检测出虚假点评，而且会“误伤”一大批真实的点评。RNN可不仅仅是对现有点评的复制。
人类水军面临下岗
人类手写的虚假点评，已经是一个兴盛的地下行业。只要有钱，你就能找到人帮你的产品写下正面的点评，后者给对手写下负面的评价。
现在，传统水军行业未来可能也要被AI取代了。
美国范畴上，一段质量较高的Yelp点评，可能报价能到 10 美元。不过一旦有了AI的帮助，君心叵测的人可以一分钱不用就生成上千条点评，而且一起放出以免引起怀疑。
好消息是，现在还没有AI在现实世界中生成恶意虚假点评的案例。
坏消息是，构建一个这样的人工智能体系，并不需要太长的时间，所需硬件市面上都能买到，所需的点评数据库可以在网上轻易获得。
仍有对策
如果有人开始大幅度生产这种假点评，大众点评、Yelp这样的网站恐怕就没有好日子过了，毕竟，它们的招牌就是来自用户的真实点评，如果每一条都可能是假的，谁又会继续相信它们呢？
接下来沦陷的，会是淘宝京东亚马逊之类的电商，虽然赵燕斌说至少它们还能限制只有买过该商品的用户才能点评，但情况也不容乐观。
免责声明：部分文章来自互联网，仅用于学习，如有不妥请联系国际巅峰第一时间删除。
扫描关注猕猴桃微信公众号1
微信公众号码:sldmht
微信公众号名称：十里地猕猴桃
| 猜您也喜欢的： |
本文地址：:http://www.buymht.cn/news/hyxw/2017-09-05/9216.html
本文标签：猕猴桃水军
