8 月 1 日，Facebook 关闭“失控”AI 系统的消息经社交媒体和科技媒体传播之后，引发一轮热议。
报道根据外媒的一篇报道，称 Facebook 不得不拔掉其研究人员正在研究的人工智能系统的插头，因为事情失控了。问题是，当这些机器人因互相谈判而获得奖励时，他们却没有因为用英语谈判而得到奖励，这导致了机器人开发了自己的语言。
报告指出：人工智能并没有在全球范围内关闭电脑或类似的东西，但它停止使用英语，并开始使用它所创建的语言。
最初，人工智能的代理们使用英语互相交谈，但后来他们创造了一种只有人工智能系统才能理解的新语言，从而违背了他们的目的。这使得 Facebook 的研究人员关闭了人工智能系统，迫使他们只能用英语交谈。
腾讯科技查询到外媒报道所引用的报告源头，名为《Deal or No Deal end-to-end learning for Negotiation Dialogues》，这篇需要付费才能下载的文章中描述了上述部分内容。但是，本身并不是直接对整个 AI 的否定。
百度深度学习研究院创立者、地平线公司创始人余凯则告诉腾讯科技，Facebook“只不过是关闭了一个没有前景的小项目。”公司关闭一些不成功的项目很正常，但是这个事件被国内媒体“过分解读，危言耸听”。就技术本身而言，余凯称，程序生成一堆随机乱码，很常见。
可能是 Facebook 产品路线不清晰的一个小小的调整策略，在国内被放大到 AI 系统、人工智能威胁到人类的地步。甚至关联到斯蒂芬·霍金教授、特斯拉创始人马斯克等对人工智能的一些只言片语。
马斯克曾经强调人类应该对 AI 及其潜在危险保持警惕。“研究 AI，好比在召唤恶魔。什么有个人拥有某种神秘力量，什么圣战这些乱七八糟的故事你肯定听过，然后那些人一开始总是自信能够控制恶魔——但结果大家都知道。”这番话是马斯克在 2014 年所言。这段话日后可能会经常被用到人工智能威胁论之中。
相关文章
