智能领域的“全民公敌”" />
业界媒体 Inverse 发表文章称，人们对马斯克（Elon Musk）的评价常常两极分化。他的追随者对他五体投地，但也有一些人觉得他“不负责任”。人工智能（AI）社区就有很多人觉得，他在 AI 问题上的论调对这个领域造成了伤害。以下就是原文摘要：
马斯克拥有两家公司：特斯拉自主驾驶电动车公司和私人太空公司 SpaceX。他说自己唯一的兴趣是把人性从现有的束缚解放出来。他的公司有可能会让我们不再依赖化石燃料，不再发生车祸伤亡，甚至还可能让我们飞离地球。马斯克认为人类的有光明的未来——只要不谈到 AI。
他说 AI 是“我们最大的生存威胁”，发展 AI 是在“召唤恶魔”。这些说法屡屡让马斯克和 AI 登上头条。虽然这好像起到了宣传 AI 的作用，但很多 AI 专家都不太喜欢马斯克，有些甚至可以说是讨厌他。
讨厌的“末日预言者”？
在谈到马斯克时，艾伦人工智能研究所的 CEO 奥伦·埃齐奥尼（Oren Etzioni）说他“不负责任、不诚实，我完全不明白为什么他要做有些事情”。埃齐奥尼对 AI 社区十分了解， “我从来没有听到任何人说过他的好话。可能有人说过，只是我没有听到过。”
这并不是说埃齐奥尼觉得只要你惧怕恶意 AI， 你就是缺乏理性。在他看来，在 50 年、100 年的时间框架下考虑恶意 AI 才是合理的。比方说，他很欣赏牛津大学的哲学家尼克·博斯特伦（Nick Bostrom）在人类未来研究所（Future of Humanity Institute）的工作——研究潜在的生存风险，做好相应的准备 ——尽管他不同意博斯特伦的很多结论。 “尼克是一个哲学家，哲学家的思考框架是长期的。他正在建立一个严肃的研究中心。我认为，当我们以理性的态度和理性的时间表思考问题的时候，这种研究非常有价值。”
但是，如果某些调查进行得很轻率，具有投机性质，而且给急需解决的实际问题带来了干扰，埃齐奥尼就不太乐意了。 “马斯克在 AI 上投入了大笔资金——不仅仅是在特斯拉，还有其他投资，”埃齐奥尼解释说。 “同时他又用宗教隐喻来攻击和抨击 AI。我也搞不明白这是为什么。”
博斯特伦承认，太多的消极表达对这个领域不利，但他认为马斯克比其他“末日预言者”强一些。 “我佩服马斯克的地方并不是他说的话，而是他在说话之外也做了一些事情，”博斯特罗姆说。“他确实捐了一些钱做这方面研究。所以，我认为他和绝大多数末日预言者不同，很多人光是说，并没有做任何事情。”
马斯克在 AI 领域的投资
马斯克投资特斯拉公司、OpenAI 项目等等，确实促进了 AI 的进步。特斯拉使用的是“狭窄 AI”——意思是说，这种 AI 只执行一个任务，但做得真的很好。马斯克觉得我们需要担心的是“一般 AI”——有自主推理和行动能力的超级智能。他正在尽所能地避免这种 AI 的出现 ，或者至少是要做好必要的保护。
2015 年年底，马斯克与 Y Combinator 的总裁山姆·欧特曼（Sam Altman）推出了非营利性 AI 研究公司 OpenAI，致力于在推动 AI 的同时保证它的安全、有益和友善。同年，他与其他一些名人（包括埃齐奥尼和博斯特伦在内）签署了一封公开信，表达了对友善 AI 的支持。在 2014 年，他投资谷歌的 DeepMind，他说自己这么做只是为了留意它的一举一动，监视它的发展。
当马斯克详细阐述自己的恐惧感的时候（当他不在 Twitter 上发言时），他似乎不像是一个煽动 AI 仇恨的人。他只是想让 AI 实现民主化，确保不会出现专制机器。 “这种东西并不会马上就出现，但我们应该关注这件事，”他今年 1 月在 Reddit 上写道。 “AI 安全需要有更多的投入。”由少数几个人主宰的超级智能似乎会带来一个黯淡的未来。马斯克只是想要一个美好的未来。
但有些人认为，马斯克给 AI 领域造成的伤害比他提供的帮助更。埃齐奥尼认为，AI 确实对工作岗位和隐私有影响。但当马斯克提到《终结者》时，即使是开玩笑，也让 600 万 Twitter 用户忘记了需要进行真实的、必要的对话。 “我们是在召唤恶魔，”马斯克 2014 年在麻省理工学院对一个观众说，这激怒了埃齐奥尼。“我觉得，一个建造自动驾驶汽车的人说你是在释放恶魔，这很不负责任。”他说。
双方需要有合作意识？
而博斯特伦认为，马斯克正在尽最大的努力来理顺情况。 “这个问题需要指出来，这样人们就可以看到它存在，而且在这个问题上开展行动是很重要的，这样才会有人提供资助，引入人才，”博斯特罗姆说。 “除此之外，狂拉警报的做法就会适得其反了。那是在疏远 AI 研究界，因为他们才是最终亲手实施安全技术的人。”
他认为，双方需要有合作意识和耐心。那些希望让人们为不可避免的末日做好准备的人，需要理解，有些人希望避免引发公众的抵触情况或疯狂反对。而 AI 社区也必须承认，煽动者的恐惧并不是完全没有依据的。
“是的，这是一个涵盖很广泛的技术门类，对于它将走向何方，我们需要进行一些讨论，不能假装事情不可能出错，”博斯特伦说。
这种讨论正在进行中，其结果可能改变我们的命运。 AI 社区目前的做法是把各种进展开放给大家：比如 Facebook 和谷歌会例行分享 AI 开源代码。但这种慷慨大度可以会带来问题，首先，如果某个人或某组织在不花太多成本的情况下就开发出一个强大的 AI，那么出现一个美好未来的可能性就会减小。第二，政府的很多监视机构和战争机构可能正在对 AI 虎视眈眈。
但无论如何，AI 前面的道路都将是用钱和脑力（目前是人类的脑力）来铺设的。马斯克无疑将继续他的征程，他的追随者也会乐于支持他的宣言。同时 AI 社区也将继续开发优秀的 AI，并继续宣称他的预言有问题。
相关文章
