智能灭世？马斯克做 Open AI 的野心和私心" />
马斯克饱受质疑，外界认为 OpenAI 成为其招揽人才的后花园。图/AFP
刘泓君/文
谢丽容/编辑
当全世界都在关注美国总统特朗普与朝鲜的互怼上，特斯拉创始人伊隆·马斯克（Elon Musk）发 Twitter 称“如果你不关注人工智能的安全，你应该担心，它比朝鲜问题更危险”。
这已经不是他第一次发表对人工智能安全问题的担忧。8 月中，他与来自 26 个国家的人工智能领袖联合向联合国呼吁严格限制自动化杀人武器，如坦克、无人机自动枪械等，禁止这些武器在国际间使用。
两年以前，马斯克联合硅谷大佬投资 10 亿美元成立了一家非营利组织 Open AI，号称要防止人工智能灭世。
这个组织几乎汇聚了硅谷最有权势与名望的人，除马斯克以外，它包括了很多熟悉的名字：著名孵化器 Y Combinator 创始人山姆·奥特曼（Sam Altman）以及合伙人 Jessica Livingston、前 Stripe 的 CTO 格雷格·布劳克曼（Greg Brockman），被称为“硅谷人脉王”的 Linkedin 联合创始人 Reid Hoffman，以及 Paypal 共同创建者及著名投资人 Peter Thiel。
尽管人工智能灭世的言论一直富有争议，马斯克的警告可能并不是危言耸听，但他的 Open AI 真的有能力有意愿防止人工智能毁灭世界吗？马斯克的真实动机也一直在被质疑。
Open AI 的神秘面纱
如果用最通俗易懂的话来解释 Open AI 正在做的事，就是做一个“会做饭的机器人”。想象一个机器人能够像人一样去行动去思考，这是 Open AI 的终极使命——建立安全的通用机器人。
做饭是一个非常复杂的任务。尽管现在亚马逊的仓库、特斯拉的工厂中都用上了机器人，但这些机器人只做简单重复性的工作，在车间流水线上组装零件。对灵活的任务，机器人做的并不好。马斯克希望能够通过机器人研究，推进家务机器人的前沿研究。
施天麟是 Open AI 的早期成员，也是斯坦福人工智能方向的在读博士。2015 年 12 月，他参加一个关于机器人的行业会议，并在这个会议上机缘巧合地认识了格雷格。当时，格雷格开始兴致勃勃地跟施天麟讲未来想要做的事情，并告诉他一些大牛即将加入。在蒙特利尔的一个会议进入尾声时，马斯克与山姆宣布成立新的人工智能非营利公司 Open AI。
尽管有着众多的行业大佬背书，实际操作人也起着关键作用。第一个加入 Open AI 的人是格雷格，相传他与马斯克私交甚笃。他是增强学习很有名的研究者，导师是伯克利做机器人研究的教授。
格雷格创业之后主要负责 Stripe 底层平台，因此在学术研究社区知名度并不是很高，他主要搭建负责 Open AI 的基础架构。
真正主管研究的人是 Ilya Stuskever，他在谷歌大脑有着三年的研究经验，在此之前，他是斯坦福深度学习实验室吴恩达（Andrew Ng）团队的博士后，曾与多伦多大学教授 Geoffrey Hinton 一起工作，是其最得意的学生之一。谷歌曾经为了抢夺 Geoffrey 与他的两个学生，特意发起对 DNNResearch 的收购，这家公司隶属多伦多大学计算机科学院，只有三个人—— Geoffrey Hinton 以及他的研究生学生 Alex Krizhevsky 和 Ilya Sutskever，而且该公司没有任何实际产品与服务。
Open AI 成立以后，马斯克每周会来办公室半天。他并不会在会议上滔滔不绝，大多数时候只是听大家说，然后给出一些方向性的建议，在场的成员能明显感觉到他对机器人的浓厚兴趣。
除了给出方向建议，马斯克还会帮 Open AI 找融资，在现有的 10 亿美元融资中，有相当一部分来自于他自掏腰包。
山姆则负责 Open AI 所有的对外合作部分，比如近期跟 Dota 合作的人机大赛，需要游戏开发者获取他们的 API 接口以及一些开放数据。
如果要对人工智能研究进行成本分析，成本来自于服务器提供的计算资源、数据获取以及人才工资成本。服务器成本是所有人工智能公司成本中最大的一块，山姆也牵头促成了 Open AI 与微软云 Azure 合作，以帮助 Open AI 寻找可用的服务器。
Open AI 目前仅 60 多人，办公室坐落在 Stripe 旧金山的办公区。在该组织成立早期，主要依靠内部成员的相互推荐。现在有一套固定的招聘流程招聘研究人员，而基础架构的工程师方向则与 Facebook、谷歌的招聘流程类似，招聘工资也直接对标这两家公司。
目前，在 Open AI 的平台上有三个大的开源平台—— Gym、Universe 和 Robot。主要研究方向是机器人的迁移学习与增强学习。Gym 是指研究在每个细分研究领域建立自己的算法以后，把算法放在不同的环境中测试；Universe 目标是让 AI 智能像人一样使用计算机，目前已有 1000 种训练环境；而 Robot 则是训练机器人。
对抗巨头？
马斯克在成立时就宣称 Open AI 要对抗 Facebook、谷歌等巨头垄断，以开源的方式来驱动研究。
就在 Open AI 宣布成立的一个月以前，互联网巨头把人工智能的发展推向高潮。当时，谷歌宣布将部分开源人工智能引擎，Facebook 也在不久后宣布开源深度学习计算机服务器设计。Open AI 自成立就开始宣布自己要开放它所有的研究成果。
与巨头开放这些人工智能平台不同，Open AI 的开源是算法而非平台，它也会与巨头的开源平台合作，其 Gym 平台就与谷歌的 TensorFlow 合作。
回顾人工智能最近几年的发展趋势，无论是算法还是平台，开源已经是人工智能竞争的一大核心策略。
得人才者得人工智能。在硅谷，做深度学习的人工智能博士生，已经成为几大互联网巨头疯抢的对象。各大机构竞相追逐学术研究者并开出高价，这在历史上从没有发生过。一位研究者称：“在 Open AI 成立之后，谷歌与 Facebook 给顶级研究人员的 Offer 高了两倍。”
对学术研究者来说，他们更愿意分享自己的研究成果，并以此建立影响力。开源可以帮助这些 AI 机构吸引更多的人才。同时，对巨头来说，开源也意味着更多的开发者会利用平台搭建算法，可以帮助平台自我完善，也会加快整个产业的发展进程。
如果要在业内给 Open AI 找一个对标者，最相似的莫过于与李世石围棋大战的 DeepMind。两者都不是平台，而是对人工智能的算法研究。施天麟在他的研究中发现，Open AI 更偏向于机器人的研究，会使用更多专门为机器人打造的虚拟环境，而 DeepMind 更偏向于用游戏做虚拟环境进行训练。
“DeepMind 认为在游戏规则下能够获胜的 AI 有一定智能，但这个离真实的机器人还比较远。你能控制一个游戏机的飞船，并不意味着你真正能够控制一架飞机。”施天麟对《财经》记者说。
他正在为 Open AI 开发“World of bits”的训练平台，是 Open AI Universe 的前身，希望机器人能够像人一样在网上订机票、酒店、外卖。但其关注点不是最后机器人如何订到机票，而是通过观察人怎么订机票，让机器去学习人的这种在不同环境下都可以应对自如的“迁移学习”能力。
施天麟认为，尽管 DeepMind 号称开源，但只开放了几个“迷宫”这类的小游戏，真正核心的算法依然没有开源。
AI 竞争，数据为王。无论是 Facebook 还是谷歌，都有强大的平台资源和数据宝库。外界对 Open AI 最大的质疑是，没有数据资源如何突破人工智能研究？
吴恩达曾说过：“为什么做 AI 需要去大公司，因为大公司有海量的数据和强大的计算平台。”
施天麟的项目需要征集人怎么用计算机订票的演示，于是他在亚马逊上发起了众筹项目以征集数据，每小时价格 10 美元左右，目前已经花了几万美元。但这相对于大公司的数据，依然九牛一毛。
山姆曾在 Open AI 成立的时候称，Y Combinator 将会与 Open AI 共享数据服务。Y Combinator 已经在硅谷投资了大量的独角兽企业，旗下的平台有 Airbnb、Dropbox、Stripe。同时，特斯拉也称将开放数据给 Open AI，微软与亚马逊也正在变成 Open AI 的合作伙伴。
如此看来，Open AI 可能会通过各种间接渠道获取机器训练数据，但美国对数据监管政策严厉，Open AI 目前可以获取一些数据，但这样的来源是不稳定且充满风险的。
不过也有做房产分享的创业者认为，Open AI 的房源数据就可以多过谷歌，因此它在一些细分领域并不处于劣势状态，也可能成为对抗巨头的一方势力。
马斯克的私心？
即使对亿万富豪来说，10 亿美元的投资也并非一笔小数字。尽管他曾经多次表示出对人工智能心存恐惧，但这一动机仍被质疑。
马斯克曾经投资著名的人工智能研究公司 DeepMind，后来这家公司被谷歌收购，这也让他了解了人工智能的发展前沿。接近马斯克的人认为，在创建特斯拉与 Space X 时，他对工程类技术非常了解，但他并不了解最前沿的深度学习技术，依然处于学习阶段。
眼下，马斯克旗下的特斯拉正在研究无人驾驶，他还将在今年 10 月推出无人驾驶卡车。在无人驾驶的竞争中，特斯拉每一辆在路上跑的车都可以看成是一次数据收集。然而，无人驾驶涉及到图形图像识别、分析等多个深度学习研究领域，拥有了数据这块宝藏之后，他旗下的公司对 AI 人才有着迫切的需求。
著名研究员 Andrej Kapathy 从 Open AI 跳槽加盟特斯拉无人驾驶团队，直接向马斯克汇报。Kapathy 的跳槽让马斯克饱受质疑，外界认为 Open AI 成为其招揽人才的后花园。
Open AI 一个研究项目是机器人如何抓取物体。比如人让机器人去冰箱拿啤酒，啤酒瓶从哪几个点抓起来既稳又不会碎，这个方向不需要大量的数据，只用建立各种模拟场景模拟即可。一个容易联想的事实是，马斯克建立了自己的特斯拉工厂，他的工厂中已经引入很多自动化的机器人生产。
尽管 Open AI 号称对所有人开放，但这家非营利机构也的确弥补了他商业上的短板，成为这家组织的实际受益者。
在 Open AI 这种非营利组织架构中，管理较为扁平，以项目为单位划分。Ilya 曾经在 Open AI 的私人聚会上透露，评价标准之一就是发论文。组织成员认为，这种组织形式与大学的实验室比较像，每个人都有自主权去选择要做些什么项目，而科研项目的周期往往比普通项目要长。因此如果实验中，发现想法是不可行的，也可以中途放弃。
不过，这种模式也令外界质疑，类似于学术研究的算法对工业界究竟产生多少影响力有待怀疑。
通常企业开发研究中，不同人会在一个社区中贡献大量的代码，这个代码库由很多程序员来维护。而在学术研究中，只有几个人做一个课题组，很多时候一个人就可以写一个算法。加上学术研究的样本库较小，在大规模的检测后可能并不能应用于其他场景。
除了一些计算机领域的大神，学术研究最终大概只有1% 的算法能够适应不同的环境最后留下来。但如果底层研究有突破性进展，将会催生一个产业的诞生。
吴恩达在谷歌大脑时，曾经使用 1000 台机器去学习 Youtube 上关于猫的视频，使用深度学习神经网络最后可以在很多图片中识别猫。当时没有人会尝试用 1000 台机器的大量计算能力去学习。但这次突破印证了当你有足够多的计算资源足够多的数据时，算法的突破会有很大潜力。此后，计算机视觉进入到一个快速发展的时期，人脸识别、图像识别、自动驾驶等基于计算机视觉的公司如雨后春笋般出现。
Open AI 的野心是希望能够在机器人领域做出类似的大突破。“如果能把机器人做出来，发明一种新算法让机器在环境中快速学习，极可能催生一个崭新的机器人产业。” 施天麟说道。
不过，机器人通用算法在未来十年里都不会有大突破，因为这需要大量的数据训练、计算能力和高昂的成本投入。
“实现这件事的算法还不成熟，控制人工智能不做危险的事更是无稽之谈。”有不愿具名的分析人士向《财经》记者称，“但是马斯克发表机器人的这些言论是有根据的，如果机器人算法有重大突破，类似于当年识别猫的图片那样，那机器人就是一件很危险的事情。”
不妨这么说，如果马斯克的目标真是通用的人工智能机器人的重大技术突破，那他极可能成为把世界置于危险境地的人。尽管马斯克已经在做尽可能多的增强学习等安全方向的研究，但不排除如果居心叵测之人使用 Open AI 的研究成果开发武器。
尽管不排除马斯克成立 Open AI 确实存在一些私心——在未来的技术竞争中占据制高点，并且广泛网罗人才。但他的担忧也不无道理，也可能确实有出于无私的角度在推进行业的发展。毕竟，机器人是个大趋势，巨头与创业公司已经开始抢占市场，非营利组织存在的必要性也毋庸置疑。
相关文章
