跟两位亲历者聊聊 OpenAI 兴起的要害：爱好驱动的探究，而非方针导向的马拉松

摘要

沿着 Scaling Law、卷模型功能，或许会走到「死胡同」。

 文｜黎诗韵修改｜郑玄 咱们被倡议要想了解自己的方针是什么、并做出方案。可是，两位人工智能研讨者却以为，这只适用于一般的小期望。 一旦触及过于高远的、不确认能否完成的方针，比方打造AGI（通用人工智能）、登月方案等等——那么根据爱好进行自在的、敞开性的探究，才更能完成想要的。他们把这一观念写成了《为什么巨大不能被方案》一书。 在这本书出书的2015年，OpenAI树立，它一开端就确认了完成AGI的方针。九年间，OpenAI取得的巨大成功，好像证明晰人工智能界是一场「方针导向者」的成功。「OpenAI看似是方针导向的，但实际上在内部，它有许多风趣的、敞开性的探究。」本书作者之一肯尼斯·斯坦利(Kenneth Stanley) 告知极客公园。 2015年，他任美国中佛罗里达大学核算机科学系助理教授，和前博士生乔尔·雷曼（Joel  Lehman）一同合著了该书。第二年，他们进入产业界，参加Uber AI团队。2020年，他们又一同参加了OpenAI，肯尼斯担任OpenAI「敞开性研讨团队」负责人。 OpenAI的CEO Sam Altman是他们这本书的推重者。他曾在一个公共场所说到，OpenAI练习模型时会设定方针，方针的上升让人高兴，「但关于找出一个新的研讨范式，就不起作用了」。受书中观念启示，他乐意测验更多别致性探究，「咱们乐意耐性等候数月、数年，大多数时分它（探究）并不起作用，但当它起作用的时分、作用惊人地好。」 参加内部，肯尼斯和乔尔看到敞开性探究怎样刻画了OpenAI的成功。例如ChatGPT本是一个意料之外的项目，它曾是内部几大方向中最边际的；可巧撞上了谷歌的Transformer架构；而Dario Amodei（前OpenAI研制副总裁、现Anthropic CEO）提出Scaling Law（缩放规律）是为了测验模型安全性、而非呈现智能等等。 跟着2022年末GPT-3.5发布，全球人工智能作业敞开了剧烈比赛。在二人看来，AGI依然是一个悠远的、而非近在咫尺的方针，仅靠Scaling Law 这个「踏脚石」还不行。在这种状况下，敞开性探究十分重要——而现在作业极具收敛的方针和方案、以及剧烈的竞赛，反而或许让研讨走进「死胡同」。 即便OpenAI也面对应战，乔尔感觉到，一种严峻的气氛开端在内部呈现，敞开性探究的空间也在缩窄。2022年，他们脱离了OpenAI。跟着人工智能越来越强壮，他们期望更多研讨一些敞开性出题，比方AI会怎样影响人类和社会、怎样从哲学视点看待AI等等。 现在，乔尔参加了一家研讨虚拟生命的公司，而肯尼斯创办了根据敞开性体系的交际网络Maven、并取得了Sam Altman的出资。他们都在敞开性探究的路上持续行进着。 以下为极客公园与肯尼斯、乔尔的对话实录，经收拾后发布： 

《为什么巨大不能被方案》一书的英文版 | 图片来历：受访者

 

OpenAI看似是「方针导向型」的成功，实则是「敞开性探究」的成功

极客公园：先从这本书的来历聊起，我很猎奇你们十年前是怎样想到提出「为什么巨大不能被方案」这个观念的？你们最早研讨人工智能的「敞开性体系」，做了图片孵化器、机器人迷宫等试验，猎奇哪些现实让你们觉得这个观念是树立的、并且能够应用到除了人工智能以外的其他范畴？Kenneth：开端的主意来自于人工智能范畴的研讨，也便是咱们所说的「敞开性体系」（Open-Endedness）。这种体系早已存在，比方生物的演进，在几十亿年中，从单细胞进化为林林总总的动物。又比方简略的发明发明，咱们或许花了数千年，才发明晰一个轮胎、空间站和核算机等等。作为前史学家和核算机科学家，咱们期望用算法打造一个「敞开性体系」，想了解它的作业原理，怎样不断立异、发生十分风趣的东西。所以咱们做了「图片孵化器」网站。这个 AI 体系没有任何方针，人们随机在上面将不同图片进行「繁衍」，这些图片会构成相似生物学「分支树」的联系。尽管每个用户都是从乱涂乱画开端的，但逐渐咱们看到了一些了解的、可辨认的图片，比方蝴蝶、头颅、行星、轿车等等。咱们从而得出一些有意思的洞悉，比方你孵化出了一张酷似车的图片，但你开端并不是以此为方针的。而假如你以此为方针，你底子得不出这张相片。这是敌对之处。遵从这样的准则，咱们提出了根据别致性探究、而非方针驱动的搜索算法。终究咱们发现，这不只适用于算法范畴，也适用于个人和安排。每一个个人和安排都会设定方针，但这种方针驱动并不总是对咱们的发明和发明见效。Joel和我觉得这个进程十分重要，值得公开说出来。咱们企图找到相关信息、并进行屡次对话，这便是咱们这本书主意的来历。 极客公园：可否了解为这本书的中心观念是，不管在算法、个人仍是安排层面，面对一个更悠远的方针，拟定方案不如自在探究有用？Joel：一般来说，一般的做法是咱们树立一个方针、拟定方案。但咱们是不拟定方针、只是去探究别致的东西。比方迷宫里的机器人，假如给它拟定走出迷宫的方针，那它或许很难走出这个死胡同。但假如不告知它去哪里、而是让它自在探究，它会更简略走出迷宫。 

肯尼斯和乔尔做的「图片孵化器」网站，从乱涂乱画中呈现了一些了解的、可辨认的图片 | 图片来历：受访者

 

极客公园：我注意到，在你们刚出完这本书不久的2015 年，OpenAI 树立了。这家公司从创立起就确认了一个十分巨大的方针，那便是完成AGI，它的每个过程都是环绕这个方针进行。今日咱们看到，OpenAI好像取得了成功。所以我想问，在你们这本书出书后的十年里，OpenAI的故事是否反而证明晰「意图驱动形式」的成功？Kenneth：十分好的问题。我以为十分重要的一点便是要注意到，OpenAI尽管取得了必定的开展，但还没有取得AGI的成功。别的，咱们也要认识到，公司往往会向群众叙说方针，但这其实是它们一种叙说的手法，这并不意味着企业内部便是这么推动作业的。假如你去看OpenAI的暗地，你会发现它们不只仅是方针导向的，它们也有许多风趣的、敞开性的探究。实际上，ChatGPT便是这样一种敞开性探究，它是在一个意料之外的项目。我并不以为OpenAI的作业人员最早就设立了要做ChatGPT这个项目（的方针），或许说预见到了它能取得如此巨大的成功。它们只是在探究进程中发现这个项目十分有意思，然后一步步更新迭代才有了今日的ChatGPT。咱们书中也说到过，立异终究该怎样推动呢？其实便是咱们从风趣的一些主意开端，那终究它是否会将咱们引导向终究 AGI 的成功呢？其实这并不必定，但这是十分重要的一步，它们终究都有或许带来革命性的改变。别的，它也能完成其他一些重要的成果，比方招引更多的出资。咱们知道GPT-2并没有带来巨大的革命性改变，但咱们依然要尽或许地宣扬，才干招引更多出资来开展GPT-3、GPT-4，并终究向AGI的方针行进。OpenAI便是这么做的，这正体现了咱们书中的观念。Joel：OpenAI看上去是一个方针导向型的成功，但其实OpenAI刚树立的时分，内部有测验许多不同的开展方向。比方其时他们十分垂青强化学习，包含视频、游戏的强化学习，为此内部做了许多测验。并且GPT背面的中心技能是Transformer架构，这是由谷歌推出的，所以OpenAI也是在谷歌这样的伟人的膀子上不断开展的。假如回忆10年前、20年前、30年前、40年前，没有这么多「踏脚石」的状况下，OpenAI也不或许取得这样的成功。 极客公园：你们界说了OpenAI看似是方针导向、但其实是自在探究式的成功。OpenAI内部人士曾跟咱们说，衬托GPT 3.5 的几个「踏脚石」都是随机磕碰出来的，比方谈天机器人曾是内部最边际的项目、可巧撞上了谷歌的Transformer架构、而Dario提出Scaling Law也不是为了智能呈现而是想测验模型是否安全……这是否跟你们了解的状况挨近？Joel：是的，这些随机探究确实是十分重要的。尤其是OpenAI，它很早就开端推动 Scaling Law等测验，并且不断在做挑选，这是十分正确的。Kenneth：确实探究许多时分是随机的、根据爱好进行的。但Dario提出Scaling Law，这不只是一个随机的探究、这其实也是一个方针导向性的做法。这背面是团队从自己的爱好动身、做了许多测验，想要找到处理方案，终究提出了Scaling Law这个处理方案。这某种含义上也是一种方针导向。 极客公园：所以敞开探究和方针驱动并不是互相敌对的，而是能够统一和交融的？Kenneth：确实两者是能够并存的，能够从一方转向另一方。可是在我看来，这其实也是一个十分困难的问题。什么时分该进行转向？什么时分是方针导向、什么时分是爱好导向？这十分奇妙，很难去找到最佳的改变机遇。 极客公园：你们能够看到 OpenAI的内核其实是一个「敞开性探究」的安排，这是开端招引你们参加OpenAI的重要原因吗？Joel：哈哈，有许多原因。一个最主要的当然由于OpenAI是AI范畴的前沿公司。别的，它确实一开端便是一家「敞开性探究」的公司，尽管它们必定有一些方针导向的元素存在。这与我的个人爱好也是相关的。所以确实很难回绝这样一份作业。 极客公园：那么Sam有看过你们这本书吗、他是否认同你们提出的「敞开性探究」观念？这是他招募你们进入OpenAI的原因吗？Kenneth：Sam 十分喜爱咱们书中的主意，我信任他是在观看了我关于这本书的演讲时接触到这些主意的。他曾在群众场合说到，他遭到了这本书的一些主意的影响。Sam 对这些主意是十分容纳和敞开的，我觉得他暴露在这些主意傍边、他以为这些主意十分有意思。当然，我在OpenAI也不只仅是由于Sam，内部许多人都有敞开的主意。比方Jeff Clune（前OpenAI研讨团队负责人），他在咱们之前参加OpenAI。他也觉得，敞开性探究是一个风趣且值得出资的范畴。咱们在那个时分达成了一致，所以咱们被雇佣了。在我看来，这本书并不是OpenAI的工具书。但我信任，这一文清晰实对他们有影响，敞开性探究是十分重要的。 极客公园：Ken其时是OpenAI「敞开性探究」团队的负责人，其时OpenAI对你们的等候是怎样的？有给你们拟定了怎样的方针吗？Kenneth：咱们面对的应战在于，简直任何一家公司都会感爱好设定方针。但假如咱们探究的一些主意，并不彻底是方针导向的、乃至会违背方针的话，咱们必定会面对一些沟通上的应战。这有一些杂乱，因而在日常的作业中，咱们需求取得一个平衡。有时分很难了解咱们来自哪里、雇佣咱们干嘛。他们或许会十分古怪，觉得咱们做的对错客观性的一些东西。不过终究他们认识到，关于推动AGI来说，这些作业是十分有用的。这现已超出了传统团队的知道。Joel：这里边分为两部分：一个层面是关于安排的架构，许多人会困惑咱们的作业，所以咱们要跟他们解说咱们在做什么，并找到咱们作业跟AGI方针的关联度；另一方面是咱们实际作业的敞开性，要发明新的东西。就像Ken说的，咱们需求在公司内部找到一种敞开性的办法，既要让咱们了解咱们在做什么，也要别致探究、取得行进，这两者的平衡是一种奇妙的舞蹈。 极客公园：你们是否感遭到，在「敞开性探究」上，OpenAI这样的草创公司或许比科技巨子做得更好？我曾传闻，Google虽发明晰 Transformer 架构，但没有首先做出GPT，是由于它的技能路途更方针导向——Google更着重 Encoder（输入），由于它能够处理更多详细事务问题；而 OpenAI 更着重 Decoder（输出），由于它没有那么强的事务导向，更乐意像无头苍蝇相同做「敞开性探究」，你们怎样看？Joel：我的了解是谷歌也有这种对话模型，也是很抢先的。谈到猎奇、爱好、技能才干、首先应用于群众等，我以为其间包含了不同的变量。谷歌是一个更大的安排，或许有更多的「橡皮章」、繁文缛节这些东西，而OpenAI或许更敞开。Kenneth：我只是想说，触及到任何一个大安排的成功，都包含了许多要素。不过我有一点我赞同，OpenAI确实在探究方面做得更好、它有更大的志愿去冒险，而谷歌或许在这方面愈加稳重和犹疑，比方在群众面前展现技能，谷歌或许会慢一步。这能够了解。由于谷歌作为一个大公司，在发布东西之前，需求做许多测验和试验。他们更不乐意失利，它关于危险更有顾忌。但这并不必定是确认的，只是咱们的观念。咱们看到，谷歌重视强化学习和各种办法，OpenAI也重视强化学习、并在不同范畴下注，终究它们都取得了成功。 极客公园：间隔你们其时写这本书现已曩昔快 10 年了，中心你们还参加了OpenAI、Uber等科技公司，阅历了这些再看这本书，你们觉得书中哪些观念仍历久弥新？哪些需求改变更新？Kenneth：回头望，这现已是咱们这本书出书的第九年了。关于树立方针，咱们有过十分多的、急进的争辩，但许多事情跟着时间的推移得到了验证。正如你方才说到的一些比方，有些人或许会以为有些方针是有用的。但在曩昔十年的时间里，咱们越来越发现，方针导向有时会让人感到困惑，会让你有盲点、抓不到其他时机、看不到更多的或许。咱们以为十年后、乃至一百年后，这个观念或许都不会过期。在每一章中，咱们都引入了一些前史事例和引语，比方「行者无疆」——一个好的旅行者是没有固定方案的，他关于要抵达哪里并不太清楚——我不确认我国的哲学家老子是否在几千年条件出了这种描绘。这是一种哲学的观念、一种经历之谈，并不是有许多科学根据，有时分听上去是反直觉的、是一个离经叛道的东西。社会中确实有一些问题，例如，整个社会的安排都在环绕方针推动，并且把「方针是十分重要的」这种文明认识强加给咱们。以教育为例，教师根据考试内容教育、学生根据考试内容学习，这便是方针对教育的影响。在书中，咱们着重了方针的影响是无处不在的，咱们需求去挣扎往前走。再次着重一下，咱们以为「巨大无法被方案」这个观念，是不会发生改变的。假如咱们的人生只是方针导向的话，将无法取得完好的美好。这也是为什么咱们这本书如此成功和受欢迎的原因。 

沿着Scaling Law、卷模型功能，或许会走到「死胡同」

极客公园：尽管你们敌对「方针导向」，但好像现在全球人工智能界的方针都十分收敛且清晰，一是追上OpenAI等公司、二是赶快完成AGI，你们怎样看这种现象？这种「方针至上」会是你们敌对的吗？Kenneth：谢谢您的问题。我赞同在现在的人工智能作业中，咱们定了这两个雄伟的方针，觉得「北极星」就在那儿、咱们要朝着那儿走。不过回到我一开端说的，企业往往会对外有一套说辞，但它们内部或许并不是这样做的。我主要想谈一谈，咱们终究离这样的方针有多远？假如说只差一个「踏脚石」、离得十分近，就像上世纪60年代拟定登月方案的时分、现已有很好的技能根底，那么咱们能够经过拟定方针去完成。但问题在于，假如咱们还需求许多个「垫脚石」、离方针还很远，那设定方针或许会让咱们堕入困境、无法行进。前史上有许多这样的比方。比方在2017年，咱们听到有人说第二年就会有自动驾驶轿车上路，但其实不是这样。因而，单纯采纳方针导向的办法往往会无法完成方针，或许是由于方针设定的时间太早、或许过分雄心壮志。许多人以为现在人工智能范畴只差一个「踏脚石」，只需求扩展规划就能够了，这其实是过于简略化了这个问题。但在我看来，真实中心的「踏脚石」还没有被发现、咱们并不只仅差一个「踏脚石」。咱们很或许正在堕入方针的圈套和迷思之中。Joel：确实咱们现在处于一个「荒谬」的前史阶段，全球的科技公司都在寻求AGI，这种过于聚集的方针是人类「革命性的时间」。但咱们要知道，AGI的开展还要很长的时间。现在许多人以为，只需求扩展规划、参数，有更多的数据和算力，就能够可开展人工智能。这对我来说有些无聊，或许说有些无趣。这并不是最中心的「踏脚石」，我信任还有其他的途径和办法需求咱们去探究。 极客公园：为什么咱们离AGI不只是「一步之遥」、不只差一个「踏脚石」？你们做出这个判别的根据是什么？Joel：咱们终究间隔AGI有多远，其实咱们是有认知误差的。就像自动驾驶相同，并不太清楚终究需求多少个「踏脚石」。咱们仅有坚信的是，假如有一步之遥的东西，你有必要要在那里、你有必要去做、有必要去扩展。Kenneth：最近有一个类比，GPT-3就像是一个孩子，GPT-4像是高中生。但实际上，ChatGPT更像是教科书中的常识，在某些方面，它或许逾越了咱们，而在其他方面，它或许不如咱们。独特之处在于，咱们会感到某些东西十分挨近了，但这不必定是AGI。但咱们也不清楚终究还要等候多久。咱们乃至或许需求一位「爱因斯坦」的呈现，才干到达下一个台阶。 极客公园：这让我想到你们在书里说到，其实从单细胞到人类的进化进程中，重要的「踏脚石」不只是智力，还包含对称性等。那么关于AGI 来说，Scaling Law 带来的智能提高会是一个靠谱的踏脚石吗？它能支撑多久？Kenneth：智能这个词很简略让人困惑，由于它触及许多方面。Scaling Law遵从一些遍及的原理，但它也会损失一些东西。比方在技能上，你有必要将许多人类数据进行更好的紧缩和练习，它不再是传统含义上的智能、而是不断提高的智能。咱们终究或许会遇到一个瓶颈或死胡同、会在练习上遇到走不下去的时间。就像OpenAI在不断扩展规划、添加参数，但它仍是遇到了瓶颈（注：比方GPT-5处于难产状况）。这也是为什么咱们需求新的踏脚石。Joel：假如想要到达AGI那含糊的对岸，有点像做一个赌注，许多显着的途径都有必要要去测验。由于AGI或许不只来自AI，还或许来自数学、哲学和其他范畴。 

《神经语⾔模型的缩放规律》论文写道，跟着模型⼤⼩、数据集⼤⼩和⽤于练习的核算量的添加，语⾔建模功能平稳提高 | 图片来历：OpenAI

 

极客公园：现在各大人工智能公司都在这一维度剧烈竞逐，而你们在书里说到，竞赛其实跟「敞开性探究」相悖、由于它是极端收敛的方针。你们怎样看待现在人工智能范畴的剧烈竞赛？Kenneth：这便是方针导向的悖论，它会使得咱们愈加盲目，对其他办法和途径视若无睹。像OpenAI、Anthropic和Google这样的公司，它们存在剧烈竞赛，由于哪家假如落后了，就或许无法取得更多资金，公司会遭到生计要挟。在这种竞赛中，咱们仅有的方针便是活下来。公司更倾向于持续沿着既定途径行进、扩展规划。假如这时分测验立异，会面对失利的危险、或许会被踢出局。所以立异往往会削减。我以为在这样的竞赛环境下，很简略进入死胡同。不过当这些企业遇到瓶颈时，他们或许会认识到需求转向、进行更多敞开性探究。 极客公园：这跟许多人的观念相反，一般咱们以为剧烈竞赛会推动模型智能水平的提高、加快AGI的完成，但在你们看来反而会拔苗助长？剧烈竞赛会弊大于利吗？Kenneth：是的，这或许有些反直觉。尽管竞赛会引发「军备比赛」，使得模型功能有所提高，但过度的竞赛会削减敞开性的测验，使得立异愈加聚集和约束、无法取得真实的开展。 极客公园：说了这么久的「敞开性探究」，那么关于现在方针和途径现已相对清晰的人工智能企业来说，它们应该怎样才干做好这件事？你们关于「敞开性探究」有没有一些主张？Kenneth：咱们会发现，许多公司太早就树立了一套体系，并且十分方针导向。假如一些探究在测验中体现欠安，他们就会抛弃研讨。我以为这会削减敞开性探究的时机，是十分晦气的。关于AGI也是如此。当时的Transformer架构或许还远远不行，乃至咱们对神经网络的运作机制还了解得不行，现在仍有许多失利的事例。咱们并不清楚终究还差多少步才干完成AGI，因而咱们需求多重的、敞开性的探究。在当时阶段，关于OpenAI和其他公司来说，它们不只需求改善现有的模型、更需求探究新的途径，这两件事需求同步推动。 

脱离OpenAI，人工智能界还需求更多「敞开性探究」

极客公园：不久前Ken接受了一个采访，说到你脱离OpenAI是由于「有一些的懊丧、有一些彻悟」，我猎奇你的「懊丧」、「彻悟」是什么？便利跟咱们共享一下吗？Kenneth：让我想一想，我并不是说我对OpenAI不满意，而是我越来越认识到，我对人工智能的影响存在一些忧虑。现在有许多关于人工智能消极影响、安全以及文明完结的评论，这都是很显着的一些问题。我越来越感觉到，社会中存在一些对人工智能的不满情绪、人们感到越来越多的丢失，咱们会诘问生命的含义终究是什么？比方，未来机器人或许有数百万个十分好的主意，一秒之间就能够逾越咱们终身的成果、或许比咱们个人多年的经历更具才智，那么咱们怎样再去做有构思性的作业、并从中取得成果感呢？这是一个十分严峻的问题。我感觉我的作业，好像在某种程度上加重了人们的这种忧虑和焦虑。因而，我想考虑人工智能未来的开展方向、处理它深层次的问题——咱们终究该怎样改善人工智能，使其更好地为人类服务，促进人类之间的衔接，而不是加重竞赛？这是我最近十分重视的问题，我以为需求进行敞开性探究，我信任这对人类社会会更有助益。根据这样的准则，我树立了一家自己的公司，期望树立一种敞开性的交际网络。 极客公园：你创立了Maven，它是一款根据敞开性探究的交际产品，可不能够介绍下Maven是一个怎样的产品？为什么它能处理你说到的人工智能存在的问题？Kenneth：你或许也注意到一些交际媒体存在的问题，比方信息茧房、敌对观念、不断争辩的认识形态导向、乃至阴谋论等。那么这些问题从何而来呢？实际上，这是由于这些体系的质量有问题。几十年前人们就曾说过，人们会发生林林总总的观念和内容，但许多内容是负面的或欠好的。而现在的交际媒体过于重视内容的受欢迎程度。咱们以为这种信息分发形式需求改善。所以我创立了Maven，这是一个根据内容质量来引荐的「敞开性体系」。人们打分、点评，去找到好的内容。这种客观的点评方法、而不是靠点赞排序，才干带来更好的内容。 极客公园：我注意到Twitter 的联合创始人出资了你、Sam 也出资了你，为什么Sam会决议出资你？他对你这次创业有没有提出主张？Kenneth：Sam确实出资了我的公司。我写完这本书之后，也想让「敞开性体系」被更多人运用，所以萌生了树立自己公司的主意。从作业开展的视点，Sam给了我许多主张和见地。从孵化出资人到OpenAI的CEO，Sam自己的作业开展便是十分了不得的跨过。他给我的主张是，咱们不必定要沿着一份作业、一条路途行进，咱们的作业开展也能够十分多元化。这给我很大的启示。 极客公园：Joel 脱离 OpenAI 的原因是什么呢？Joel：主要是我的作业开展寻求跟它不再彻底符合。开端参加OpenAI时，这家公司还处于比较根底的阶段，内部有机器人、人工智能等多个研讨方向。可是，后来这家公司变得愈加聚集，我也注意到公司内部存在一些严峻的气氛，这对敞开性探究有必定约束。正如Ken说到的，咱们需求考虑到AI对社会的影响、一些哲学问题、还有怎样使用人工智能让个人更好开展等等，这些都是很风趣的研讨视点。我期望能持续研讨，而OpenAI或许并不是开展这些爱好的最佳场所。脱离OpenAI后，我参加了一家研讨虚拟生命（artificial life）的草创公司，现在还在持续从事敞开性体系的研讨。 

肯尼斯参加OpenAI时发布的推文 | 图片来历：X

 

极客公园：你们说到，即便是OpenAI这样最顶尖的人工智能公司，跟着公司规划的扩展，它在敞开性探究上的投入也开端变得严峻。你们对此有什么忧虑吗？Kenneth：确实如此，资金的压力仍是十分显着的，假如没有清晰的报答，管理层或许会削减敞开性探究的投入。不过关于一些立异型的草创企业来说，应该还好。像llya（注：OpenAI前首席科学家）刚刚脱离了OpenAI，树立了自己的公司。他说他仅有的方针便是完成AGI，并且出资不是大问题。这表明即便没有清晰的报答，也能得到资金支撑，许多研讨人员都在进行林林总总风趣的探究。关于OpenAI，有人说它现在变得愈加商业化，我不太确认。不过内部必定还有一些敞开性探究的时机。由于商业化并不是OpenAI的终究方针，也不是许多OpenAI研讨人员的仅有方针。 极客公园：Sam 有跟你们聊过这方面的困惑吗？比方跟着公司规划变大，他是否感到敞开性探究更难做了？Kenneth：这是一个十分风趣的问题。 我不太清楚Sam的脑袋里在想什么，由于他没有跟我聊过这些。 极客公园：终究回到个人，你们是人工智能研讨员和创业者、也是一般人。假如你们自己有一个看起来很远大的、又很不确认的方针，你们会怎样完成它？你们对一般人有什么主张吗？Joel：作为一个研讨者，有些东西或许是貌同实异的。咱们书中的一些主意并不必定直接带来成功，有时需求咱们稳重仔细的看待和广泛阅览。作为个人，我以为坚持谦卑、敞开探究的心态十分重要。由于巨大是不能被方案的，但咱们能够找到巨大中的亮色。Kenneth：作为个人，你要坚持均衡。比方当你过于专心于方针，日子或许就没有那么风趣。就像有人的方针是挣钱，但假如发现了其他风趣的时机，即便这个时机的收入并不高、也不在干流地带，我也主张他测验。作为研讨者，现实上，我想都没想过什么东西会导致AGI。我信任直觉。也便是说，我会遵从我的爱好举动，而这会引导我发现更多的有意思的东西。看起来我离方针更远了，但实际上，爱好才会通往终究方针的完成。