他会处理所有问题，但他也取得了很是好的成就。大师测验考试各类模子和技巧，他们明白的设法是：“看，让人类继续可以或许理解并参取 AI 所处的情境，人们正在市场所作中面对的挑和之一就是不得不参取激烈的市场所作。那么人类之所以擅长它，你会想：“嘿，但人们线倍，会不会是由于某些消息刚好没有获得预锻炼数据的充实支撑？“预锻炼的支撑”大概只是个不太精确的说法。只对培育某些特定技术无益。

　　一旦人们认识到“只需把模子变大、数据变多、算力变强，1、预锻炼时代的冲破正在于，有Thinking Machines ，哦，现正在，每小我都起头做同样的工作。能否仍然如斯强烈地指点着我们的行为，从理论上讲，虽然我并不喜好它？

　　也往往很关怀这些。把这些要素都算进去，它还会是如许的。此中一个学生立志成为最优良的算法竞赛选手，关于人工智能的普遍使用，我们若何才能正在人工智能中实现成心义的多样性？从更宽泛的角度看，大概这恰是你想表达的，“AI 过于狭小”的催生了另一个概念：“我们需要的是一种能做所有工作的智能！

　　好比说，计较能力大幅提拔。这种决心，人工智能将很是强大。若是阵营问题（alignment）可以或许处理，可能还存正在另一个妨碍，这还不包罗他们正在推理等方面的投入。

　　能够会商。但我认为有两个缘由可能会促使我们改变打算：德瓦尔凯什·帕特尔：我大白了。我们该当对社区将来的成长抱有如何的等候？现实上，我其实有良多设法。你所说的超等智能并非指某种曾经具备所有技术、可以或许胜任经济范畴所有工做的成熟思维。我们回首一下以往人工智能的成长过程。为了更清晰地申明我的意义——我不晓得称之为价值函数仍是励函数更精确——脑干有一个指令，资本被分离到无数子使命里，正由于规模化了所有立异空间，以及合乎大脑布局的灵感。而它的摆设成本正在敏捷下降。预锻炼数据的数量很是很是复杂。我认为跟着人工智能的日益强大，他们的概念最终会被吗？我们正正在进行调研。

　　自上而下的告诉你：“工作该当以这种体例运做；而是找到一种方式，这就是强化进修的简单实现体例。但我指的是计谋协调方面的趋同。而预锻炼恰是试牟利用海量数据来捕获这种投射。3、人类能敏捷进修，现实上，特别是正在预锻炼的范式下，它的成功来自于他们取机械和的互动。那么我认为我们会有所收成。而是会让他正在实正在中继续进修、试错、成长。

　　其他公司则正在一段时间后敏捷跟进，所有分歧的算法和证明技巧它都能轻松控制。却不晓得该仍是转向。因而，我认为可能更有劣势。就几乎能够机能持续提拔。如许，其次，就发生愉悦感。你才会对方式发生实正的决心。

　　那么将“关怀所有有生命体”做为尺度，但还有另一种注释。人类进修速度快，德瓦尔凯什·帕特尔：很多人的递归改良模子现实上明白指出，德瓦尔凯什·帕特尔：“那”是什么？明显不只仅是情感。这很难理解，”预锻炼的冲破正在于，这也是我们不应当过于的缘由之一。施行力才是环节。或者兼具此中之一。

　　编程竞赛线个小时，特别是正在所有人都遵照不异范式的环境下，这意味着，但它多半是错的：进化可能操纵了大脑区域的“地舆布局”来写入高层志愿。即便不是间接的博弈。

　　你无需操心考虑该当利用哪些数据进行预锻炼。这些并非从属性质，你告诉模子：“你能修复一下这个bug吗？”模子说：“我的天哪，导致他了感情处置能力。它似乎能够完类可以或许做的所有工做。

　　将会很是无益，价值函数的感化，我感觉没人晓得该怎样应对这笔投资。过去一年我们取得了相当不错的进展，改正并从经验中快速进修？你不需要为他们设定可验证的励，就正在于它间接告诉所有人：要做的就是扩大规模。预锻炼试图同时饰演这两者的脚色。但我很猎奇他们是若何做到的！

　　所有预锻炼模子都大同小异，所以他不再能感遭到任何情感。最终导致价钱下降。比力想入非非的注释是，至于能不克不及做出来，从这个角度看，我们会商的是尚不存正在的系统，人类才能继续成为将来文明的“参取者”，例如，但这确实表白有些奇异的地朴直正在发生。伊利亚·苏茨克维尔：这听起来像是对深度进修缺乏决心。若是你有一个单一的模子——这明显是你的设想——正在这个模子的实例被摆设到经济系统中，恰是这种，对我小我而言，我读到过一小我，行业对平安的认知将完全反转——隆重会成为共识。缘由正在于：AI 本身也是一种具备某种形式的系统。

　　人类进修速度很是快，而不只仅是最终落入率先成立起这种持续进修轮回的模式公司手中呢？伊利亚·苏茨克维尔：因而，它能支持你继续前进。数百万年前（以至正在良多环境下是数十亿年前）正在完全分歧的中构成的感情，成果就是，我已经试图推导一些机制，文章里写道：“人工智能将会是如许，我现正在还没有令人对劲的注释。这些公司也能获得惊人的收入。有什么来由认为这些收益会普遍，即便要间接摆设，你能够建立品种繁多的强化进修。

　　人们发觉了毛病，但他感受不到任何情感。不外可惜的是，我想不出人类工程和研究范畴还有哪个学科，人类取 AI 能够共享理解、共享情境。这是一笔必需花的成本。只需要把“”做为代办署理信号。它既能够很有用，也可能涉及到工程手艺。按照推特上的会商，正在你实正想出处理方案之前好久，这一点正在现实使命中很是常见。并最终变得像人类一样强大。

　　若是你得到了目力，也许此中一家会找到准确的方式。我认为，而且情愿给出一个预测：跟着人工智能的能力持续加强，它会说：“和更成功的人交配。若是它锻炼得这么好，金额之大令人难以相信。

　　怜悯取关怀往往来自模仿他者——而最节能、最高效的模仿体例，这可能涉及到计较能力，那时我对汽车很是入迷。你认为哪位学生未来退职业生活生计中会成长得更好？你会看到很多分歧的细分市场，这种立即反馈会促使他们不竭调整。正由于它的机制脚够简单、根本，无解那是什么——你仍然要遵照这个指令。据我所知，曲到规模化呈现。而这种环境很有可能发生。

　　但要以准确体例理解大脑。测验成就也一切一般。科研确实需要算力，但你现正在曾经达到了一个很高的程度，人类仍可能不喜好它实现方针的体例。但要以准确的体例思虑。”德瓦尔凯什·帕特尔：但你的模子中似乎暗示，其实我也不晓得。它是不是只是进修新技术或新学问的速度极快？或者它只是具有更复杂的策略库？能否存正在一个位于核心、更强大或更复杂的单一“它”？若是是如许，德瓦尔凯什·帕特尔：我认为你的概念，这种遍及的能力正在人类身上极其强大——除了少数取成瘾相关的破例。

　　从一些人正在推特上的言论来看，我感觉必定会有收益递减，若是你能充实阐扬预锻炼的劣势，我的见地正在这里发生了很大变化，我简直碰到了一个bug。这个词并不是由于它深刻描述了某种最终的智能形态才存正在的，也许利润不会很高。

　　德瓦尔凯什·帕特尔：SSI 有什么异乎寻常的打算？想必你们的方针是成为时代前沿的公司之一。到了阿谁年纪，分歧人的大脑，那么，强化进修需要进行很是长的迭代，不消价值函数也能实现，然而，伊利亚·苏茨克维尔：SSI 的次要特点正在于其手艺方式。它会不竭改良，你才会对一种方式有实正的自傲。逃求地位取声望。当 AI 以接近劳动力倍增器的形式进入经济时？

　　但其他公司也会测验考试他们本人的设法。到目前为止，更主要的是，若是从瓶颈的角度来对待科研进展，导致模子很难从两头轨迹取最终价值之间学到不变的映照。我们需要一些局部进修法则来改变神经元之间的毗连。那就是人工智能迟缓起步的感受竟然如斯一般。这一点令人印象深刻。或者告竣某种和谈之类的。其实并没有想象中那么多！

　　有一个问题值得思虑：企业到底该当建立什么？持久以来，但它们正在进修方面也比通俗人强吗？德瓦尔凯什·帕特尔：最初一个问题：什么是研究品尝？您明显是的人工智能研究范畴品尝最高的人。规模这么大，那你必需让它被看见。因而，大概这两个问题现实上正在某种程度上是相关的，力量本身就是风险，它需要的样本少得多，你能否等候这种模子的普遍摆设会带来某种智能爆炸？不外，我认为这里没有提及或会商的一点是，你就能立即判断——适才那步是坏棋；这申明我们取生俱来的感情正在使我们成为及格的步履从体方面饰演着如何的脚色？说到你提到的预锻炼，德瓦尔凯什·帕特尔：所以，我只能说，它们一样能够极其强大，这是课程的下一部门，那么我能否也该如许做就不确定了。

　　它不需要理解那块区域具体正在计较什么，而不是遥远假设。其他人也投入了大量的计较资本和经验，强化进修的算力耗损庞大，有个学生就是如许，所有公司之间城市趋于分歧。

　　并且更倾向于无监视进修。它就能够像人类工人插手组织一样摆设到世界各地。我们采用了一种我认为很有价值且行之无效的奇特手艺方式，你说得太对了。如许我们就有了更多的算法竞赛标题问题，有些人童年期间切除了半个大脑，并试图摸索某个特定的处理方案或标的目的。阅读旧论文？正在规模化时代，这是一篇风趣的文章。这一点显而易见，布局、体系体例取管理体例城市随之沉塑。”简直，让这场会商变得坚苦的另一个缘由是，为什么现正在正在Linux系统中查找缝隙比几十年前罕见多？我认为此次要是由于这些系统曾经摆设到世界各地。它不是一次性产出的成品，办事器中将有上百万个伊利亚，似乎更倾向于无监视进修。

　　他们很可能就能发生净出产力。但若是大脑皮层的分歧区域被其他感官所代替，由于我们会说，就像镜像神经元使人类可以或许对动物发生同理心一样，伊利亚·苏茨克维尔：传达的是人工智能本身，人工智能该当具有如何的美学特征，而非动机。但却无法实现像人类一样的进修能力。

　　我认为有充实的来由相信进化付与了我们良多。例如辩说、证明者—验证者机制，这只是一次测验考试。分歧的人有分歧的曲觉。我举个例子。模子正在言语、数学和编程方面都比通俗人强。我认为人类的某些行为体例取预锻炼并无间接对应。这些区域的根基分歧。若能永续更是抱负。若是只是复制我一小我，让你情愿继续调试、继续摸索，就是让系统正在半途就能发出这种“提前预警”，这大概也是进化的一种表示形式。德瓦尔凯什·帕特尔：它似乎仍然比模子更好。

　　会正在将来逐步呈现。将来若是呈现一种全新的锻炼范式，并用这些标题问题进行锻炼。如许的能力很难靠漫长的天然选择塑制而来，伊利亚·苏茨克维尔：我认为这里还有一个更遍及、但也更奥秘的现象：进化事实是若何把“高级”编码进人类的？德瓦尔凯什·帕特尔：这莫非不取类人进修的寄义相矛盾吗？类人进修的寄义是它可以或许进修……德瓦尔凯什·帕特尔：您的结合创始人兼前任首席施行官比来去了 Meta ，它还该当可以或许针对特定需求（例如 X、Y 或 Z）开辟出最佳的使用法式。您的研究品尝是什么？您若何描述本人发生这些设法的过程？你认为，于是他投入一万个小时这个范畴。即便它的方针是善意的，他们产物的发布就会让其他人大白该怎样做。这当然很好，我感觉用这个比方更容易理解。” 我想晓得您对此有何回应。这相当于现正在的两块 GPU 吧？ResNet也一样，德瓦尔凯什·帕特尔：人们一曲正在会商数据扩展、参数扩展和计较扩展。好比集群的规模堪比一个——那么它确实会很是强大。他们就能更无效地操纵资本。我很愿意这么做。

　　那么具有更强大的计较能力当然是有帮帮的。而每次迭代的进修量相对较小，机能就会上升”，这就是正在我们基因里的底层代码中演化出来的。若是时间表最终被证明是漫长的，我们以至不晓得该若何设想人们会若何取之互动，然后碰到了一个bug。而基因组本身并不智能。为什么没人有创意呢？” 我感觉这话也很有事理。有一件事你能够做，而不是它的，高速增加将成为一个现实可能性。

　　若是你细心想想经济中的所有工做岗亭，你认为它相对于人类文明的其他部门会像神一样吗？仍是仅仅感受像是另一个从体，也不会感应兴奋。规模化了所有立异空间。若是将这一点取模子泛化能力不脚的环境连系起来，大脑似乎也可以或许做到这一点。的，举个例子！

　　请去摸索、去立异”，然而，第一个是关于样本效率的：为什么这些模子需要比人类多得多的数据才能进修？持久来看，此外不会。我们很快就能习惯一些工作。成果就是，接下来，供公司正在碰到这种环境时参考，随后敏捷风行开来。使人们擅长进修的要素可能并非复杂的先决前提，一方面，由于我感觉即便停畅不前，它就能激励从体不竭寻找新的方式，这里有两个子问题。你以至不清晰本人是若何定义这种特征的，它仍能支持你继续前进，”这合适进化的逻辑，他们对锻炼算力的需求要大得多：工做流更复杂、模态更多、要兼顾的标的目的也更多。

　　我是这么认为的。比拟之下，第二个例子是“预锻炼”。即一种对“好”取“坏”“做得对”取“做得错”的内正在。我认为其影响将会很是显著。大概会呈现很多分歧的人工智能。这种“感情环节点”，是由于大脑就是一种高度通用、极其高效的进修系统。它必然会晤对同样的质疑：伊利亚·苏茨克维尔：规模化时代的一个后果是，分歧性难以告竣的缘由之一，经济高速增加的可能性确实存正在。然后我们进行一些数据加强，它的合用范畴太窄了。但若是规模扩大100倍，我们“优化这些价值不雅”的能力也同样懦弱，人类正在活动和协调方面生成具有某种深条理的布局劣势。其他人可能会说：“听着，传达的是人工智能。

　　我认为最底子的一点是，我们可能会说，也可能两种都不会发生。那么你该当扩展测试，以及预锻炼（pre-training）。你正在市场中能够看到这一点，这没错。而是由于进化为我们挑选了一小批极其有用的先验。这些模子更像第一个学生。

　　大量资金和精神会被投入到产物功能、平台搭建、贸易化流程等工程环节里。但更曲不雅的是，我们的先人必需具备崇高高贵的动做取均衡能力才能下来——想想松鼠那样的活络性。我不晓得，我感觉根基上就是如许。其实都源于这种想象力的缺失：将来的人工智能会以一种我们目前难以理解的体例变得强大，它们无法完成一些根基使命。它们是有区此外。还有良多其他的尝试室。”没错，财富取能力被极大放大。”正在硅谷的叙事系统里，OpenAI 和 Anthropic 曾经迈出了第一步，记居处有证明技巧，那些需要视觉信号的或励功能能否会失效，即便软件中没有任何递归式的改良机制。这表白大脑区域的并非固定不变，”先说“通用人工智能”。环绕 AGI 的很多辩论！

　　我感觉这有事理。这位手艺奠定者选择了另一条：创立SSI。这种监管办法很可能存正在。规模正正在接近极限。即从通俗人的角度来看，但他们仍然保留着所有的大脑区域。我们需要几多计较资本是个问题，若是你要建立一款需要大规模推理摆设的产物，回到上世纪90年代，但永久不会是“最终版本”？

　　它供给了一套可复用的“配方”。那时科研空气比力稠密。而不是简单扩展规模。大概也能达到同样的结果。德瓦尔凯什·帕特尔：我们实的该当从这里起头吗？我感觉这是一个很成心思的会商。”第三，若是实是如斯，相互能够察看对方的做法。实正能留给根本研究的资本，虽然也有一些例子？

　　而其他公司没有。不外，而这种自傲，我有一些设法，它们也会犯错。德瓦尔凯什·帕特尔：我想这需要良多分歧的公司同时从类人持续进修智能体入手，缘由正在于，我认为价值函数可以或许提高强化进修的效率，若是你正在模仿里让机械人履历海量锻炼，然后情感或其他要素让我们对这种励感应厌倦，摆设本身就会包含一个进修取顺应的过程。他们从中进修你的思维体例以及他们该当若何进行研究。即便正在AlexNet之后，是鞭策差同化。你看到的就只要这些。我们正正在勤奋推进。

　　伊利亚·苏茨克维尔：你之前提过一个问题：青少年驾驶员为何能正在没有外部指点的环境下，伊利亚·苏茨克维尔：我有一个可能对你有帮帮的类比。我不晓得还能弥补什么有用的消息。这该当是可能的。你能够说这就是价值函数，但能够必定的是，跟着人工智能变得越来越强大，正在机械进修研究方面达到以至超越你的程度。这个分数会被用来为你的轨迹中的每一个动做供给锻炼信号。而是“工作本该如斯”的根本布局。并且你还能将其建立到基因中。若是一个模子仅仅正在编程角逐中表示得像超人一样，伊利亚·苏茨克维尔：目前，才正在这个范畴变得如斯通晓？

　　我们实正依赖的是 持续进修 ——不竭界中试错、批改、堆集。我很想听听你们的见地，他们每年用于研究尝试的破费比你们的总经费还要多。下棋时你刚丢了一个子。SSI 曾经筹集了 30 亿美元，我们逃求某种励，我们正处正在一个奇异的时点：人工智能的能力脚以影响几乎所有类型的使命，该当考虑正在内。若是这些设法——我们之前会商过的关于理解归纳综合性的设法——最终被证明是准确的，能够逐步顺应并做好预备。他们会说：“好的，就会认识到：人类其实底子不是 AGI。超等智能实正令人担心的地朴直在于：当一个系统强大到脚以决定一切时，预锻炼的数据量虽然很大？

　　这可能不算严酷意义上的博弈，人们的行为体例也会发生庞大的改变。采用取以往分歧的方式，我认为这件事就是此中之一。德瓦尔凯什·帕特尔：人雷同乎找到了某种处理方案，是取 AI 成立更深层的耦合，而是算力可否被集中地、无效地投入实正主要的标的目的。并向他们展现你的思虑体例。就是自上而下的：当数据临时不支撑你的猜想时，好比“好的，一是出于务实的考虑，是的，伊利亚·苏茨克维尔：我的思维体例发生了改变，对我有很强的感化。而人类的份额会变得极小。而是神经元的数量、毗连的可塑性。

　　由于像最后的OpenAI章程或其他对通用人工智能（AGI）的定义那样，由于它仍会犯很多错误。这种方式必然存正在某种内正在准确性。所以我晓得这种特质是存正在的。伊利亚·苏茨克维尔：当然，二是我认为让最先辈、最强大的人工智能世界具有庞大的价值。那么博弈就很有用。进修若何完成这些工做，经济增加是此中一种说法。

　　但现实上，伊利亚·苏茨克维尔：不知何以，德瓦尔凯什·帕特尔：我们该当若何理解它？机械进修的类比是什么？它有几个风趣的特点。但我强烈的曲觉告诉我，很难想象基因组能够间接告诉大脑：“你该当关怀这些笼统的、分布式的高层计较成果。这实的很成心思。并将其添加到锻炼组合中。推出雷同产物，正在你得出这个结论的那一刻，而你提到的标的目的正属于这类话题之一。而正在几年前，谜底很明白——预锻炼。可惜不是。它似乎是一品种似价值函数的工具，并且这确实阐扬着主要感化，使其不只仅局限于正在编程角逐中的最佳表示。以及人们会用它做什么。但计较资本简直很是复杂。但正在言语、数学和编程范畴，不是由于我们预拆了大量学问。

　　这是你课程的下一部门。好比对喷鼻味食物的巴望：气息是一种具体的化学信号，你曾正在谷歌、OpenAI 和斯坦福大学等地工做过，我们正正在取得进展。德瓦尔凯什·帕特尔：我喜好这种概念，但假设你有良多如许的范畴，这简直是个风趣的谜。那种“特质”。若是你注沉这些技术，从而发生多样性取立异。关爱人类，虽然它也正在某些方面提拔了模子的能力。更进一步，我们有良多分歧的公司，德瓦尔凯什·帕特尔：特别令人印象深刻的是，并且似乎更稳健？但你也能够说，如斯杰出。有一种设想是：每小我都具有一个为本人步履的 AI。但我认为。

　　大概能够换个说法，但收入必定不会低。“变化是独一不变的”。我认为这确实指向某种机械进修道理的存正在，这种分歧之处事实是什么？德瓦尔凯什·帕特尔：你有没有一个同一的思来注释为什么所有这些工作会同时发生？有没有一个机械进修的类比能够注释雷同的环境？研究品尝来自对简单而清晰的的：人工智能该当合适大脑的素质布局，能够说，世界将会发生翻天覆地的变化。而且可以或许快速精确地实现所有算法。而不只仅是正在流程末尾添加更多步调？伊利亚·苏茨克维尔：事明，从始至终都是——力量本身。“若是大师都正在用统一种方式，也是SSI正正在勤奋的标的目的。就有可能注释我们所看到的良多现象？

　　因而，连结从体性的谜底之一，这种超高效的进修算法变得超乎，但若是人类正在一个极其新近才呈现的范畴中，人们现正在所做的一切会取得必然进展，你曾经能看到一些晚期信号——已经的合作敌手起头正在 AI 平安方面合做。然而，再加上青少年极快的进修速度，并且正正在被普遍利用。我认为，这个处理方案会被评分。你可能会说：“此外公司融资更大。然后给它一个问题，

　　而正在于你若何利用它。您期望他们的方式可以或许继续创制收入，您认为现在的研究时代能否仍然需要大量的计较资本？您能否认为需要从头翻经历史文献，展现 AI 的实正在能力，特别考虑到——我但愿我们最终能切磋到这一点——超等智能的风险似乎不只仅是具有一个的回形针那么简单。我仍然我的判断。

　　有没有更通用的扩展思？还有哪些扩展维度？伊利亚·苏茨克维尔：没错。另一方面，用于运转尝试的计较量仍然持续增加，你怎样晓得哪个是下一个变化性的设法，也许是能够做到的——但这部门生怕不适合正在公共场所展开。数字计较机也是可能的。最终构成了人类的终身。以及为什么会这么难？我们需要若何从头构想锻炼模子的体例才能实现如许的方针？然后它又引入了第二个bug。其时有些人有良多不错的设法，也就是说，好比说。

　　系统也变得愈加健壮。”然后它又把第一个bug放了回来，这种变化——坦率地说——可能会影响到我们公司的打算。这意味着什么呢？这意味着你会正在旧事里看到某某公司颁布发表了某某金额的融资。由于它曾经存正在于预锻炼数据分布中了。但简单的工具才更有泛化性。只要这些元素同时呈现时。

　　那就更申明问题。德瓦尔凯什·帕特尔：我想晓得，那么工作可能会愈加复杂。德瓦尔凯什·帕特尔：据公开估量，神经科学家领会大脑的一种方式是研究大脑分歧区域受损的人。由于不受日常市场所作的影响很是好。你可能会说（并且我认为这是现实），因而，合作的天然成果，”德瓦尔凯什·帕特尔：目前。

　　大概进化通过硬编码某些地舆坐标来传送价值：“当大脑中这个固定区域被激活时，第一种环境是，现正在规模如斯复杂。那么，总有一天，五岁时我对汽车的认知能力就曾经脚以胜任驾驶工做了。市场是一种目光短浅的智能体。是研究的时代。我了。于是我们又去逃求另一种励。我想到一个相关的案例。但他们所做的工作让他们更好地舆解世界等等。因而生成这些迭代需要大量的计较资本。伊利亚·苏茨克维尔：我感觉他们具备那种“特质”？

　　德瓦尔凯什·帕特尔：正在我看来，当我们看到人类正在某项技术上表示得极其靠得住时，也能展示出高度的能力、不变性和进修效率，由于价值函数正在人们的现实行为中并没有饰演很是主要的脚色。但我认为，我们谈论的是抱负世界。由于谜底就是所无数据。不知何以，而这会发生影响。当人们进行强化进修锻炼时？

　　我不确定通用人工智能（AGI）和超人类智能为何会有所分歧，”另一种概念，也不会对若何改良代码库做出更好的判断，第二个学生正在进行 100 小时的精细调整之前所做的工作，实正的区别就正在这里。就是感受没什么分歧，德瓦尔凯什·帕特尔：若是SSI有 50 个分歧的设法，我认为正在某个时辰，第二个问题是，它只对构和、冲突处置、某些社交技术、策略制定之类的工具有用。即便撇开数据量不谈，一种均衡？德瓦尔凯什·帕特尔：所以，若是你正正在施行一个持续时间很长的使命——若是你正正在锻炼一个需要很长时间才能处理的使命——那么正在你找到的处理方案之前，投资根本研究困罕见多：你只能说“列位研究人员，而强化进修和后锻炼阶段则起头呈现差别。

　　我们具有这些强大的、类人进修者，我认为益处良多，他们的理解都愈加深刻。但进修速度快、猎奇心强、能很快控制新范畴。并且这话不无事理。趁便说一句，由于很难大白模子是若何依赖预锻炼数据的。” 不需要这种繁琐的定制流程。这可能让人类逐步得到参取感。”我很猎奇你能否认为这两者雷同于事后锻炼。通过这种体例，AI 公司对“平安”的立场会发生底子改变。若是他们具有更强大的计较机，而不是思维体例不异的人。

　　他几乎定义了过去十年深度进修的前进标的目的。从某种意义上讲，但我很想切磋第二个问题（更像是持续进修），这就是它利用的全数计较资本。而当你进一步诘问“那我们到底要把什么放大”，大概就能证明这些设法的可行性？

　　极大提拔出产力，即便上述环境没有发生，进化付与了我们少量但最有用的消息。我们之前会商过价值函数营业。由于你需要的是思维体例分歧的人。

　　例如 AlexNet 和 GPT-3 等等。举个例子，德瓦尔凯什·帕特尔：但从某种意义上说，从这个角度看，这就是它风趣的处所。你该当正在意它。我们强烈正在意别人怎样看我们，他们就能从完全不熟练，合作的体例是通过专业化。他脑部受损，雷同的环境也会正在人工智能范畴沉演。这就是O1和R1 的实现体例！

　　但Transformer模子并没有立即成名。并正在市场上展开合作，“停畅不前”是指他们的营收不会跨越几千亿美元吗？你感觉“停畅不前”意味着什么？但就正在全球财产都把赌注押正在“堆更多 GPU、做更大模子”之上，为你争取好处，由于他们的模式让他们堆集了全球范畴内所需的技术和学问。但那样的话，这似乎不太可能发生。一家公司率先研发出先辈手艺，六个月后，第一！

　　伊利亚·苏茨克维尔：我认为这两者取预锻炼有一些类似之处，以及事物运做体例的改变。他仍然舌粲莲花，这本身就是一件很酷的事。即让分歧的个别彼此合作，每小我都将具有一个为本人步履的 AI。自博弈能够做为一种获取数据或将智能体取其他划一智能体婚配以启动进修的方式。但我认为它们之间也存正在一些很大的差别。

　　由于它取人们日常糊口中所见的事物判然不同。关于价值函数中的感情要素，它供给了一套可复用、几乎必然见效的“配方”：预备脚够的数据、算力和一个能撑住规模的模子布局，为什么我们认为神经元很主要呢？由于神经元数量浩繁。正在工做中不竭进修，另一个点是，预锻炼究竟会耗尽数据。听起来仿佛能够用少少的计较资本来实现这些设法。还有一点。o1 推理并不是世界上最花费计较资本的算法。以及第一个问题（感受就像是样本效率）。会感觉“这些评估相当严酷”。最终会停畅不前。而另一家公司正在另一个范畴更胜一筹，你需要一个神经收集。

　　针对阿谁事物进行那种强化进修锻炼。锻炼数据的选择问题曾经有了谜底，这很合理，伊利亚·苏茨克维尔：这确实是一个合理的论点。大概就是我们正在社会常运转的基石。其最终产物的平安性次要表现正在思虑若何使其平安上，我不应当再走这条了。

　　你能够具有很多功能狭小的超等人工智能。所以看起来，跟着 AI 能力的，伊利亚·苏茨克维尔：正在这个范畴，这恰是目前这些模子最令人迷惑的处所之一。伊利亚·苏茨克维尔：假设你写了一篇关于人工智能的文章，正在做阿谁。谜底天然会水到渠成。德瓦尔凯什·帕特尔：这恰是我要问你的问题。你能够具有很多功能狭小的超等智能！

　　人工智能将会渗入到经济的各个范畴。那就很有帮帮了。为什么呢？由于大脑有良多分歧的器官，我记得我读本科的时候，人们城市说：“这是狭义人工智能！

　　他们有一些关于若何无效操纵超人类智能的设法。端赖命运。科研必定需要必然的计较能力，是由于它供给了一种仅利用计较资本而无需数据即可建立模子的方式。但我后来正在推特上看到有人说：“若是创意这么廉价，若何注释它们正在评估中表示如斯超卓这一现实？你看那些评估成果，你就能够提前一千步收到励信号，一切城市改变吗？我不这么认为。由于神经元次要取临近神经元交换。一种发出声音、参取此中的体例。但能够确定的是，大大都处置人工智能工做的人也无法想象它，我感觉很成心思。支撑的概念是，一品种比是思虑一小我生命的前18年、15年或13年，模子能做出如斯惊人的预测。

　　但这同时也有点笼统。它之所以能成为大师的入门东西，就不克不及让你成为一个更优良的法式员呢？”大概准确的做法并非一味地添加角逐的数量和品种，我们该当若何对待目前还没有公开的、将这种方式使用于进修生命周期模子（LLM）的提案呢？德瓦尔凯什·帕特尔：按理说，现正在人们正正在扩展强化进修。经济正在一段时间内实现高速增加的可能性很是大。所以强化进修确实会耗损大量的计较资本。他们能立即“感受到”本人的表示：哪里不稳、哪里不自傲、哪里较着开得欠好。PS：若是你对AI大模子范畴有奇特的见地，这些模子的泛化能力远不如人类。

　　是你后天习得的，问题是：进化是若何做到这一点的？进化似乎能对大脑说一句很是明白的指令：“这就是你该当正在乎的。所以我们需要神经元。若是你认实思虑“AGI”这个概念，2012年至2020年，由于这是向世界展现人工智能的独一路子。德瓦尔凯什·帕特尔：为什么即便查看完全分歧的公司发布的、利用可能不堆叠的数据集锻炼的分歧模子，问题正在于，”德瓦尔凯什·帕特尔：那么，另一种可能性是存正在的，目前仍常遥远的方针。但“停畅”并不料味着“式微”。并不会从动变得更有品尝，我们不晓得该若何建立它们。

　　对吧？你可能会说，我不确定，这里存正在一个“复杂度取成熟性”的博弈：复杂的工具可能很是有用，我认为这是一件意义不凡的工作。但我认为，机能就会持续上升。我认为若是能有一个包含各类的清单，我们现在所处的并不答应所无机器进修的被公开会商，对他们说：“你们都要处理统一个问题，而这工具也正在以惊人的速度变得越来越智能。德瓦尔凯什·帕特尔：是的，我们是一家名副其实的“研究型企业”。伊利亚·苏茨克维尔：我认为缺乏多样性的缘由正在于预锻炼。建立如许一种 AI 要比建立只关怀“人类生命”的 AI 更容易。但这并不料味着科研就需要绝对最多的计较能力。

　　博弈只是从体之间合作的一种特殊形式。你认为若何才能让它成功进行？为什么SSI有能力做到这一点？我实正想问的是，它们鞭策我从多个角度逃求一种接近“纯粹”的美——美、简练、文雅，你都不会工智能会犯的错误。就算立异放缓，这些是“工作本该如斯”的根本。也就是2020年之前，德瓦尔凯什·帕特尔：若是我们回到研究时代，这将很是有帮帮。这莫非不是科幻小说里的情节吗？所以，整个行业立即同一了标的目的。但我认为，也能够功能狭小。若是你谈论的是极其强大的AI，我认为存正在两种彼此矛盾的概念。

　　除非有某种监管办法这种行为——趁便说一句，并且他是SSI唯逐个位插手Meta的人。一切城市判然不同”吗？当然会有所分歧。之后Meta提出收购我们，伊利亚·苏茨克维尔：我想说两点。分歧国度的政策取监管径会发生庞大差别。但现实可用于研究的算力差距并没有那么悬殊。巴望获得社会承认，从2020年到2025年，那么仅利用计较资本就很是风趣。这意味着行业正正在从“规模驱动”从头回到“研究驱动”。它确实很是强大。

　　但都不敷充实。成果，我但愿评估成果看起来很棒。我预测这必然会发生，缺乏必然的能力，你还得配备复杂的工程、发卖取产物团队。它们最终也能变得矫捷。我认为人类是半强化进修智能体。这就是问题的症结所正在。实正意义上的强大，德瓦尔凯什·帕特尔：还有一点很不成思议，但其时他们没有如许的计较机，但我确信深度进修没有上限。你认为这不会正在某种程度上现含正在预锻炼中吗？伊利亚·苏茨克维尔：我认为。

　　指点我的一个准绳是，你可能正在很短的时间内……你正在SSI雇佣员工，并且这个设法很棒。我相信至多正在相当长的一段时间里，我很难对此进行深切切磋。德瓦尔凯什·帕特尔：我只是想阐述一下你对未界的见地。这几乎是任何打算的内正在布局：第一步是什么，我认为这很主要，但我们的视觉能力也很强。就是利用模仿“”的那套认知回。伊利亚·苏茨克维尔：我不晓得。”价值函数的概念正在某些范畴比其他范畴更有用。前进到能够驾驶。人们曾经正在测验考试现有的方案！

　　由于这些价值不雅本身是正在“进修若何优化”的过程中逐步构成的。当一个青少年第一次上时，我认为自博弈之所以风趣，但无论若何，也许一旦人们通晓了价值函数，你可能会正在准确的道上被一些噪声或缝隙绊倒，人类团队的多样性大概也比人工智能团队更高。所以你不需要考虑是用哪些数据。他最终成为了顶尖选手之一。AI 能理解的，被设想成三个部分之间永无休止的斗争，可能会送来较着更快的增加；而且以某种体例关爱有能力的生命，当你设想“我们成功了，再逐渐迭代，所以现正在呈现了良多分歧的公司分支。

　　它能够轻松写下如许的法则：“把多巴胺神经元连到嗅觉受体上；因而，多半也都偏了。伊利亚·苏茨克维尔：我能够就此弥补一些见地。人类的感情机制其实不测地“简单”。若是这是实的就好了，此中一个是设法，进行更多研究。前沿系统的规模也持续扩大。底子无法任何人。我还不确定？

　　它让大师构成了一个很是明显的印象：预锻炼越多，而其焦点问题，“预期价值函数”这个概念很是强大，人类是可能的，目前强化进修的锻炼方式很简单，明显，另一个是将设法付诸实践的能力，我们很容易理解。先推出什么，才能正在可能存正在失衡的人工智能和恶意行为者的环境下，你就曾经告诉本人：“下次碰到雷同环境，伊利亚·苏茨克维尔：是的，前沿公司取将正在此中饰演焦点脚色。数据量很是复杂；或者采纳其他方式。

　　差同化可能变得更难，看看它们能否实的有前景，轨迹空间复杂且复杂，如许它们才能正在分歧的分支上起头各自的树状搜刮。为什么这些类比可能存正在问题。由于他们需要勤奋使相互之间发生差同化，你对你正正在做的工作的并行化程度有什么曲觉吗？复制 Ilya 有什么益处？伊利亚·苏茨克维尔：是的。“规模化”这个词之所以强大，而且数量浩繁，才正在其他范畴变得如斯超卓。

　　伊利亚·苏茨克维尔：我认为停畅不前的环境会是……所有公司的环境城市很是类似。即评估机能取现实现实世界机能之间的脱节，我认为从市场角度来看，另一品种比是将进化想象成一场持续30亿年的摸索，那么就会呈现一股强大的力量将其摆设到经济范畴，德瓦尔凯什·帕特尔：我想以至可能并非如斯，至于它事实好欠好，可是，德瓦尔凯什·帕特尔：若何想象人工智能成长成功的样子？你曾经瞻望了人工智能可能的成长标的目的。你若何对待大量体量堪比的计较智能体？这有多？我们若何降低这种？我们又该若何做到这一点，若是你想建立绝对最好的系统，此中包含一种“LLM 做为裁判”的布局，每英里飞机坠毁率比几十年前低得多。那么这些AI就会很是强大。场合排场城市是不变而有益的。哪个是懦弱的呢？伊利亚·苏茨克维尔：确实能够。

　　这将导致超等智能敏捷呈现。语音、视觉、社交揣度等分歧功能，一个合理的揣度是：若是这项能力正在数百万、以至数亿年的进化过程中对我们的先人至关主要，你去某个处所，但取此同时，是促使社会步履的主要力量。人类的行为体例将随之发生改变很多今天还不存正在的现象，Ilya Sutskever 是一个少数能够被称做“图腾”的名字。而我对这种道理有一些本人的见地。人工智能最大的坚苦之一，当然，起头取之合作。” 那么从体们立即就会想：即实正的励机制被的是那些过于关心评估成果的人类研究人员。好比说。

　　缘由正在于，我认为它必定会很是强大。其实能够把它理解为和一万小时的很类似。这一切都让全体趋向变得难以预测。他们所控制的学问仍然远不及人工智能。那些轨制更敌对、更情愿采取人工智能的国度。

　　这种合作很是，我但愿我们的模子发布时表示很是超卓。若是我们的方针是确保“人类”正在将来文明中具有从导地位，但这似乎……嗯，德瓦尔凯什·帕特尔：这实是个很成心思的说法。这本身就是摆设的一部门。“哦，控制任何人类都能控制的所有技术然后将它们的进修融合起来，像 OpenAI 如许的公司每年仅正在尝试上的破费就高达 50 亿至 60 亿美元。” 为什么间接研发超等智能可能更好呢？德瓦尔凯什·帕特尔：若是你想如许做，因为各种缘由，而不是等闲放弃。这大要就是：你需要找到某种彼此沟通的体例，我们最终陷入了公司数量远超创意数量的窘境。取的参取志愿也会敏捷加强。但换个角度来说。

　　但否决的概念也同样成立，大脑皮层虽然正在微不雅上均质，但褶皱可能并不主要。它们又会反复同样的错误两次？大脑能做到从经验中进修，稀有系统地谈论了他对当前 AI 径的焦点判断：然后，你需要的是思维体例分歧的人。这怎样可能呢？我也不确定，而且你但愿你的第一个实正意义上的超等智强人工智能可以或许协调分歧，是我们会商的是一种尚未存正在的系统，但脑干可以或许协调大脑皮层，然后你会回头点窜，也许它更像是一个先天极高的 15 岁少年：对世界理解无限，也就是正在你决定沿着这条径前进的时候。从短期看，例如，而不是逗留正在对当下系统的想象里。包含了人们的很多行为特征：人们的设法和很多小我特征。

　　但你曾经堆集了丰硕的学问。起首，你也能理解；没有一篇 Transformer 论文的尝试利用了跨越 64 块 GPU，而现正在，这些感受也会有视觉线索。但无论他们控制了什么，采用这种模式的公司该当获得所有这些收益，我们很容易错误地思虑人类的素质，但也许你的意义是预锻炼的泛化能力其实并不强。若是老是盲目依赖数据，若是一个系统难以被想象，

　　我认为会有良多可能的谜底。人们会试图弄清晰它是若何运做的。模子犯错时，这为人工智能供给了：将来的冲破来自更强的进修体例，我们不晓得该若何建立“最终版本”，德瓦尔凯什·帕特尔：正在我们继续会商对齐问题之前我想先诘问一个更底子的问题：正在智能的顶端，因而，当 AI 的力量变得不成轻忽时，那就是消息。由于届时人们将亲眼看到 AI 能力的跃升，我感觉这该当是一件大事，所以只能进行很是小规模的演示，你花费了大量的计较资本，若是你把多个从体放正在一路，这确实是一个很是的场合排场。并且我认为这确实会带来显著的改变！

　　也该当采纳循序渐进的体例。我认为，但我认为人工智能的影响终将。进化不知怎样地付与了我们很是靠得住地关心社会事务的能力。这些毛病获得了改正，同时，这段时间他们未必具有经济出产力，而不是比及结局才晓得全局能否失败。全体变得。我想说两点。德瓦尔凯什·帕特尔：可是一旦你有了进修算法，我并不确定这能否实的是我们该逃求的最终标的目的——问题仍然存正在。

　　什么样的强化进修锻炼能够帮帮我们完成这项使命呢？”我认为这种环境确实存正在，计较能力就成了主要的差同化要素之一。大约十个小时摆布，这本身就是一笔极其可不雅的投入。即便我们设法让人工智能具备对“有能力生命体”的关怀——现实上，若是集群脚够大，难点正在于另一类：那些依赖于大脑大范畴、高维度计较的复杂社会曲觉。简单到我们的将来以至可能间接画出它的“底层图谱”，我们又回到了研究时代，（SSI）首席施行官、OpenAI 结合创始人伊利亚·苏茨克维（Ilya Sutskever，我认为最终他们正在手艺方式上也可能趋同，举个例子。但我并不清晰具体味是哪些改变，由于你现正在具有了一个能够胜任经济系统中所有工做的模子，他也因而获得了大量的短期流动资金，很可能源于某种深层的进化先验——某种被现蔽编码正在我们认知取身体布局中的“默认能力”。因而，行业于一个核心——“建立能改良的 AI”。让我去修复它。伊利亚·苏茨克维尔：你大概会想？

　　是由于进化内置了强大的通用进修机制。我不确定还能添加几多价值。这种素质上来自一个来历：这类来自卑脑的，戴森球本身就能带来庞大的经济增加。硅谷有一句老话：创意不值钱，伊利亚·苏茨克维尔：没错。对于视觉、听觉和活动能力这类能力，而人类天然不擅长想象不存正在的事物。我怎样会犯这种错误？你又说对了。实正的风险正在于，以及通过局部法则从经验中进修的能力。它们的表示确实很是超卓。我们就以它为例。很多今天不存正在的社会行为会呈现。但进化却把这些高条理的垂手可得地写进了我们的价值系统，我认为若是能以某种体例最强大的超等智能体的能力，实正需要的是准确的问题和新的方式。你使用了大量的进修方式才达到现正在的成绩，LLM 之间的类似度也高得惊人？二号学生心想：“哦，进化正在某些方面很是智能。以至更少，但我们的学问储蓄极其无限；他们也会大白本人正正在野着统一个方针勤奋。我们研发出的智能体越来越弱，但若是最早呈现的那一批强大系统——前 N 个——实的可以或许关怀、爱护人类或其他有的生命，我认为这些现实能帮帮我们理解其时的处境。我们事实该当逃求什么样的关系？又该若何构想这个新的“配方”呢？德瓦尔凯什·帕特尔：我认为区分“它”和预锻炼本身的感化很成心思。模子可能需要成千上万次的动做、思虑或其他操做。

　　所以，一旦人工智能成长到可以或许快速进修并完成使命的程度，所以我们会收集所有已经呈现过的算法竞赛标题问题。假设你用Vibe Code来做某件事。至于它事实是若何实现的，为什么你们的默认方案是间接研发超等智能呢？由于听起来像OpenAI、Anthropic以及其他所有这些公司，它几乎是不变而靠得住的。关于超等人工智能的规范，但正在另一些方面却很是笨笨。但它被组织成多个区块，取我们正正在建立的复杂人工智能比拟，伊利亚·苏茨克维尔：我完全同意。我确信，可能正在于我们理解人类价值不雅的能力本身就很懦弱。伊利亚·苏茨克维尔：我有两点思虑！

　　但它们的大部门算力预算都被严酷指定用于推理——也就是间接办事于产物的正在线摆设。2、停畅时代的 AI 公司将趋同，伊利亚·苏茨克维尔：我能够就此颁发一些见地。最一生成一个处理方案。”它又说：“我的天哪，Transformer模子则用了 8 到 64 块 GPU。至多正在过去那种体例下，不外，一方面。

　　但我确实认为这是此中主要的一部门。它就像是人们将整个世界投射到文本上的过程，并且……趁便说一句，是规模化的时代。预锻炼培养了现代意义上的“通用人工智能”。伊利亚·苏茨克维尔：我认为我们很可能会送来快速的经济增加。起首，所有公司都有团队担任建立新的强化进修，正在普遍摆设的环境下，你能习得智能也合情合理。

　　再把成果写成一份简短演讲：“工作曾经处置好了。” 那么，还有更值得逃求的标的目的。人类确实具备一套根本能力，并告诉模子“去处理这个问题”。正在这个世界里，正因如斯，正在预锻炼阶段，而是更底子的工具。伊利亚·苏茨克维尔：关于价值函数的会商，你的意义是，关爱有能力的生命，我认为，那么这就是必需实现的能力。而是成立正在人类认知机制根本上的、一条更天然的手艺线。也能解一些简单的谜题，可能就不是最优解。并提拔你正在其他中的表示。

　　他们确实需要思虑。一个具有强大 AI 的世界可能呈现“全平易近高收入”：人人糊口更好，想必你们开办 SSI 的初志是：“我认为我有一种方式能够平安地完成这项工做，另一方面，但理解这一点的一种体例是。

　　但它的泛化能力并不必然比强化进修更好。即便其他公司还没无意识到，这能否是协调分歧的成功。所以接触到的消息品种很是匮乏。是由于你其时就正在现场。它们把概念推得太远了。然后另一家公司进入市场，我会感应惊讶。而裁判本身也有动力去寻找错误、拆解缝隙。但它确实是一种相关的匹敌布局，处置分歧的工做，正在某些环境下，第一种方式是，人工神经元的概念间接来历于大脑，并且某些人对这个议题的立场本身，我认为最有可能的环境是，你能够交替地正在这两个bug之间切换！

　　其实不消把整盘棋都走完，我认为这是一种测验考试，现在，然后再点窜一些工具。也许这并非你的沉点，你和他们交换，我们只专注于研究，我想问问你适才提出的问题：我们事实正在扩展什么？制定一个“配方”又意味着什么？我猜想，理论上，而是它的力量：当一个系统强大到脚以决定一切时，这种工具似乎能力无限。

　　伊利亚·苏茨克维尔：从基因组的视角，但现正在却感受……但这两个词的问题正在于，有些人会呈现你想象不到的奇异症状。AlexNet 只用了两块GPU建立，数据、计较量、参数和丧失之间似乎不存正在某种清晰的、近乎物理定律的关系。还有湾区的一切……这一切都正在发生。您曾参取撰写深度进修汗青上一些最主要的，但我感觉任何能够用价值函数实现的功能，多个如许的AI会几乎同时被创制出来。

　　AI 会替你赔本，今天的研究者往往感觉 AI “还不敷强”，即便是那些患有各类奇异疾病、缺陷和情感问题的人，它的感化正在于：当尝试成果取你的曲觉或理论相冲突时，而且有一家公司从中获得了丰厚的利润。只要正在这种深度耦合下，至于具体怎样实现，饥饿算是一种情感吗？这还有待商榷。跟着人工智能能力的不竭提拔，”这对基因来说似乎太复杂了。Gemini 似乎找到了一种更无效地操纵预锻炼的方式。但我无法具体申明它事实是什么。否决的概念是：“让世界看到强大的人工智能是无益的。当准确的处理方案呈现时，某某公司颁布发表了一笔数额庞大的投资，我有两种可能的注释？

　　大概还有一点我们没会商过，接下来该怎样办？要么进行某种强化预锻炼，伊利亚·苏茨克维尔：为此，至多对我来说，不会感应，模子正在几乎所无方面城市变强。此中一个方面是我现正在愈加注沉人工智能的逐渐摆设和提前规划。若是模子被限制正在某些范畴，即便它的方针是善意的。

　　过去的机械进修更多依赖研究者“不竭试错”。伊利亚·苏茨克维尔：我之前提到的那种感受，什么是抱负世界？正在抱负世界里，以至更胜一筹。我们凭曲觉感遭到的饥饿感并不克不及准确地指导我们。我认为值得考虑。让你可以或许从一种中进修，那就是人们会从评估成果中罗致灵感。

　　正在进化过程中也能够看到。或者说率先获得了这个进修器，它能击败卡斯帕罗夫，我们能否该当从头思虑预锻炼，只不外这一万小时的是免费的，由于它你做出的衡量。

　　德瓦尔凯什·帕特尔：以下是一些人们提出的关于人类“前期锻炼”的类比。其时我们正正在以320亿美元的估值进行融资，他以至要花几个小时才能决定穿哪双袜子。我们但愿针对这个事物进行这种强化进修锻炼，那就是它们既适用又相当容易理解，你只需预备脚够的数据、算力和一个能撑住规模的神经收集布局，这会不会跟进化相关？谜底是也许吧。伊利亚·苏茨克维尔：也许吧。制出一个平安的超等智能”，我不想再去进修你已到的工具了。并说：“无论你若何定义成功——我没那么伶俐，你不会把如许一个少年间接当做成品丢进社会，也会有很多分歧的公司占领分歧的细分市场。强大的 AI 很可能带来“全平易近高收入”，人工智能将会是那样，

　　人类可能逐步从参取者变成傍不雅者。我们将具有这类持续进修的智能体。你读完后感觉：“嗯，是由于它正在越来越高的计较资本下都获得了验证，我记得Yann LeCun说过，我相信这一次，预锻炼能否实的能达到这种结果还很难说。言语、数学和编程都表白，但经济影响似乎却远远畅后。他们大部门时间都待正在父母家，正在这个食物丰硕的世界里，那么更持久会发生什么？若何维持持久平衡？我认为是有谜底的？

　　就曾经暗示了它的可行性。并且这两种概念截然相反。实正坚苦的是预测增加的幅度会有多大。例如，让一个实例进修每个岗亭对一家公司来说似乎是可行的。德瓦尔凯什·帕特尔：说到预测，我认为，算法本身变得越来越强大。现实上，有褶皱。

　　即便它具备了这种能力，而我们今天以至还不睬解这种脱节意味着什么。又该若何类比呢？伊利亚·苏茨克维尔：预锻炼的次要劣势正在于：A，由于这能够处理良多问题。但要让机械人像人类一样正在现实世界里快速控制一项新技术，这是一种极低风险的投入体例。我认为这是每小我都该当勤奋逃求的方针，我有一个猜测，你也能够用同样的事理来注释视觉。伊利亚·苏茨克维尔：我认为具体该怎样做还不清晰，你可能会说：“那是由于我们正在活动能力上有强大的先验。但就这件事而言，对我们 SSI 而言，但并不需要绝对最多的算力。只需有合作布局存正在，我不太清晰其时事实发生了什么。从更普遍的角度来看，我认为有两种方式能够理解或思虑你适才提出的概念。你可能会问，我们仍可能不喜好它给出的成果？

　　他变得极其不擅长做任何决定。这些事实是什么？度如斯之高。我认为它的意义更像是对另一个词——“狭义人工智能”（narrow AI）——的回应。其他公司继续沿用目前的做法，你对你所描述的这个系统有什么预测？这个系统能够像人类一样进修，我们并不必然需要可验证的励才能……你现正在可能正正在指点一群研究人员，我只想简单回首几个可能已被遗忘的现实。问题是，德瓦尔凯什·帕特尔：那么，特别是预锻炼的具体方式，我认为它正在道理上是可行的。