对话OpenAI科学家：iPhone时刻还没有到来

文章转载来源：AI之势

来源：经济观察报

作者：陈白

导读

壹  ||我认为一种不受目标驱动的探索方式确实是可以培养的。我们中的许多人是在自然地喜欢追求自己的兴趣，但通常我们只是害怕后果。

贰  ||有些技术趋势只是短暂的潮流，而有些则是真正的革命。在它们的周期初期，很难判断哪个是、哪个不是。但我认为，人工智能最有潜力成为真正的革命，但区块链和元宇宙也在等待它们的“奇点时刻”。

叁  ||  基础和应用研究之间的区别在学术界和产业界都经常被讨论。显然，两者都有好处，关键是找到合适的平衡点。

“在你规划之际，生活已经悄然前行。”

来自约翰·列侬写给自己孩子的这句经典歌词，被置于了肯尼斯·斯坦利和乔尔·雷曼的《为什么伟大不能被计划》一书的显著位置。

肯尼斯·斯坦利（Kenneth Stanley）和乔尔·雷曼（Joel Lehman）是目前享誉全球的创业公司OpenAI科学家，在加入OpenAI之前，他们就已经是行业内知名的硅谷技术大牛，我们对话的肯尼斯·斯坦利，还曾经是Uber人工智能实验室的创始成员。近期他选择投身创业，正在建立一个开放式的、专注于偶然性的名为Maven的社交网络。

ChatGPT对肯尼斯·斯坦利的介绍是，在进化计算领域做出了重要贡献，他所提出的“踏脚石模型”（Stepping Stone Model），用于解释创新和发现的过程。他的研究涉及创造性的智能系统、神经进化、遗传算法等领域，对人工智能领域的发展有着深远的影响。是人工智能和进化计算领域的杰出学者。

可正是这样一位学者，他的方法论却是“无目标者的胜利”。在他看来，从最早的大航海探索到后来的蒸汽革命、电力革命、互联网革命，再到最近如火如荼的ChatGPT人工智能革命，这些重要的发明创造，背后都没有什么“计划委员会”，“真正的伟大是计划不出来的，跟着好奇心一步一步走，才是成就非凡的正确路径。”

当我们向肯尼斯·斯坦利提问什么是他眼中的伟大时，他向我们列举了我们意料之内的许多工业品，比如“第一台电话”、“第一台飞机”、“第一台iPhone”，但随后在我们意料之外的回答是，“摇滚乐（rock and roll）是非常伟大的发明。”在他眼里，摇滚乐和第一台iPhone是并列的关系。

对话中的另一则意外，是中国市场已经掀起“百模大战”，作为人工智能领域最前沿学者的 他，对此并无了解。他说，“我们需要评估它们在技术前沿或创新方面的程度，而不仅仅是追随技术前沿。”

当我们问及他的模型能否能够用于理解经济时，他显得谦逊，“我希望这个概念对他们来说会有新的启发。在价值创造的解释中，最终存在着一个开放式、生成式的过程，可以用‘踏脚石模型’和‘寻宝者’的概念来解释。这些元素积累和启发得越多，创新和发现就会越多。”

那么究竟如何才能够“解开禁锢创新的枷锁”，肯尼斯·斯坦利和他的同伴的总结是，几乎人类所有伟大的成就都不是源于可被计划的目标，我们需要允许偶然性在进化中发挥作用的力量。

这个概念似乎能从本轮生成式AI的技术逻辑底层——“涌现”——中找到共鸣。大模型的推理能力，不是科学家们计划出来的，相反是在足够的尝试和数据支持下自然生发出来的。

创新从未如同今天这样被重视。科技是第一生产力、人才是第一资源、创新是第一动力，这些表述在主流叙事中被反复提及。而在产业端，一些新的颠覆式变革似乎也在接踵而至。从年初的生成式AI再到近期的室温超导狂欢，都可以见到人们对于颠覆式创新的渴望——当全球经济进入上一轮技术红利周期的尾部，所有人都在渴望着新的像iPhone那样的现象级产品，能够带领我们进入一个技术红利的大爆炸时刻。

肯尼斯·斯坦利认为，“如今还没有到iPhone时刻，但可能很快就会出现。”

不预设既定的目标、而是把探索的过程视为寻找珍宝的旅途，这是肯尼斯·斯坦利所提出的另外一个模型。而这样一个寻找科学皇冠上珍宝的发现之旅，或许也同样适合用肯尼斯他们所热衷引用的约翰·列侬的歌曲吟唱来总结：

我想我们都需要有足够的耐心，因为这还有漫长的道路需要前行。（ I guess we‘ll both just have to be patient ’Cause it‘s a long way to go）

对话：

创新的涌现

经济观察报：人类历史上什么样的产品或发明可以称为伟大？

Kenneth Stanley：人类历史上有许多我认为是伟大的产品和发明。可以举一些简单例子，比如第一台数字计算机、第一架飞机、第一部电话和第一部iPhone的诞生。

但我觉得，也有一些伟大的发明与技术无关。例如，我觉得摇滚乐是一个伟大的发明，古典音乐也是如此。

经济观察报：在这本书中提到了“无目标者的胜利”。无目标的认知和行为模式可以被广泛复制吗？

Kenneth Stanley：无目标或者说缺乏目标，我认为并不意味着缺乏动力。相反，它可能意味着被其他东西驱动，比如趣味性。也就是说，我可能非常有动力去追求我的兴趣，即使我不知道它们会通向何处。

而且，即使我没有具体目标，我也可以拥有强烈的价值观，比如说珍视内心的好奇心，或者是善良本身。因此，我认为一个人是否有强烈的自我或价值观与其是否客观上有动力是两个不同的问题。

我认为一种不受目标驱动的探索方式确实是可以培养的。我们中的许多人是在自然地喜欢追求自己的兴趣，但通常我们只是害怕后果。如何减少对于没有目标的恐惧，找到探索本身的勇气，我认为经过培养或者说锻炼之后，对任何人来说都是可能的，尽管它的难易程度会因个性而异。

经济观察报：当新事物出现时，监管力量也会出现。如何监管创新？

Kenneth Stanley：我认为即便是监管，也不一定要以目标为导向。对于我自己来说，我会区分目标和约束。目标是你想要达到的地方，约束是你不被允许去的地方。我可以在没有目标的情况下探索世界，但仍然受到约束的限制。

例如，我可以在城市的高速公路和街道上开车，随意去任何地方，即使我没有明确的目的地，但我仍受到禁止我开车离开道路进入人行道的规则的限制。这是一个合理的约束（即一种规定），但我仍然可以在受到约束的情况下无目标地探索。

经济观察报：涌现正变成一个流行词。这是否可以被视为人工智能带来的一种观？

Kenneth Stanley：涌现这个词似乎对不同的人有不同的意思，并且当人们在它的含义上存在分歧时，也会引起争议。

如果我们简单地将涌现理解为指某种结果超出了我们预测的过程，那么当然我们在人工智能系统（如LLMs的诞生）中看到了这种情况，即使有些人可能不会称其为涌现。无论我们如何称呼它，它确实在某些系统中发生，当它发生时非常有趣，但我不确定是否应该将其称为一种新的世界观。毕竟，几十年来，涌现一直在不同的阶段中流行，所以它并不是新的。它更多可能是可以作为我们理解当下的一些背景。

iPhone时刻还没到来

经济观察报：一些人将生成式人工智能取得的进展类比为iPhone时刻。你同意吗？

Kenneth Stanley：我认为还没有到iPhone时刻，但可能很快就会出现。因为我们回过头来看iPhone这款产品，会发现它不仅仅是许多人感兴趣的东西，实际上它对他们的日常活动非常重要。生成式人工智能无疑已经席卷了世界，的确一些人每天都在使用它，但我认为我们仍然处于探索阶段，正在弄清楚我们如何个体地使用它。如果我们都找到了一个非常强烈的理由去随时使用它，那应该将会是iPhone时刻。

经济观察报：从区块链到元宇宙再到现在的人工智能，你认为这次技术革命与过去有何不同？

Kenneth Stanley：有些技术趋势只是短暂的潮流，而有些则是真正的革命。在它们的周期初期，很难判断哪个是、哪个不是。但我认为，人工智能最有潜力成为真正的革命，但区块链和元宇宙也在等待它们的“奇点时刻”。

因此，这些技术中可能有些并不像预期的那样具有革命性，但其他一些可能会有，这样它们就不会相同。不过，目前来看，我认为确定所有这些事物的发展方向还为时过早。如果我必须猜测，我会猜测人工智能是最有前途的，但这并不意味着其他领域没有前途。

中国AI，他山之石

经济观察报：你对中国人工智能产业的发展了解吗？在ChatGPT之后，中国在六个月内发布了100多个大模型，如何看待这种变化？

Kenneth Stanley：我并不知道中国市场在六个月内发布了超过100个大模型的情况。关于我对这一趋势的看法，我认为这体现了中国致力于成为这一技术领域的重要贡献者。

当你发布超过100个大模型时，人们显然是认真在对待这件事情。不过，我不知道的是，这些模型的质量如何。要真正了解或预测突然集结资源的长期影响，我们需要评估它们在技术前沿或创新方面的程度，而不仅仅是追随技术前沿。

我对来自中国的这些模型没有足够的了解，但因为发布了这么多模型，很可能其中有一些非常有趣和独特的地方。

经济观察报：近年来，中国经常讨论基础研究创新和应用创新之间的区别。而中国庞大的市场规模常被视为应用创新的竞争优势。你如何看待基础研究创新和应用创新？

Kenneth Stanley：基础和应用研究之间的区别在学术界和产业界都经常被讨论。显然，两者都有好处，关键是找到合适的平衡点。不同的组织可能从不同的平衡中受益。例如，政府可能会大力投资基础研究，而一些公司可能会更多地投资应用研究。然而，其他公司可能会认为大力投资基础研究很重要。

总的来说，我认为可以说一点：基础研究是两者中更加微妙的、也是最容易出错的。因此，基础研究需要特别的关怀和保护，以确保它得到真正的支持。有时，从事基础研究的人员需要一种方式来获得支持，即使他们不能明确陈述一个定义明确的目标（这与我们书中的想法相关）。

经济观察报：对于“集中力量办大事”这种路径，你怎么看？

Kenneth Stanley：正如之前的回答中所述，我认为一些资源需要分配给没有明确目标的事业，但这恰恰是最困难的问题。

大多数经理、领导者和决策者害怕支持尚无明确测量或预测的事物。然而，这些领域往往才是带来最大突破的活动。

因此，真正的问题在于如何将资源分配到没有明确结果的事物上？这个问题的答案是，你必须能够讨论有趣性，这使得许多人感到不适，因为它是主观的。也就是说在我看来，投资于目的不明确的一件事的原因，首先应该是它足够有趣！但是要理解为什么有趣，需要进行主观的、充分地自由讨论。