整理:推特账号“@GPTDAOCN”
最近，OpenAI的联合创始人Andrej Karpathy在一次开发者活动上发表了一个简短的演讲，谈了他自己和OpenAI内部对AI智能体的看法。
Andrej Karpathy将过去开发AI Agent的困难与新技术工具下开发的新机遇进行了比较。他还不忘嘲讽自己在特斯拉的工作“被自动驾驶分散了注意力”。他认为自动驾驶和VR都是不好的AI代理的例子。
对于新的机会，Andrej Karpathy认为是时候再次回到神经科学，并从中寻求灵感了——就像深度学习早期发生的那样。
另一方面，Andrej Karpathy认为普通人、企业家和极客比OpenAI这样的公司在构建AI智能体方面更有优势。大家目前都是平等竞争的状态，所以很期待看到这方面的结果。
以下是本次分享的全文:
大家好。我被邀请就AI智能体这个话题说一些鼓舞人心的话。
我觉得AI特工在某种程度上和我有着密切的关系。我先说一个故事。这是OpenAI非常早期的故事。当时OpenAI大概只有十几个人。2016年左右，当时的趋势其实是RL代理(强化学习的人)。大家对建立* *人很感兴趣，但当时主要是以游戏为主，人们的兴奋点围绕着雅达利这样的游戏公司。当时，我在OpenAI的项目试图专注于使用带键盘和鼠标的计算机而不是游戏的RL代理。我想让它们更有用，可以做很多工作。这个项目叫做比特世界。我和几个同事终于发表了一篇论文。
这不是一篇很惊艳的论文，因为它实际上是基于RL强化学习方法。我们的网页非常简单，允许人们预订机票或订购一些食物等等。这一切显然是不可行的，因为技术还没有准备好，当时做这些事情是不明智的。事实证明，我们应该彻底忘掉AI智能体，做一个语言模型。
五年后我们回到这里，期间我被自动驾驶分散了注意力，但现在AI Agents又酷了，我们的工具箱完全不同了，我们处理这些问题的方式也完全不同了。其实你们都在研究AI智能体，只是不一定用什么强化学习的方法。这太疯狂了。我不认为我们会预见到这一点。这简直太有趣了。
我先花点时间说说为什么AI智能体这么受欢迎。我认为很明显，对于许多人来说，AGI(通用人工智能)将充分利用人工智能代理的能力，不是一个，而是许多。也许会出现一个数字实体的组织或者文明，我觉得这很鼓舞人心，甚至有点疯狂。不过，我也想对此泼点冷水。我觉得有一大类问题很容易想象，很容易搭建和演示，但实际上很难做出产品。很多东西都属于这一类，比如我觉得自动驾驶就是一个例子。
自动驾驶很容易想象，很容易建立一个汽车绕街区行驶的演示，但要把它变成一个产品需要十年时间。同样的道理，我觉得VR也是一样的，要十年才能做好。
我觉得AI智能体在某种程度上也是如此。它的场景很容易想象，很刺激，但我觉得如果参与其中，就要投入十年的时间让它真正发挥作用。
我想说的另一件事是，我认为回到神经科学，从某些方面再次从中获得灵感是非常有趣的。深度学习的早期阶段受到了神经科学的启发。思考它们之间的关系是非常有趣的，尤其是我认为许多人将语言模型视为解决方案的一部分，但如何建立一个完整的具有人类所有认知能力的数字实体？显然，我们都认为我们需要某种潜在的系统来计划、思考和反思我们正在做的事情，这就是神经科学发挥作用的地方。
比如海马体就很重要。AI智能体中的什么起着海马体的作用，海马体是用来储存记忆，标记提取等等的？我们已经大致了解了视觉和听觉皮层是如何构建的，但还有很多东西我们不知道它在AI智能体中意味着什么。比如AI智能体里的视觉游戏是什么样子的？在人工智能代理中，潜意识-丘脑的位置相当于什么？这很有意思。
其实我今天带了一本关于神经科学的书，大卫·伊格尔曼的《大脑与行为》，我觉得很有意思，很有启发。从神经科学中汲取一些有趣的灵感，就像我们早期设计单个神经元时所做的那样，也许我们今天应该再做一次。
最后，我想以一些鼓励的话来结束。一个有趣但并不明显的是，你构建的AI智能体(指现场观众)其实是当代AI智能体能力的最前沿。我怀疑OpenAI、DeFi等大型LLM机构都是走在前列的。你在最前线。
比如OpenAI就很擅长训练变压器大语言模型。如果一篇论文提出了不一样的训练方法，那么OpenAI内部Slack小组的讨论就类似于，哦对了，有人尝试了两年半，都没效果。我们非常了解这种方法的来龙去脉。但是当新的AI Agents论文出来的时候，我们都非常感兴趣，认为它非常酷，因为我们的团队没有花五年时间在上面，我们并不比你们知道得更多，我们是在和你们所有人竞争。这就是为什么我认为你处于人工智能代理能力的最前沿。
本网站声明:网站内容来源于网络。如有侵权，请联系我们，我们会及时处理。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"OpenAI联合创始人Karpathy分享：AI代理可能要10年才能真正发挥作用"：http://www.guoyinggangguan.com/qkl/141572.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
