据BI报道,安德烈·卡帕西 (Andrej Karpathy) 认为,即使在快速发展的人工智能世界中,耐心仍然是一种美德。
OpenAI 联合创始人、氛围编码热潮的实际领导者上周出现在 Dwarkesh Podcast 上,谈论我们距离开发功能性人工智能代理还有多远。
“它们根本行不通。它们智力不足,多模态能力不足,无法使用计算机等等,”目前正在尤里卡实验室开发人工智能原生学校的卡帕西说道。“它们没有持续学习的能力。你不可能只告诉它们一些东西,它们就能记住。它们缺乏认知能力,根本行不通。”
他补充道:“解决所有这些问题大约需要十年时间。”
人工智能代理是人工智能领域最受关注的创新之一,许多投资者将2025年称为“人工智能代理之年”。虽然定义各不相同,但人工智能代理是指能够自主完成任务的虚拟助手——能够分解问题、制定计划,并在无需用户提示的情况下采取行动。
Karpathy 以语速飞快而闻名。因此,他为那些无法理解他所有言论的听众在 X 上写了一篇后续文章。谈到经纪人,他再次表达了自己之前的沮丧。
他写道:“我对这个行业的批评更多的是在于工具相对于现有能力的过度开发。这个行业的未来是,完全自主的实体并行协作编写所有代码,而人类将毫无用处。”
他不想住在那里。
他写道:“我希望它能提取 API 文档,并向我展示它使用的正确性。我希望它少一些假设,并在我不确定的时候主动咨询/协助我。我希望在开发过程中不断学习,成为一名更优秀的程序员,而不是仅仅得到一堆别人告诉我能用的代码。”
他说,构建使人类变得无用的代理的弊端是,人类也将变得无用,而人工智能“垃圾”,即人工智能生成的低质量内容,将变得无处不在。
Karpathy 并不是唯一一个对人工智能代理的功能表示担忧的人。
ScaleAI 增长主管 Quintin Au 去年在 LinkedIn 上发表的一篇文章中谈到,代理所犯的错误是如何随着他们承担的每项额外任务而加剧的。
他在领英上的一篇文章中写道:“目前,人工智能每次执行操作时,大约有 20% 的概率出错(这就是 LLM 的工作原理,我们不能指望 100% 的准确率)。如果一个代理需要完成 5 个操作才能完成一项任务,那么它每一步都正确的概率只有 32%。”
尽管对人工智能代理的现状持怀疑态度,但 Karpathy 表示他并不是一名人工智能怀疑论者。
他说:“相对于你在旧金山社区 AI 家庭聚会或推特时间线上看到的情况,我对 AI 的时间线持悲观态度,大概是 5 到 10 倍;但对于 AI 否认者和怀疑论者日益增多的情况,我仍然持乐观态度。”(鞭牛士、AI普瑞斯编译)