查看原文
其他

Gary Marcus公开喊话Hinton、马斯克:深度学习就是撞墙了,我赌十万美金

返朴 2023-02-01

The following article is from 机器之心 Author Synced


点击上方蓝字“返朴”进入主页,可关注查阅往期文章


2029 年实现 AGI ? Gary Marcus:不可能,我赌十万美金。


撰文 | Synced编辑 | 蛋酱、小舟

「如果有人说(深度学习)撞墙了,那么他们只需列出一张清单,列出深度学习无法做到的事情。5 年后,我们就能证明深度学习做到了。」


6 月 1 日,深居简出的 Geoffrey Hinton 老爷子做客 UC 伯克利教授 Pieter Abbeel 的播客节目,俩人进行了长达 90 分钟的对谈,从 Masked auto-encoders、AlexNet 聊到脉冲神经网络等等。



在节目里,Hinton 明确对「深度学习撞墙了」这个观点发起质疑。


「深度学习撞墙了」这个说法,来自知名 AI 学者 Gary Marcus 三月份的一篇文章。准确地说,他认为「纯粹的端到端深度学习」差不多走到尽头了,整个 AI 领域必须要寻找新出路。


出路在哪儿?按照 Gary Marcus 的想法,符号处理将大有前途。不过这个观点一向没有受到学术界的重视,之前 Hinton 甚至说过:「在符号处理方法上的任何投资都是一个巨大的错误。」


Hinton 在播客里的公开「反驳」显然引起了 Gary Marcus 的注意。


就在十几个小时前,Gary Marcus 在推特上发出了一封给 Geoffrey Hinton 的公开信:



信里是这么说的:「我注意到,Geoffrey Hinton 正在寻找一些挑战性的目标。在 Ernie Davis 的帮助下,我确实已经写下了这样一个清单,上周我还向马斯克发出了一个 100000 美元的赌约。」


这里又有马斯克什么事?原因还要从 5 月底的一条推特说起。






与马斯克的十万美金赌约


一直以来,人们所理解的 AGI 是太空漫游(HAL)和钢铁侠(JARVIS)等电影中描述的那种 AI。与当前为特定任务训练的 AI 不同,AGI 更像人脑,可以学习如何完成任务。


大多数专家认为 AGI 需要几十年才能实现,而有些人甚至认为这个目标永远不可能实现。在对该领域专家的调查中,预估到 2099 年将有 50% 的机会实现 AGI。


相比之下,马斯克显得更加乐观,甚至在推特上公开表达:「2029 年是关键的一年,如果那时我们还没有实现 AGI,我会感到惊讶。希望火星上的人们也是如此。」



表示并不认同的 Gary Marcus 很快反问:「你愿意赌多少钱?」



虽然马斯克并没有回复这条提问,但 Gary Marcus 继续表示,可以在 Long Bets 组局,金额是十万美元。


在 Gary Marcus 看来,马斯克的相关观点不大靠谱:「比如你在 2015 年说过,实现完全自动驾驶的汽车还需要两年时间,从那以后,你几乎每年都说一遍同样的话,可现在完全自动驾驶仍未实现。」


他还在博客中写下了五个检验 AGI 是否实现的标准,作为打赌的内容:
  • 2029 年,AI 无法看懂电影然后准确告诉你正在发生的事情(人物是谁、他们的冲突和动机是什么等)

  • 2029 年,AI 无法阅读小说并可靠地回答有关情节、人物、冲突、动机等的问题;

  • 2029 年,AI 无法在任何厨房中担任称职的厨师;

  • 2029 年,AI 无法通过自然语言规范或与非专家用户的交互可靠地构建超过 10000 行的无错误代码(将现有库中的代码粘合在一起不算数)

  • 2029 年,AI 无法从以自然语言编写的数学文献中任意取证,并将其转换为适合符号验证的符号形式。


「这是我的建议,如果你(或任何其他人)在 2029 年设法完成至少三个,就算你赢了。Deal?十万美元如何?」


在更多人的追捧下,这个赌约的金额已经上升到了 50 万美元。不过,截至目前,马斯克再无回复。


Gary Marcus:AGI 并不像你想象的「近在眼前」。


6 月 6 日,Gary Marcus 在《科学美国人》发表文章,重申了自己的观点:AGI 并非近在眼前。



对于普通人来说,人工智能领域似乎正在取得巨大进步。在媒体的报道中:OpenAI 的 DALL-E 2 似乎可以将任何文本转换成图像,GPT-3 无所不知,DeepMind 5 月发布的 Gato 系统在每一项任务上都性能良好......DeepMind 的一位高级管理人员甚至吹嘘已开始寻求通用人工智能 (AGI)、AI 具有与人类一样的智能水平......


别被骗了。机器有一天可能会和人一样聪明,甚至可能更聪明,但远不是现在。要创造真正理解和推理现实世界的机器,还有大量的工作要做。我们现在真正需要的是更少的吹捧姿态和更多的基础研究。


可以肯定的是,人工智能确实在某些方面取得了进步——合成图像看起来越来越逼真,语音识别可以在嘈杂环境中工作——但我们距离通用的人类水平 AI 还有很长的路要走,例如人工智能现在还不能理解文章和视频的真正含义,也不能处理意外障碍和中断。我们仍然面临 AI 多年来一直存在的挑战——让人工智能变得可靠。


以 Gato 为例,给定任务:为投手投掷棒球的图像加上标题,系统返回三个不同的答案:「一名棒球运动员在棒球场上投球」、「一名男子向棒球场上的投手投掷棒球」和「一名棒球运动员在击球,一名接球手在一场棒球比赛」。第一个答案是正确的,而其他两个答案似乎包含图像中看不到的其他球员。这说明 Gato 系统并不知道图像中的实际内容,而是了解大致相似图像的典型内容。任何棒球迷都能看出这是刚刚投球的投手——虽然我们预计附近有接球手和击球手,但他们显然没有出现在图像中。



同样,DALL-E 2 会混淆这两种位置关系:「蓝色立方体顶部的红色立方体」和「红色立方体顶部的蓝色立方体」。类似地,5 月谷歌发布的 Imagen 模型无法区分「宇航员骑马」和「马骑宇航员」。



当 DALL-E 这样的系统出错时,你可能还觉得有些滑稽,但有一些 AI 系统如果出错,就会产生非常严重的问题。例如,一辆自动驾驶的特斯拉最近直接向路中间拿着停车标志的工人开去,人类司机干预后才能减速。该自动驾驶系统可以单独识别人类和停车标志,但遇到两者的不寻常组合时就未能减速。


所以,很不幸,AI 系统仍然不可靠,并且难以迅速适应新环境。


Gato 在 DeepMind 报告的所有任务上都表现出色,但很少能像其他当代系统一样。GPT-3 经常写出流利的散文,但仍然难以掌握基本的算术,而且它对现实的了解太少,很容易产生「一些专家认为吃袜子有助于大脑改变状态」之类令人匪夷所思的句子。


这背后存在的问题是,人工智能领域最大的研究团队不再是学术机构,而是大型科技企业。与大学不同,企业没有公平竞争的动力。他们的新论文没有经过学术审查就通过新闻发布,引导媒体报道,并回避同行评审。我们所获得的信息只是企业本身想让我们知道的事情。


在软件行业,有一个专门的词代表这种商业策略「demoware」,指软件的设计很适合展示,但不一定适合现实世界。


而这样营销的 AI 产品,要么无法顺利发布,要么在现实中一塌糊涂。


深度学习提高了机器识别数据模式的能力,但它存在三大缺陷:学习的模式是肤浅的,而不是概念性的;产生的结果难以解释;很难泛化。正如哈佛计算机科学家 Les Valiant 所指出的:「未来的核心挑战是统一 AI 学习和推理的形式。」


目前,企业追求的是超越基准,而不是创造新的想法,他们用已有的技术勉强进行小幅改进,而不是停下来思考更基本的问题。


我们需要有更多的人询问「如何构建可以同时学习和推理的系统」等基本问题,而不是追求华丽的产品展示。


这场关于 AGI 的争辩远未到达终点,也有其他研究者陆续加入。研究者 Scott Alexander 就在博客中指出,Gary Marcus 是个传奇,过去几年里写的东西或多或少不完全准确,但仍然有其价值。


比如 Gary Marcus 此前曾经批判过 GPT-2 的一些问题,八个月后,GPT-3 诞生时,这些问题都得以解决。但 Gary Marcus 并没有对 GPT-3 留情,甚至写了一篇文章:「OpenAI 的语言生成器不知道它在说什么。」


本质上说,一个观点目前而言是对的:「Gary Marcus 以嘲笑大型语言模型为噱头,但之后这些模型会变得越来越好,如果这个趋势持续下去,AGI 很快就会实现。」


参考链接:

https://youtu.be/2EDP4v-9TUA

https://www.scientificamerican.com/article/artificial-general-intelligence-is-not-as-imminent-as-you-might-think1/

https://substack.com/profile/14807526-gary-marcus?utm_source=author-byline-face


本文经授权转载自微信公众号“机器之心”。


相关阅读

1  专访乔姆斯基:深度学习并没有探寻世界本质

2  深度学习的几何观点

3  图灵奖得主杨立昆:我如何走上人工智能之路丨展卷

4  一路狂飙的人工智能,我们应该如何重新思考它丨展卷

5  通用人工智能的时代已经来临


近期推荐

1  捡垃圾成瘾的老人,也许在努力与疾病搏斗

2  物理学家能预言枪击案吗?

3  癌症为什么会复发、会转移?谜底揭示攻克恶性肿瘤新策略

4  阴谋论为什么长盛不衰?数学有深刻的答案丨展卷

5  “杀死”病毒的六种方法:哪款最适合新冠病毒?


特 别 提 示

1. 进入『返朴』微信公众号底部菜单“精品专栏“,可查阅不同主题系列科普文章。

2. 『返朴』提供按月检索文章功能。关注公众号,回复四位数组成的年份+月份,如“1903”,可获取2019年3月的文章索引,以此类推。


↓↓返朴书单,点击购买↓↓




长按下方图片关注「返朴」,查看更多历史文章

微信实行乱序推送,常点“在看”,可防失联

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存