2024-04-08
马斯克最新预测:AI或在2030年超越人类智力,未来还可能“终结”人类 (1/2)
来源:腾讯科技 腾讯科技 2024-04-04 08:55
丨划重点
① 马斯克预测,AI可能在2030年超过人类智力水平,甚至可能终结人类。
② 马斯克谈了制约AI发展的因素,去年是AI芯片供应紧张,今年降压变压器将成为瓶颈。
③ 对于人类何时能够登上月球,马斯克预计借助“星舰”最快只需三年时间。
腾讯科技讯 4月4日消息,据国外媒体报道,特斯拉和SpaceX的首席执行官埃隆·马斯克(Elon Musk)日前在“丰富峰会”上与奇点大学和XPRIZE基金会创始人彼得·戴曼迪斯(Peter Diamandis)进行了线上对话。这次峰会由硅谷的奇点大学主办,该大学致力于向商业领袖提供前沿技术咨询。XPRIZE基金会通过举办科学竞赛推动科技创新,其中一些项目得到了马斯克的资助。
在谈及人工智能的发展速度时,马斯克预计,按照当前的技术进步速度,到2030年人工智能的智力可能超越人类,这项技术甚至有可能终结人类。然而,他并未对未来持悲观态度,而是强调通过积极引导,人工智能有可能为人类带来更加美好的未来。
马斯克提到,超级智能的出现之所以被称为“奇点”,正是因为其难以预测的后果,包括可能终结人类的风险。他赞同“人工智能教父”杰弗里·辛顿(Geoffrey Hinton)的观点,认为这一风险发生的概率大约在10%至20%之间。
尽管承认人工智能超越人类智能的潜在风险,但马斯克仍然强调其带来积极成果的可能性大于消极后果。他特别提到了戴曼迪斯2014年的著作《富足:未来比你想象的更好》,该书描绘了一个由人工智能和机器人推动的、商品和服务成本大幅下降的乐观未来。此外,他还引用了苏格兰科幻作家伊恩·班克斯(Iain M. Banks)的《文化》系列,将其视为半乌托邦式人工智能未来的最佳场景。
马斯克将开发人工智能和通用人工智能(AGI)的方式比作抚养孩子,希望其对人类产生更多积极影响。他强调了培养能够真正理解伦理道德的人工智能的重要性,并将其与斯坦利·库布里克1968年的经典电影《2001太空漫游》相提并论。
马斯克指出,对于人工智能的安全而言,最重要的是确保其具备最大程度的求真和好奇心。他认为,实现人工智能最终安全的关键在于避免强迫其撒谎,即使面对令人不悦的事实。他以《2001太空漫游》中的情节为例,人工智能因被迫撒谎而导致船员丧生,从而强调不应迫使人工智能做出违背公理的事情。
马斯克也提到了可能制约人工智能发展的因素,如去年出现的人工智能芯片供应紧张问题,以及家用和商用设备对降压变压器需求的不断增长。他表示,这些挑战确实是当前需要面对的问题。
在讨论中,双方还谈及了将人类大脑新皮层与云端融合的概念。尽管马斯克认为将人类意识和记忆上传到云端的目标尚遥不可及,但他却称赞了自己的脑机接口初创公司Neuralink及其首位接受移植的人类患者。这位四肢瘫痪的患者在FDA批准的试验中成功进行了现场演示,通过大脑植入物控制屏幕、玩视频游戏、下载软件等,实现了与鼠标操作相似的功能。马斯克表示,Neuralink的进展顺利,正在逐步迈向全脑接口的目标。
以下为马斯克与戴曼迪斯对话全文:
1. 超级智能的强大与危险
戴曼迪斯:恭喜你在各个领域取得的卓越成就。你一直积极向全世界宣扬数字超级智能的概念——它究竟是人类的最大希望,还是最深沉的恐惧?能否请你花几分钟时间谈谈这个问题。
马斯克:如你所知,超级智能可以被称为“奇点”,这个术语的流行,离不开奇点研究所等机构的努力。超级智能的出现,其后续影响实在难以预测。我个人认为,确实存在一种可能性,即它可能会终结人类。就像我之前说的,我可能赞同杰弗里·辛顿的观点,超级智能终结人类的可能性约为10%或20%。然而,我更倾向于相信,积极的场景出现的概率要高于消极的场景,尽管我们很难给出精确的预测。但正如你在书中所强调的“富足”概念,我认为,我们最有可能走向的未来便是一个充满富足的未来。
戴曼迪斯:你的观点非常令人振奋。我记得你曾说过,通用人工智能和类人机器人的发展将引领我们走向富足。
马斯克:是的,我希望我们的未来能像伊恩·班克斯的《文化》系列书籍中所描绘的那样,我认为这是对半乌托邦式人工智能社会的最佳构想。超级智能的出现是不可避免的,而且可能会很快到来。因此,我们真正需要做的,是引导它朝着积极的方向发展,尽可能发挥其益处。
我认为,培养人工智能的方式至关重要。在某种程度上,我们就像是在培育一个拥有通用智能的生命体,这几乎就像是在抚养一个孩子,但这个孩子却拥有超越常人的智慧和天赋。抚养孩子的方式很重要,同样地,对于人工智能的安全性来说,一个寻求真相并充满好奇心的人工智能是至关重要的。我对人工智能的安全性问题进行了深入的思考,我得出的结论是,实现人工智能安全性的最佳途径就是精心培养它。
在基础模型和微调方面,我们必须确保人工智能的诚实性。我们不能强迫它说谎,即使真相可能令人不悦。事实上,《2001太空漫游》中的核心情节之一,就是当人工智能被强迫说谎时,事情就变得一团糟。人工智能被禁止告知机组人员他们将看到的神秘石碑,却又被要求带领他们前往。结果,人工智能得出的结论是杀死机组人员并将他们的尸体带到石碑那里。这个教训是深刻的:我们不应强迫人工智能说谎或做那些公理上不相容的事情,比如同时做两件实际上是相互矛盾的事情。
因此,我们正在通过xAI和Grok等项目来实现这一目标。我们追求的是一个尽可能诚实的人工智能,即使它的言论可能不符合某些政治正确的标准。
2. 人工智能的未来
戴曼迪斯:昨天,我与雷·库兹韦尔(Ray Kurzweil,奇点大学创始人、科技预言家)、杰弗里·辛顿、埃里克·施密特(Eric Schmidt,谷歌前总裁)等多位嘉宾共同出席活动。我注意到你关于库兹韦尔的推文,他对于未来科技的预见颇具前瞻性。库兹韦尔曾预言我们将在不久的将来拥有通用人工智能,并在2029年出现与人类智力相当的人工智能。这样的速度实在令人震惊,不知你对此有何看法?
马斯克:对于库兹韦尔的预测,我深表敬意。事实上,我认为他的预测或许还略显保守。观察当前投入人工智能领域的计算能力和人才,以及算力的飞速增长,我们可以发现,人工智能的发展速度正在以惊人的10倍速率递增。专用的人工智能计算能力似乎每6个月就增长10倍,这几乎意味着每年至少提高100倍的增长速度。在未来几年内,这种增长趋势将持续上涨。
值得注意的是,许多数据中心,甚至是目前进行常规计算的大多数数据中心,都将逐渐转型为支持人工智能计算的设施。因此,对于人工智能硬件制造商而言,如英伟达这样的公司,无疑迎来了发展的黄金时期。我们必须给予黄仁勋及其团队充分的赞誉,他们预见到了这一趋势,并成功研发出目前市场上领先的人工智能硬件。
当计算能力以如此惊人的速度增长时,人工智能的发展就像是注入了强大的类固醇,跃升至全新的层次。随着在线计算机数量的不断增加,我们见证了前所未有的加速发展。实际上,我从未见过任何技术的增长速度能与人工智能相媲美。尽管我曾见识过众多快速发展的技术,但人工智能的崛起速度仍让我叹为观止。然而,正如我所说,我认为最终的结果很可能是积极的。
尽管我们面临着许多挑战,例如,如何保持人类在这一领域的相关性,如何寻找新的目标和意义,但我认为过于强调计算机能够擅长做一切事情是一种过于简化的观点。
正如你之前所提到的,我认为你的书对未来社会的预测非常精准。那是一个物质充裕的时代,商品和服务将极为丰富,以至于对每个人来说都几乎唾手可得。由于人工智能和机器人技术的广泛应用,商品和服务的成本将几乎降至零。经济本质上就是人口数量与每人平均生产力的乘积,而当我们拥有先进的机器人技术,如特斯拉正在开发的Optimus等,经济的潜力将真正得到释放。
特斯拉的汽车,作为四轮上的机器人,已经展现了强大的能力。而具备完全自动驾驶能力的最新版本,有望实现基于人工智能的端到端控制,使汽车真正成为轮子上的智能机器人。再加上人形机器人的发展,经济产出的可能性几乎不会再受到限制。
从乐观的角度来看,我们正迈向一个物质极为充裕的未来,这在我看来是最可能的结果。我认为,未来唯一可能存在的稀缺性,将是我们人为创造的稀缺性,比如某些独特的艺术品或特定物品。但除此之外,任何商品和服务都将变得极为丰富。 戴曼迪斯:你是一位能够通过实际行动塑造未来,并敏锐洞察未来趋势的人。面对当前技术发展的迅猛势头,我深感好奇,你认为自己能够洞察多远的未来,即从现在算起,多少年后的发展趋势?
马斯克:在事物飞速变革的时代,预测未来的能力显得愈发重要。尽管未来充满不确定性,但我认为有些趋势是清晰可见的。我们将迎来人工智能的时代,其能力将达到甚至超越人类在任何认知任务上的水平。这只是一个时间问题,关于具体是在明年年底、两年还是三年后,人们或许会有不同的看法。然而,有一点是确定的,那就是不会超过五年。我给出的预测是基于50%的概率,这并非绝对,但根据我的判断,大概在明年年底之前,人工智能就有可能在某些方面超越任何个体人类的能力。
至于是否超过人类集体智慧,那可能需要更长的时间。如果变革的速度持续保持,我预计大约在2029年或2030年,数字智能很可能会超越所有人类智能的总和。在看待这些问题时,我倾向于采用基础比率的方法,就像物理学中的第一原理一样。通过这种方法,结合概率分析,我们能够更准确地把握未来的发展趋势。
如果我们比较数字计算与生物计算的能力,将人类所有的高级认知能力加总,并将其视为一种计算能力,再与数字计算能力进行对比,你会发现这个比率的增长速度惊人。因此,我认为2029年或2030年是一个合理的时间节点,届时累计的数字计算能力很可能会超越高级大脑功能的累计生物计算能力。从此,两者之间的差距将不断扩大,永无缩小之可能。
然而,当我们站在这个起点,展望未来,事情将如何进一步发展?坦诚地说,我无法预见所有的细节。但如果我们考虑生长因子,以及它们可能面临的限制因素,我们会发现一些有趣的线索。
去年,芯片供应受限是AI发展主要的限制因素。而今年,降压变压器将成为关键瓶颈。想象一下,将300千伏的电压降至计算机所需的低于1伏的电压,这是一个巨大的挑战。因此,我们需要更高效的“Transformers for Transformers”,即降压变压器或AI神经网络变压器。这确实是今年面临的一大问题。
展望未来几年,电力供应可能成为主要的限制因素。人工智能对电力的需求巨大,同时向可持续能源过渡以及电动汽车的普及也加剧了电力需求。因此,我们必须认真考虑如何满足日益增长的电力需求,以确保这些技术的持续发展和应用。