陆奇:大模型时代的范式转移与创业机会(11个核心观点)_OPEN:PEN

导读:

奇绩创坛创始人兼CEO陆奇是中国AI布道人,也是中国针对大模型最有发言权的人之一。他曾在全球巨头身居要职,先后任职于IBM、雅虎、微软、百度,曾是华人在美国科技公司最有权威的高层人士,位至雅虎和微软执行副总裁,回国加盟百度出任集团总裁兼COO。

他和OpenAI也有着深厚渊源。陆奇所掌管的奇绩前身是YC中国,是美国著名创业孵化器YC的中国分支。他也是YC全球研究院院长。而OpenAI首席执行官SamAltman正是YC二代接班者、现任总裁。两人虽相差24岁,却是忘年交,相识已逾18年。

大模型时代变化速度太快,就连陆奇都说他跟不上大模型时代的狂飙速度了。

本文是其4月22日的演讲内容整理而成。

#01?任何复杂体系,都是“信息-模型-行动”三个体系的组合

任何复杂体系,包括一个人、一家公司、一个社会,甚至数字化本身的数字化体系,都是复杂体系。

“三位一体”包括:

“信息”系统,从环境当中获得信息;“模型”系统,对信息做一种表达,进行推理和规划;“行动”系统,我们最终和环境做交互,达到人类想达到的目的。任何体系,都是这三个体系的组合,数字化系统尤其如此。数字化和人分不开。人也一样,人要获得信息、表达信息、行动解决问题或满足需求。

今天大部分数字化产品和公司,包括Google、微软、阿里、字节,本质是信息搬运公司。

一定要记住,我们所做的一切,一切的一切,包括在座的大部分企业都在搬运信息。Nothingmorethanthat,Youjustmovebytes。但它已经足够好,改变了世界。

#02?结构性改变的关键点:从边际成本到固定成本

DappRadar研究人员:Arbitrum空投对DeFi表现出兴趣:金色财经报道,DappRadar 的研究主管 Pedro Herrera 表示,传统市场的银行业紧张局势以及监管机构对中心化交易所的打击可能会促使用户转向去中心化金融应用程序。如果你开始看到 DeFi 的这些用例如何开始适应并赋予你更多的自主权来基本管理自己的资产和投资,这就是 DeFi 被高度使用的原因。像 Arbitrum 这样的项目正在他们的社区中创造一种忠诚度和参与感,这反过来又可以“吸引开发人员构建更好的产品,并最终吸引更多用户参与该项目。

DappRadar 的一份新报告发现,第一季度 DeFi 锁定的总价值从去年第四季度的 600 亿美元增长了 37% 至 833 亿美元。[2023/4/4 13:43:11]

早在1995-1996年,通过PC互联网迎来一个拐点。大量公司层出不穷,其中诞生了一家伟大公司叫Google。为什么会有这个拐点?为什么会有爆炸式增长?

原因是,获取信息的边际成本开始变成固定成本。

任何改变社会、改变产业的,永远是结构性改变。这个结构性改变往往是一类大型成本,从边际成本变成固定成本。

举个例子,我在CMU念书开车离开匹茨堡出去,一张地图3美元,获取信息很贵。今天我要地图,还是有价钱,但都变成固定价格。Google平均一年付10亿美元做一张地图,但每个用户要获得地图的信息,基本上代价是0。也就是说,获取信息成本变0的时候,它一定改变了所有产业。这就是过去20年发生的,今天基本是freeinformationeverywhere。

Google为什么伟大?它把边际成本变成固定成本。Google固定成本很高,但它有个简单商业模式叫广告,它是世界上高盈利、改变世界的公司,这是拐点关键。

Yuga Labs旗下NFT系列日交易量激增,BAYC日交易量达到1,262ETH:11月28日消息,Yuga Labs旗下NFT系列日交易量激增,其中BAYC的日交易量为1,262ETH,MAYC的日交易量为1,146ETH,BAKC的日交易量为340ETH。据悉,Horizen Labs此前发布计划,12月5日将上线Apestake.io网站,并开始预存款;12月12日开始累积质押奖励。此外,在过去的24小时内,所有NFT市场的交易总额超过15,000个ETH(约1,820万),平均交易价格为0.31ETH。44.7%的ETH交易量来自OpenSea,34.9%来自Blur,10.4%来自X2Y2,8%来自Looks Rare(NFTgators)[2022/11/28 21:06:21]

#03?2022-2023年的拐点:大模型

2022-2023年的拐点是什么?它不可阻挡、势不可挡,原因是什么?一模一样。

模型的成本从边际走向固定,因为有件事叫大模型。大模型是技术核心、产业化基础。

OpenAI搭好了,发展速度爬升会很快。为什么模型这么重要、这个拐点这么重要,因为模型和人有内在关系。

我们每个人都是模型的组合。

人有三种模型:

认知模型,我们能看、能听、能思考、能规划;任务模型,我们能爬楼梯、搬椅子剥鸡蛋;领域模型,我们有些人是医生,有些人是律师,有些人是码农。我们对社会所有贡献都是这三种模型的组合。每个人不是靠手和腿的力量赚钱,而是靠脑袋活。

简单想一想,如果你没有多大见解,你的模型能力大模型都有,或者大模型会逐步学会你所有的模型,那会怎样?——未来,唯一有价值的是你有多大见解。

#04?下一时代典型的职业,我们认为是创业者和科学家

CoinShares:上周数字资产投资产品流入1.17亿美元:金色财经报道,据CoinShares报告显示,上周数字资产投资产品流入1.17亿美元,为2022年7月以来最大流入,管理资产总额(AUM)已升至280亿美元,较2022年11月的低点增长43%。其中,比特币投资产品流入达1.16亿美元。另外,数字资产投资产品交易量表现正在改善,上周交易量为13亿美元,比年初至今的平均水平增加17%。[2023/1/30 11:37:12]

人类社会是技术驱动。

从农业时代,人用工具做简单劳动,最大问题是人和土地绑定,人缺少流通性,没有自由。

工业发展对人最大变化是人可以动了,可以到城市和工厂。早期工业体系以体力劳动为主、脑力劳动为辅,但随着机械化、电气化、电子化,人的体力劳动下降。

信息化时代以后,人以脑力劳动为主,经济从商品经济转向服务经济——码农、设计师、分析师成为我们时代的典型职业。

这一次大模型拐点会让所有服务经济中的人、蓝领基本都受影响,因为他们是模型,除非有独到见解,否则你今天所从事的服务大模型都有。

下一时代典型的职业,我们认为是创业者和科学家。

所以,这次变革影响每个人。它影响整个社会。

#05?三个拐点,逐渐展开

第一,信息无处不在,今天已经实现了;

第二,模型无处不在,接下来即将发生。以后手机上打开,任何联网,模型就过来了。它教你怎么去解答法律问题,怎么去做医学检验。不管什么样的模型都可以无处不在。

第三,下个拐点将是:“行动”无处不在。也就是人需要在物理空间里行动,它的代价也从边际走向固定。20年后,这个房子里所有一切都有机械臂,都有自动化的东西。我需要的任何东西,按个按钮,软件可以动,今天还需要找人。

总结来说,我们从根本性的三位一体结构分析未来,从过去的历史拐点能清晰看到今天所面临的拐点,本质是模型成本从边际走向固定,将有一家甚至多家伟大公司诞生。毫无疑问,OpenAI处于领先。

虽然讲得有点早,但我个人认为,OpenAI未来肯定比Google大。只不过是大1倍、5倍还是10倍。

#06?OpenAI是怎么把大模型时代带来的?

为什么讲OpenAI,不讲Google、微软。讲真心话,因为我知道,微软好几千人也做这个,但不如OpenAI。

一开始比尔·盖茨根本不相信OpenAI,大概6个月前他还不相信。4个月前看到GPT-4的demo,目瞪口呆。他写了文章说:It’sashock,thisthingisamazing。谷歌内部也目瞪口呆。

SamAltman自己都surprise,连他都没想到会那么快。

如果大家对技术感兴趣,IlyaSutskever很重要,他坚信两件事。

第一是模型架构。它要足够深,只要到了一定深度,bignessisbetterness。只要有算力,只要有数据,越大越好。他们一开始是LSTM,后来看到Transformer就用Transformer。

第二个模型体系作为引擎。任何范式、改变一切的范式永远有个引擎,这个引擎能不断前进、不断产生价值。

这个引擎基本是一个模型体系,它的核心是模型架构Transformer,就是sequencemodel:sequencein、sequenceout、encode、decode后者decodeonly。但最终的核心是GPT,也就是预训练之后的Transformer,它可以把信息高度压缩。

Ilya有个信念:如果你能高效压缩信息,你一定已经得到知识,不然你没法压缩信息。所以,你把信息高效压缩的话,yougottohavesomeknowledge。

Ilya坚信GPT3、3.5,当然GPT-4更是,它已经有一个世界模型在里面。虽然你做的事是predictnextword,这只不过是优化手段,它已经表达了世界的信息,而且它能持续地提高模型能力,尤其是目前研究比较多的在子概念空间当中做泛化。

在引擎基础之上,ChatGPT封装了世界上所有知识,有足够强的学习和推理能力,加在一起,范式的临界点到了。拐点已经到来。

Theonlywaytomakenaturallanguageworkisyouhaveknowledge。正好Transformer把这么多知识压缩在一起了,这是它的最大突破。

#07?未来是一个模型无处不在的时代

现在OpenAI核心做的是,把推进速度变慢,每推进新版本,都有足够时间让用户给他们足够反馈,找到潜在风险点,有足够时间弥补。但加在一起,增长飞轮的雏形基本上起来了。

有了飞轮,我认为发展路径核心是模型的可延伸性和未来模型的生态。

未来的模型世界会怎么发展?首先是将有更多大模型会出来。更多更完整的模态和更完整的世界知识在这里。你有大量的知识、更多的模态,学习能力、泛化能力和泛化机制一定会加强。

在大模型之上建立的模型更多了。我判断主要是有两类模型和他们的组合。

第一,事情的模型,人类每一类需求都有领域/工作模型,其中有结构模型、流程模型、需求模型和任务模型,尤其是记忆和先验。

第二,人的模型,包括认知/任务模型,它是个体的,其中有专业模型,有认知模型、运动模型和人的记忆先验。人基本是这几类模型的组合,律师也好,医生也好,大量领域会有大量模型往前走。

ChatGPT代表的模型跟人的模型相辅相成,长期可以融在一起。我们看到的未来是更多模型的生态,新的领域、新的专业、新的结构、新的场景、新的适应能力,形成闭环,不断加强认知和推理能力。当然,最终还是要所谓叫grounding,跟感知要ground,和接入行动的能力,形成真正的智能。

某种意义上20-30年后,这个模型世界跟生物世界有很多类似的地方。大模型我觉得像基因,有不同的种类,然后进化。我们目前能看到未来核心技术模型世界,它是用这个方法来向前驱动。

#08?大模型对每个人、每个行业都有结构性影响

世界在哗哗哗地变。我曾经说1995-1996年有这种感觉,但这个比1995-1996年还要强。为什么?模型的成本从边际转向固定,知识创造就是模型和知识的获取,它结构性做演变了。

生产资本从两个层次全面提高。

第一,所有动脑筋的工作,可以降低成本、提升产能。我们目前有一个基本假设,码农成本会降低,但对码农的需求会大量增加,码农不用担心。因为对软件的需求会大量增加,就是这个东西便宜了,都买嘛。软件永远可以解决更多问题,但有些行业未必。这是生产资本的广泛提高。

第二,生产资本深层提升。有一些行业的生产资本本质是模型驱动,比如医疗就是一个模型行业,一个好医生是一个好模型,一个好护士是一种好模型。医疗这种产业,本质是强模型驱动。现在模型提高了,科学也随之提高。在游戏核心产业,我们的产能将本质性、深度提高。产业的发展速度会加快,因为科学的发展速度加快了,开发的速度加快了,每个行业的心跳都会加快。因此,我们认为下个拐点会加速。用大模型做机器人、自动化、自动驾驶,挡也挡不住。

它对每个人都将产生深远和系统性影响。我们的假设是每个人很快将有副驾驶员,不光是1个,可能5个、6个。有些副驾驶员足够强,变成正驾驶员,他自动可以去帮你做事。更长期,我们每个人都有一个驾驶员团队服务。未来的人类组织是真人,加上他的副驾驶员和真驾驶员一起协同。

毫无疑问,每个行业也会有结构性影响,会系统性重组。这里有一个简单公式。今天动脑筋的人一天平均工资多少小时?减掉ChatGPT现在大概平均是15美元/小时,再过3年可能不到1美元,再过5年可能几十美分。然后就乘一下有多少数量。降本或者增效,让码农能变成super码农,医生变成super医生。

大家可以按这个公式算一算。如果你是华尔街的对冲基金,你可以做空一大堆行业。

#09?数字化基础层,存在着不同维度的创业机会

数字化基础层,存在着不同维度的创业机会。

①?首先搬运信息,这个时代还有很多可以做。

②如果你是做模型的,我现在判断什么都要重做一遍。大模型为先。很多设备也要重做,你要支持大模型,容器要重做,这些都有机会。云、中间的基础设施、底层的硬件,包括数字化发展核心的基础,尤其是开源的体系,这里是真正意义上是有大量机会。

③?第三代系统,即已经开始做机器人、自动化、自主系统。孙正义今天allin。这个也能用大模型做。马斯克也看到这种机会。都是在第三代下一个拐点,创业公司完全可以把握的机会。

④同时并行的,我把它称作“第三代++系统”,是碳基的生物计算,这一类公司有大量的量子计算,有很多机会。元宇宙和Web3今天有点冷,但从历史长河角度来讲,只是时间问题,因为这些技术都能真正意义上带来未来的人类价值。

所以如果是这个创业项目,基础层机会就在这里。

这是最好的生意。为什么?这个时代跟淘金时代很像。如果你那个时候去加州淘金,一大堆人会死掉,但是卖勺子的人、卖铲子的人永远可以赚钱。所谓的shoveandpickbusiness。

#10?以模型为先的平台,将比以信息为先的平台体量更大

按照我们几天的判断,以模型为先的平台,将比以信息为先的平台体量更大。平台有以下几个特征:

①?它是开箱即用;

②?要有一个足够简单和好的商业模式,平台是开发者可以活在上面,可以赚足够的钱、养活自己,不然不叫平台;

③?他有自己杀手级应用。ChatGPT本身是个杀手应用,今天平台公司就是你在苹果生态上,你做得再好,只要做大苹果就把你没收了,因为它要用你底层的东西,所以你是平台。平台一般都有它的锚点,有很强的支撑点,长期OpenAI设备机会有很多——有可能这是历史上第一个10万亿美元的公司。

这是一场激烈的竞争平台之战,未来一个体量很大的公司。在这个领域竞争是无比激烈。Thepriceistoobig,错过太可惜。再怎么也得试一试。

#11?作为创始人,未来重要的不是技术,而是愿力和心力

今天创始人技术能力强,好像很牛、很重要,未来真的不重要。技术ChatGPT以后都能帮你做。

你作为创始人,越来越重要、越来越值钱的是愿力和心力。愿力是对于未来的独到的判断和信念,坚持、有强的韧劲。这是未来的创始人越来越重要的核心素养。

对初创团队,工具能帮助探索方向,加速想法的迭代、产品的迭代,甚至资源获取。

对未来人才的培养,一方面学习工具,思考和探索机会,长期适当时候培养自己的promptengineer。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金智博客

[0:15ms0-3:77ms