去搜搜
头像
大模型竞争加剧,GPT-4 的瓶颈在哪?|AI内参
2023-03-23 18:27

大模型竞争加剧,GPT-4 的瓶颈在哪?|AI内参

文章所属专栏 全球科技纵览·趋势必读 第二季
释放双眼,听听看~
00:00 08:32

作者|赵赛坡

头图|视觉中国


随着英伟达发布“NVIDIA AI Foundations”,这家公司也踏入云计算赛道,但大模型的云上之争其实才刚刚开始,而且英伟达也在成为其客户们的新竞争对手,本期提供一些思考角度。


过去一周,大模型领域的基础服务、新产品层出不穷,本期将做一番梳理,并探讨略显神秘的GPT-4 的瓶颈在哪里。


本期内参还将探讨以下议题:


• 云:AWS大客户与持续加码东南亚、Google推出电信云产品;

• 计算:英伟达将加速运算技术用于芯片光刻过程、中国调整半导体扶持政策、三星投资韩国芯片工厂建设;

• AI+X:Meta推出蛋白质结构预测模型;


接下来,欢迎和我一起复盘近期围绕数据与智能的产业动态。

 

云上的故事


英伟达本周正式踏入云计算赛道,在一年一度的 GTC 大会上,英伟达公布了一系列 AI 领域的产品,而其核心是把这些产品封装到可以通过浏览器访问的“NVIDIA AI Foundations”里,涵盖自然语言处理、图像、3D 视频等众多领域。


在英伟达的营销话术里,即便是没有任何模型开发、维护经验的企业,依然可以通过“NVIDIA AI Foundations”里的“模板”,结合企业自己的业务数据,训练出一个个专属的 AI 模型,英伟达创始人、CEO 黄仁勋将其定义为“AI的iPhone时刻”。


对于什么是“AI的 iPhone 时刻”并不在本文的讨论范围,但在产业层面,英伟达正在挤入一个新的赛道。


其一,英伟达早已不再是一家提供GPU的硬件公司,而是具备强大软件能力的算力供应商。过去几年,英伟达一方面向云服务商销售GPU产品,另一方面也在围绕机器学习、自动驾驶、元宇宙的场景,推出了一系列依托硬件的解决方案或开发工具,这极大拓展了英伟达的产品影响力。


其二,市场也需要更多AI基础服务提供商,此前,一家企业部署AI的起点往往从云计算服务商那里获得产品,但三大云计算巨头如今都有自己打算——微软积极拥抱GPT-4、Google Cloud受限于搜索公司的AI产品、AWS行动迟缓,这也导致整个市场的供需关系完全失衡,此时英伟达以SaaS的形式向企业提供模型服务,一定程度缓解了市场的焦虑。


目前,包括Adobe、Getty Images等都已经使用了英伟达的AI服务。


不过也需要看到:


• 大模型的云上之争其实才刚刚开始,AWS、微软、Google Cloud、阿里云等云计算们不会放弃这个巨大的市场;


• 大模型的需求也会深刻影响到企业对于云计算的不同需求,从基础云服务到开箱即用的产品,大模型的影响力将无处不在;


• 英伟达正在成为其客户们的新竞争对手,这是一层微妙的商业关系;

 

关注一组云计算巨头最近的动向:


• AWS获得美国西南航空、软件公司Snowflake的巨额合同,后者未来五年将在AWS上花费 25亿美元,不过在亚马逊最新一次9000人裁员计划中,AWS部门也无法避免,引发市场热议


• 东南亚云计算市场的竞争继续火热,AWS宣布将在未来十五年为马来西亚投资60 亿美元,进一步推动当地的云计算基础设施建设,AWS在当地拥有诸如大马高等教育部在内的众多大客户;


• Google Cloud与新加坡电信公司StarHub达成合作协议,与此同时,Google也推出多款面向电信运营商的云计算产品;


• Google Cloud与数据开发平台MongoDB的合作协议再延长三年,两家公司自2018年开始就建立起紧密的合作关系;


• 在腾讯本周发布的2022年全年财报里,金融科技与企业服务业务超越游戏业务,成为该公司营收最高的部门(全年收入 1771 亿元),不过腾讯依然没有透露腾讯云的业务规模;


• 阿里巴巴集团副总裁贾扬清近期宣布离开阿里,过去三年他负责阿里大数据以及AI方向的技术和产品,贾扬清的下一站或是AI基础架构方向;

 

大模型


从上周四到这周四,大模型领域再次迎来一系列新变化。首先是新上线的服务:


• 百度“文心一言”上线测试


• Google Bard开启小范围内测


• 微软Bing推出“文本转图像”的Bing Image Creator服务;


其次是大模型驱动的产品创新:


• 微软发布Office Copilot,充分展示基于GPT-4的Office产品功能与体验的创新;


• Google宣布将为WorkSpace用户提供更多由AI驱动的功能;


• 微软旗下的Github推出Copilot X,将ChatGPT的对话能力集成到开发过程里,可以简单理解为面向代码编程场景的垂直模型服务;


第三,中国市场的大模型竞争也有新的变化:


• 媒体爆料称,原阿里M6大模型负责人杨红霞加盟字节跳动,参与大模型研发工作;


• 本周腾讯财报分析师会议上,腾讯总裁刘炽平强调“AI及大模型对于腾讯整个业务来说是一个增长的扩大器”,腾讯的业务并不是那么容易被大模型等技术颠覆,腾讯将进一步优化混元助手大模型;


• 李彦宏本周接受媒体采访时表示,OpenAI诞生是因为美国大厂都不看好这个方向,但现在中国的大厂都看好AI大模型,都在做这个方向。创业公司重新做一个ChatGPT其实没有多大意义,基于大语言模型开发应用机会很大,没有必要再重新发明一遍轮子;


第四,围绕大模型的争议进一步延伸:


• 有研究人员测训练GPT-3模型所消耗的电能或是120 个美国家庭一年的电量,研究人员也呼吁,科技公司应尽快披露大模型的碳排放量;


• 微软已经悄然解散了内部的AI伦理团队,此举也和微软大踏步推出AI驱动的产品同步发生;


第五,一个更大的争议则是,外界对于GPT-4 =的参数规模、数据集、训练硬件知之甚少,这当然和当下激烈的市场竞争有关,OpenAI 担心竞争对手了解这些信息,这种不透明性也让GPT-4所宣扬的某些能力存在很多质疑。


进一步来看,结合GPT-4目前的有限访问能力以及微软内部优先保证Bing团队使用GPU,我们有理由确认一点,GPT-4相比于之前的模型需要更多GPU。由此也引出一个问题:GPU供应能力会不会成为大模型以及生成式AI发展的新瓶颈?


AI+计算


马克·扎克伯格上周在写给 Meta 公司员工的公开信里谈到该公司对于 AI 发展的态度:“我们最大的投资是推进人工智能并将其融入到我们所有产品中。我们拥有前所未有的基础设施来实现这一目标,我认为它带来的体验将会非常惊人”。


这封公开信的主旨是解释 Meta 为何继续裁员以及公司如何重新关注“效率”,而 AI 各项技术对于提升效率的意义非常大。不过颇具讽刺意味的是,如今大谈 AI 能力的扎克伯格,距离将公司改为 Meta 并“All in 元宇宙”,刚刚过去了一年半的时间。


当然,Meta 在 AI 领域的技术积累不容小视,不久前发布的多个大语言模型,因意外泄漏引发一系列连锁反应,在众多开发者的“帮助”下,大语言模型不再是由金钱堆积起来的特权产品,斯坦福大学研究者的 Alpaca 模型甚至仅需 600 美元就能运行。


Meta 近期还发布一个名为 ESMFold 的蛋白质预测模型,这个模型同样基于大语言模型的理念,成功预测了超过 6 亿个蛋白质三维结构,这个数字超过此前 DeepMind AlphaFold2 创造的 2.2 亿个蛋白质结构的成绩。


根据 Meta 提供的信息,这个模型在处理速度上远超 AlphaFold2,不过准确率相对较低,不过鉴于 Meta 的模型能够发现更多 AlphaFold2 并未发现的蛋白质结构,未来会在应用场景上拥有不小的竞争力。


基于蛋白质的药物发现正在成为大型药企发力的重点,而 AI 技术的引入,会大大提升药物发现的效率,WSJ 援引 DeepMind 的数据称,自 2021 年 AlphaFold 首次发布以来,已有超过 190 个国家的 100 多万研究人员和生物学家调用该数据库里的 300 万种蛋白质结构进行研究。


OpenAI CEO Sam Altman 在最近的一次专访里谈到两个观点:


• 人类一直在适应技术的发展,这是过去几代人都证明的事情;


• 几百年来形成的教育机制必须改变,新技术为教育革新创作了条件;


你可以在这里观看这个专访。


沿着 Sam Altman 对于 ChatGPT 只是工具的观点,在上周的 SXSW(西南偏南音乐节)上,包括美国唱片业协会、欧洲作曲家和词曲作者联盟在内的多家音乐版权或艺术家权益机构,联合发起一项名为“Human Artistry Campaign”的运动,确保 AI 等技术“支持人类文化和艺术,而非取代或削弱人类的价值”。


最后关注一组半导体领域的重要事件:


• 随着新一届政府正式开始运作,中国正在加快调整对国内半导体产业的扶持措施,中芯国际、华为等巨头公司会成为受益者;


• 英伟达展示计算光刻新技术,通过引入加速计算,与台积电、ASML 等产业链上游公司合作,加速设计和制造下一代芯片,其 cuLitho 计算光刻软件库将得以广泛应用;


• 三星计划未来 20 年在韩国投资 2300 亿美元,建立芯片制造基地以及相关产业链,这也是韩国政府大范围补贴半导体业务的重要组成部分;


• 英国监管机构警告芯片公司博通斥资 690 亿美元收购 Vmvare 可能引发垄断,表示不排除启动进一步调查的可能性;


• 比亚迪入股 AI 芯片公司昆仑芯,后者是百度 AI 芯片部分分拆出来的独立公司,此前的估值高达 130 亿元人民币,百度依然是这家公司的大股东,持股比例 70.87%。


本内容未经允许禁止转载,如需授权请微信联系妙投小虎哥:miaotou515
如对本稿件有异议或投诉,请联系tougao@huxiu.com
评论
0/500 妙投用户社区交流公约
最新评论
这里空空如也,期待你的发声