您的位置:主页 > 公告动态 > 投资资讯 > 投资资讯

手机厂商数百亿开卷大模子-国际黄金

人均年薪100万,什么样的行业具备云云优渥的待遇?

谜底是AI大模子。这是vivo副总裁周围接受《中国企业家》等媒体采访时给出的谜底,他示意,“vivo大模子现在每年20亿~30亿元的投入成本,总投入成本已经跨越200亿元,人才和数据算力各占一半,人才成本平均每人税后100万元。”

已往一年,AI大模子席卷整个互联网科技行业,当大模子完成从0到1的基础建设后,基于差异场景的大模子应用正在成为新一轮的竞争点,而拥有重大用户基数的智能手机厂商成为最早一批端侧大模子的抢滩者。

从2023年8月起,海内头部智能手机厂商华为、小米、vivo、OPPO、荣耀相继宣布了大模子研发和落地设计。

今年8月,华为鸿蒙OS 4率先宣布接入盘古大模子;小米紧随厥后,现在已训练出13亿和60亿参数规模的语言大模子,并在小米汹涌OS系统和人工智能助手小爱同砚的部门场景已经获得应用。

到了11月,手机厂商的大模子宣布节奏越发麋集。11月初,vivo一口吻宣布十亿、百亿、千亿级别三个参数目级的五个大模子矩阵;随后,OPPO正式推出自主训练的安第斯大模子(AndesGPT),并接入最新操作系统ColorOS 14,AndesGPT支持从十亿至千亿多种差异参数规模模子。

手机厂商入场的心态绝不只是“重在介入”,而是真金白银地大规模投入。今年4月,小米组建大模子团队时,雷军就解释态度:“全力支持,投入不设上限。”现在,小米内部在做AI相关的研发职员跨越3000人;向来低调的vivo首创人、总裁兼CEO沈炜也向团队示意,“未来,AI将成为科技创新的底层手艺。我们必须捉住这次历史时机,以高规格地投入,来打造引领行业的手艺和产物,为智能时代的到来做出我们的历史孝顺。”

毫无疑问,在智能手机出货量下滑,用户换机周期不停延伸,同质化竞争严重的当下,端侧大模子正在成为手机行业创新的新增量。但与此同时,若何将参数十亿、百亿的大模子内置得手掌巨细的手机中,以及能为手机企业带来哪些实质转变,也面临着重重磨练。

01 挑战

手机企业要想真正将大模子内置到巴掌巨细的手机中,其中就有个悖论:若是模子参数太大了,则手机端侧基本就放不进去或跑不起来;然则若是模子太小了,可能又无法真正实现智能涌现。

端侧大模子在落地执行中,一个无法忽视的现实是,10亿参数的数据在手机上会占用1G的内存,70亿参数的数据则会占用4G内存,而当数据量到达130亿参数时,内存占用到达7G。然而,现在市面上绝大多数高端手机的运行内存是12G或16G,若是大模子的数据量到达130亿参数则意味着会占用掉7G的内存,这将严重影响手机的运行流通度。

但相比云上大模子,端侧大模子的优势又显而易见,好比可以充实珍爱用户的隐私,在用户使用历程中,用户和大模子的交互数据不用上传到云端。与此同时,端侧大模子的响应速率会更快,一种最极端的情形就是即便在没有网络的情形下,端侧大模子依然可以使用,而云上大模子在没有网络情形下则无法使用。

此外,云上大模子的挪用成本高昂。“一次大模子云端盘算的*成本是1.2~1.5分人民币,若3亿用户天天用十次,意味着手机厂商一年要多出100多亿元的支出。”一位AI大模子从业者告诉《中国企业家》。

因此,在现有的模子训练水平基础上,摆在手机厂商眼前的是人才和手艺积累的挑战,只有群集到焦点的手艺人才,才气更好地解决这一逆境,手机大模子之战也在某种水平上意味着是人才和资金投入之战。

周围告诉《中国企业家》,自2017年组建AI全球研究院,vivo已经组建了1000人以上的AI专家团队,每年在人工智能上的投入守旧估量在20亿~30亿元,现在已经跨越200亿元,其中,数据、算力成本占自研大模子投入的一半,职员成本占了一半。‍

小米在人工智能上的结构同样对照早,2016年AlphaGo出来之后,雷军就最先鼎力投入AI,最最先是视觉团队,厥后逐渐拓展到AI的各个领域。

“小米有3000多人在做AI相关的研发事情,小米AI实验室在视觉、声学语音、NLP、知识图谱、机械学习等偏向,都有手艺积累,从算法预研到工程落地具备很强的闭环能力。我们之前有一小我私人机对话团队,做过28亿参数的对话模子。”小米团体AI实验室主任、自然语言处置(NLP)首席科学家王斌示意。

除了手机厂商在起劲结构大模子之外,智能手机的上游芯片制造商也正在加入这场战争。

2023年10月25日,高通宣布新一代移动处置平台骁龙8 Gen3。与上一代产物骁龙8 Gen2相比,骁龙8 Gen3不仅GPU、NPU性能大幅提升,更主要的是,它可以在终端侧运行100亿参数的模子。

高通着重在骁龙8 Gen3上提升了其芯片的AI盘算能力,NPU性能大涨98%以上,在支持运行最高100亿参数的模子外,还能够运行每秒天生高达20个token(大模子中文本的最小单元)的70亿参数大语言模子。这意味着,各种虚拟助手、GPT谈天机械人未来都能在手机等终端运行。

流量狂欢后,抖音如何强攻美团?

02 落地

《中国企业家》考察发现,险些所有的智能手机厂商在结构大模子时都接纳了渐进式开发的蹊径,即先研发和训练小参数规模的模子,等到把路上的坑都蹚一遍,再研发更大参数规模的模子。

关于差异级别模子的能力显示,周围告诉《中国企业家》:“据内部测试,70亿参数的大模子足够做好简朴的文档摘要和拆解的功效,但要想真正实现‘智能涌现’, 70亿参数的大模子义务拆解能力另有提升空间,130亿参数可能是更好的选择。”

除了渐进式开发外,住手现在,智能手机厂商结构大模子也分为两条路径:*,接纳轻量化和内陆化部署的手机端侧大模子,典型厂商如小米和荣耀;第二,接纳云、端协同的架构设计,推出一个大模子矩阵,在云端部署百亿、千亿级其余大模子训练模子,在手机端侧部署十亿级其余大模子,典型厂商如华为、vivo和OPPO。

2023年4月,王斌牵头认真,小米手艺委员会AI实验室大模子团队认真人栾剑带队,小米内部正式确立了一支自研大模子团队,雷军亲自推动了自研大模子团队的确立,并全程高度介入了小米大模子的自研,他会亲自查看团队的周报、月报甚至日报,关注大模子希望。

小米自研的端侧大模子,更强调跟产物的连系和场景的驱动。“小米大模子手艺的主力突破偏向为轻量化、内陆部署,我们不会纯从手艺角度思量,也不会以竞赛为目的。我们不搞军备竞赛,小米做大模子的起点并不是成为中国的OpenAI。我们一最先就思量大模子跟公司的场景怎么连系。”王斌告诉《中国企业家》。

与小米主要结构端侧大模子差异,华为、vivo、OPPO自研大模子则接纳“云、端协同”路径,华为的盘古大模子、vivo的蓝心大模子以及OPPO的安第斯大模子,均笼罩十亿、百亿、千亿多个参数目级。

“为什么要用矩阵来解决这个问题?由于今天的大模子叫语言大模子,只有语言和文字才有真正的大模子,声音、视频是没有大模子的。在我能想象的算法没有泛起极大突破之前,矩阵式是对照好的解决方案。”周围在接受采访时示意。

此外,周围也示意,矩阵式大模子也是受到用户需求和算力成本影响的综合效果。*,矩阵模式可以让用户在云上使用大模子的同时,在端侧内陆化运行要害数据,知足隐私及平安需求;第二,矩阵模式可以有用平衡云端算力成本过高的问题。

03 必须

纵然手机端侧大模子难题重重,但介入其中正在成为手机厂商的必须。

2017年,智能手机市场迎来了有史以来的首次下跌,以中国市场出货量下滑5%为节点,宣告智能手机行业进入存量时代。2023年第三季度,全球智能手机出货量同比下滑8%,泛起延续9个季度的衰退,同时也创下了近十年同期出货量最差纪录。

已往数年中,面临越来越同质化的竞争,手机厂商们先后在快充、续航、周全屏、摄影、高刷新率等领域睁开创新与内卷。当下,端侧大模子正在成为他们盼望捉住的创新入口。事实,谁也不想由于错过某一个风口而成为下一个诺基亚。

“AIGC是我做手机以来,最让我兴奋的一个手艺的创新,甚至可以说是革命。它会为移动生涯的体验带来革命性的转变。大模子的知识超出了个体的知识,它可以像一小我私人一样明白你的语言,天天考察你、学习你、领会你的习惯,给你*的辅助,完成你的义务。”谈及大模子时,OPPO首席产物官刘作虎告诉《中国企业家》。在他看来,未来手机就是一个超级助理,与ChatGPT有异曲同工之妙。

手机厂商的大模子也正在逐步落地到其人工智能应用中,好比,华为P60和Mate60系列手机的小艺智慧助手已经接入盘古大模子。与此同时,OPPO的小布、小米的小爱同砚等均已接入各自的大模子。此外,在vivo最新宣布的X100机型中,明确为用户提供了端侧大模子的下载选项功效,用户可自愿选择是否下载,也可选择在云上照样内陆运行。

手机端的大模子应用也确着实改善用户的使用体验。好比以往要找到图库中的某一张照片,需要异常准确地搜索要害词,然则在大模子时代,只需告诉AI语音助手 “之前往xx旅游时拍的长城的照片”这样的泛化模糊指令,就能找到响应的照片。

现在大模子在端侧已经可以执行语言明白、文本创作、图片天生等简朴的操作,但涉及到订票、APP交互、装备控制等操作仍需调动云端大模子能力。但即便云云,对于手机厂商来说也是伟大的可能性。

“我们现在就是抱着《孙子兵法》中‘先为不能胜’的心态在高饱和地投入,就是不希望被优异的商业同伴拉开距离,而不是一定要在大模子上举行内卷或者匹敌和竞争。”谈及做大模子的心态时,周围告诉《中国企业家》。

在他看来,端侧大模子的主要性跟通讯、芯片是统一个级其余,未来还将酿成获取高端用户的一个要害途径。“若是从科技伟大的生产效率的提升来看,我以为大模子也是一个历史性的、事宜级的,通过做好大模子之后,获得更多高端用户的认可,这是一定的,以是我们也在高规格地来投入。”周围弥补道。

在国产手机整体喊出袭击高端的当下,一切新的创新时机点都成为竞争的新变量。况且,端侧大模子的战争已经打响。