好爱生活

​生成式AI生态风口,联发科狂飙

点击: 来源:好爱生活
摘要:生成式AI生态风口,联发科狂飙 作者 | 程茜 编辑 | 漠影 生成式 AI 席卷消费级市场,移动生态迎来新机遇,生成式 AI 正重构智能手机。 智东西 5 月 16 日报道,上周,在联发科天玑开发

生成式AI生态风口,联发科狂飙

作者 | 程茜

编辑 | 漠影

生成式 AI 席卷消费级市场,移动生态迎来新机遇,生成式 AI 正重构智能手机。

智东西 5 月 16 日报道,上周,在联发科天玑开发者大会(MDDC)上,联发科联动百川智能、vivo、OPPO、小米、moto 面向全球开发者,共启 " 天玑 AI 先锋计划 ",并发布了生成式 AI 端侧部署的解决方案、天玑 9300+ 旗舰 5G 生成式 AI 移动芯片,为生成式 AI 在端侧加速落地添了一把旺火。

可以看出,智能手机已被深度卷入生成式 AI 浪潮,站上全球手机芯片出货量第一的联发科已然走在这一产业变革的前列。

同期,联发科与全球市场调研机构 Counterpoint 携手阿里云通义千问、百川大模型、虎牙、酷狗、vivo 等生态伙伴联合发布的《生成式 AI 手机产业白皮书》(以下简称《白皮书》)提到,生成式 AI 手机将在未来几年保持高速成长,存量规模将在 2027 年突破 10 亿大关。

面对端侧生成式 AI 落地热潮,智能手机的核心优势是什么?芯片玩家在其中扮演了什么样的重要角色?头部芯片玩家联发科在生成式 AI 手机的飞速发展中将产生什么影响?

带着这些问题,从生成式 AI 与智能手机的结合、联发科的 AI 布局出发,本文将剖析联发科如何为生成式 AI 手机发展注入新活力,构建天玑移动生态,并引领新一轮的终端创新周期。

一、AI 手机热潮下,寻找芯片厂商的 " 新角色 "

生成式 AI 正向消费级市场普及,AI 手机已经成为其中的典型代表。这与智能手机与生成式 AI 相结合的天然优势有关。

首先手机拥有最多最强的端侧能力。联发科技董事、总经理暨营运长陈冠州谈道,根据估算,2027 年,全球智能手机端侧整体 AI 算力会达到 50000 EOPS 以上。端侧算力的优势在于用户使用 AI 应用可不受网络限制、数据无需上传云端可保证隐私安全、可高效率运行较小规模的 AI 应用。

其次,手机有最大的用户规模和灵活度。智能手机在全世界有接近 50 亿人的用户体量,其黏稠度、使用范围都更高,使得智能手机成为 AI 普及最天然的载体。

最后为手机拥有完整的应用生态,目前手机上的 APP 高达 893 万个,与用户的衣食住行、办公等诸多场景。要创造新的生成式 AI 生态链,最好的方法应该是在既有基础上做升级,将这 893 万个 APP 与 AI 能力做到无缝串联。

这决定了智能手机在生成式 AI 时代正迸发出新的生命力。

那么,生成式 AI 手机到底是什么?《白皮书》给出了明确的定义,生成式 AI 手机是利用大规模、预训练的生成式 AI 模型,实现多模态内容生成、情境感知,并具备不断增强的类人能力。未来,伴随用户与 AI 大语言模型的实时交互与反馈,生成式 AI 手机将重塑操作系统底层和形态,成为让用户畅享丰富生成式 AI 应用和体验的移动智能体。

具体拆解来看,第一就是支持大模型的本地部署,通过云端协同的方式执行复杂的生成式 AI 任务。生成式 AI 手机本身就具备强大的 AI 算力,无须完全依赖云端服务器。

第二为具备多模态能力,可以处理文本、图像、语音等多种形式的内容输入,以生成各种形式的输出。

第三为设备能够以自然而直观的交互方式,快速响应用户的请求。

第四是拥有实现上述特征的硬件规格,包括但不限于基于领先工艺和先进架构设计的移动计算平台,拥有集成或者独立的神经网络运算单元(如 APU/NPU/TPU)等。

由此看出,生成式 AI 的诸多特性背后绕不开手机、大模型、芯片玩家这三者,其中的芯片玩家也成为大模型在端侧部署落地的重要支撑。

一方面,对于大模型玩家而言,想要直接将云端训练好的模型放到手机端,往往会面临运行效率不够快、内存占用过高两大痛点,并且还需考虑如何让模型在端侧运行更为高效、速度更快、部署更容易,突破这些痛点的底层关键变量之一就是芯片的性能。

另一方面,手机厂商关注的是大模型有没有在终端之上的新服务、新应用,这些与模型玩家合作诞生的新应用最终都会体现在芯片能力之上。

因此,端侧芯片的 AI 性能在端侧生成式 AI 的竞争格局中尤为关键。联发科技无线通信事业部生态发展资深总监章立谈道,以联发科为例,他们正在为大模型打造生态土壤,提供好的硬件平台、开发者工具,让大模型在此之上顺利落地。

开发者、芯片厂商、手机厂商三者的最大共同点就是,都正在为这一拥有无限潜力的 AI 市场做充分的准备。

值得注意的是,芯片与大模型的发展可谓形影相伴。2017 年,孕育今年大模型盛景的 Transformer 论文神作发布,同年,芯片设计公司已经开始商用 SoC 中加入独立神经网络运算单元,如今联发科、高通均已发布多款支持多模态大模型端侧部署的移动计算平台。

时至今日,移动芯片玩家已经在 AI 领域积淀了丰富经验,为生成式 AI 手机的大规模商用铺平了道路。

二、联发科抢先布局端侧 AI 领域,AI 已成芯片基因

不置可否,2023 年 Q4 拿下全球出货量份额第一的联发科已经成为其中的重要玩家,实际上,根据市场调研机构 Counterpoint 公布的数据,联发科手机芯片出货量全球第一已持续三年有余,拥有非常可观的边缘 AI 设备基础。

联发科在 AI 领域的优势已逐渐凸显,这得益于其长达 7 年的积累与布局。

联发科技无线通信事业部副总经理李彦辑透露,联发科对于 AI 的投入始于 2017 年,与 Transformer 架构提出同期,并是首个将拥有 AI 能力的硬件处理器搭载于芯片上的玩家。

事实上,联发科对于 AI 的思考更早,他补充说,2015、16 年,AlphaGo 战胜顶尖棋手,让人惊觉新的 AI 科技洪流已来,联发科就开始思考端侧是否有能力搭上这一波技术浪潮。

在他们看来,Transformer 架构出现意味着 AI 发展的分水岭到来,因此,在持续投入传统计算光学所需的分析式 AI 之外,他们开始布局新的算法、算子以应对未来可能出现的新 AI 应用。

这有一个背景是,当时这些对于 AI 发展的期待都处于未知状态,联发科凭借开放式的心态入局,并始终坚定对 AI 技术的投入和决心。事实证明,其当年对于行业技术发展趋势的判断以及 AI 技术投入的积累是正确的。

如今,为了推动生成式 AI 在端侧落地,联发科已经率先发布了一系列旗舰、次旗舰产品。

天玑 9300 已抢先支持 Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川大模型、阿里云通义千问、vivo 蓝心大模型 BlueLM、OPPO AndesGPT 等诸多全球先进的 AI 大模型。

此外,联发科还将生成式 AI 能力引入天玑 8000 系列,成为同级产品中率先支持生成式 AI 的芯片,天玑 8300 最高可支持端侧运行 100 亿参数规模 AI 大语言模型。

面向未来,李彦辑也十分坚定,联发科在芯片的能力布局上不会放慢,将持续在旗舰、次旗舰上推出新的产品。

早已融入联发科研发基因的 AI,正在生成式 AI 新时代展现出旺盛的生命力。

三、算力支撑 + 生态建设,筑起端侧生成式 AI 坚实底座

去年开始,生成式 AI 在手机端的应用已经开始展露头脚,李彦辑认为,今年生成式 AI 在手机端的落地将从萌芽走向起飞阶段。

作为重要的芯片玩家,联发科在其中既是重要的算力提供方,又是连接各路玩家的生态建设者。如今,其芯片布局开始加速。

联发科最新发布的天玑 9300+ 旗舰 5G 生成式 AI 移动芯片,延续全大核架构设计,八核 CPU 包含 4 个 Cortex-X4 超大核,最高频率可达 3.4GHz,还有 4 个主频为 2.0GHz 的 Cortex-A720 大核,在保证卓越性能的同时,功耗大幅降低。

天玑 9300+ 内置了生成式 AI 引擎 APU 790,率先在端侧支持 AI 推测解码加速技术,性能提升达 10%,同时支持端侧双 LoRA 融合的天玑 AI LoRA Fusion 2.0 技术、AI 框架 ExecuTorch,能够在端侧为用户提供更加个性化的 AI 体验。

目前,天玑 9300+ 已支持阿里云通义千问大模型、百川智能百川大模型、百度文心大模型、谷歌 Gemini Nano、零一万物终端大模型、Meta Llama 2 和 Llama 3 等前沿主流大模型。

这也是业界首款实现更高速 Llama 2 7B 端侧运行的芯片,李彦辑透露,Llama 2 7B 运行速度可以达到 22 tokens/ 秒。

在生成式 AI 手机浪潮下,一方面,联发科要做好 " 本职工作 ",也就是为端侧设备提供强大的算力;另一方面,正如前文所述,手机、模型、芯片玩家缺一不可,一个健康、高效的生态系统也至关重要,能力越大责任越大。

为此,联发科联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米启动了 " 天玑 AI 先锋计划 ",面向全球开发者,整合联发科与产业生态伙伴资源的同时,为开发者提供开发资源、技术支持和商业机会。

面对端侧生成式 AI 的三大关键环节,联发科提出了涵盖芯片、模型、应用的天玑 AI 生态战略,为这一产业的发展筑起坚实的软硬件技术底座。

在应用领域,联发科的 " 天玑 AI 开发套件 " 集开发、应用技术之大成,其包括快速高效的 GenAI 最佳实践、覆盖全球主流大模型的 GenAI Model Hub、高效提升性能的 GenAI 优化技术和 Neuron Studio 一站式视觉化开发环境等四大模块,展现了其 " 快、全、强、易 " 的四大能力。

其中,GenAI 最佳实践通过模型量化、模型编译和模型推理技术可以将大模型的终端部署时间从数周加速到一天。GenAI Model Hub 适配了 Llama 系列等诸多主流大模型。

天玑 AI 开发套件还支持推测解码加速、LoRA Fusion 等先进的 GenAI 优化技术;Neuron Studio 集成开发环境为开发者提供了一站式可视化的开发环境。

章立谈道,对于开发者而言其最关注的是芯片本身的能力以及解决方案和服务能力。天玑 AI 开发套件就是一大解法,他补充说,这些开发者套件是联发科长期与开发者交流过程中,基于其核心需求从而研制的开发者工具。

除了 AI,联发科在游戏领域的技术优势也实现了全面升级。借助自适应技术软件开发套件和硬件光线追踪技术,星速引擎可以通过精准的性能管理、光线追踪效果优化、网络质量监测等关键技术,使得开发者打造画面更逼真、流畅,触控和网络响应速度更快,续航更持久的体验。

联发科作为端侧生成式 AI 落地的先锋,正将多年来的 AI 布局与积累转变为端侧生成式 AI 新生态发展的原动力。

结语:每年赋能 20 亿智能终端,联发科加速端侧生成式 AI 变革

联发科在端侧生成式 AI 领域的一系列布局,无不显示出其对于加速这一产业变革的决心与信心。正如联发科技董事、总经理暨营运长陈冠州所言,生成式 AI 彻底革新了终端应用的使用价值,智能终端是生成式 AI 普及的关键载体。

2024 年生成式 AI 普及到端侧设备上的潜力正在被放大,目前,智能手机正在作为一个起点,撬动端侧生成式 AI 的变革。

在这背后,联发科凭借其每年赋能 20 亿智能终端设备的经验,为生成式 AI 在端侧的人机交互、生产力、娱乐体验等方面带来革新,以生成式 AI 手机为切入点,全方位重塑端侧市场的用户体验。

面向未来,端侧将成为生成式 AI 大规模应用落地的重要载体,联发科与生态合作伙伴的联手正在加速这一进程。

相关文章

    ​今年餐饮消费,没旺季?

    ​今年餐饮消费,没旺季?

    ​小镇名校生:我们其实不想当“做题家”

    ​小镇名校生:我们其实不想当“做题家”

    ​阿里又少了1.4万人

    ​阿里又少了1.4万人

    ​湖北餐饮,困在武汉

    ​湖北餐饮,困在武汉

    ​卷款4000万跑路,淘宝网红女装店爆雷始末

    ​卷款4000万跑路,淘宝网红女装店爆雷始末

    ​字节大模型大降价,百度、阿里能否抗住?

    ​字节大模型大降价,百度、阿里能否抗住?

    ​“偷油”又“偷税”?揭秘加油站里的“猫腻”

    ​“偷油”又“偷税”?揭秘加油站里的“猫腻”

    ​消费者们到底怎么看待预制菜?

    ​消费者们到底怎么看待预制菜?

    ​榴莲季,新发地线上抢夺北京中产

    ​榴莲季,新发地线上抢夺北京中产

    ​一代神车停产,雪佛兰拼了

    ​一代神车停产,雪佛兰拼了

    ​蔚来,还有一张底牌

    ​蔚来,还有一张底牌

    ​新质生产力·AI Partner大会亮点速递

    ​新质生产力·AI Partner大会亮点速递

    ​地产股,涨停、涨停、涨停!

    ​地产股,涨停、涨停、涨停!

    ​热搜爆了!《庆余年2》开播,悬念揭开了吗?

    ​热搜爆了!《庆余年2》开播,悬念揭开了吗?

    ​摊牌吧,年轻人就是喝不起星巴克了