大模型加速“上手机” 联发科与阿里通义千问实现芯片级适配

《科创板日报》记者获悉，智能手机芯片厂商联发科，已成功在天玑9300等旗舰芯片上部署通义千问18亿、40亿参数大模型，实现大模型在手机芯片端深度适配，让通义千问在离线情况下依然可以运行多轮AI对话。未来，双方还将基于天玑芯片适配70亿等更多尺寸的大模型。

目前，联发科是全球智能手机芯片出货量最高的半导体公司。Canalys最新数据显示，其2023年第4季度出货超1.17亿部，苹果以7800万出货量位居第二，高通以6900万出货量位居第三。而通义千问是阿里云自研的基础大模型，迄今已推出千亿参数的2.0版本以及开源的720亿、140亿、70亿、40亿、18亿、5亿参数等尺寸，以及视觉理解模型Qwen-VL、音频大模型Qwen-Audio等多模态大模型。

在MWC2024期间，联发科携多款人工智能应用亮相展会，其中就包括天玑9300和8300两款芯片。据了解，天玑9300芯片已在国外实现支持Meta Llama 2的70亿参数大模型应用，国内在vivo X100系列手机上落地端侧70亿参数大语言模型，并在端侧实验环境跑通130亿参数模型。

此次联发科和阿里云的合作，则是首次实现通义大模型的芯片级软硬适配。阿里巴巴通义实验室业务负责人徐栋介绍：“端侧AI是大模型应用落地的重要场景之一，但面临软硬件难适配、开发环境不完备等诸多挑战。阿里云与联发科此次完成了大量底层适配及上层开发的系列技术及工程难题，真正把大模型‘装进’手机芯片中，探索端侧AI的Model-on-Chip部署新模式。”

除了联发科外，高通也积极推动大模型落地手机终端。3月18日，高通宣布推出第三代骁龙8s移动平台，支持100亿参数级别的大语言模型，也能够支持多模态生成式AI模型，包括目前的Baichuan-7B、Gemini Nano、Llama 2和智谱ChatGLM等来自百川智能、谷歌、META等公司的大语言模型。据悉，小米Civi 4 Pro将首发搭载骁龙8s移动平台。

一名消费电子行业分析师对《科创板日报》记者表示，此次阿里云和联发科的合作，意味着国内手机厂商有了百度以外的选择。

记者了解到，荣耀、三星此前都宣布了与百度文心一言的合作。比如，三星最新旗舰手机Galaxy S24系列集成了文心大模型的多项能力，包括通话、翻译、智能摘要等。另有消息源透露，苹果方面正在和百度进行接触，希望使用百度的人工智能技术，且双方已进行初步会谈。

上海人工智能实验室领军科学家林达华表示，随着云端大模型规模的指数级成长，端侧即将迎来黄金增长期。云端协同将成为未来的重要趋势，由云侧计算建立天花板，端侧计算将支撑用户使用大规模放量。

根据咨询机构IDC的预测，2024年中国智能手机市场出货量将达到2.77亿台，同比增长2.3%。其中AI手机出货量将会达到3660万，同比增幅超过3位数。手机端AI大模型的应用将更为广泛。