马继华指出,参数量是当下大模型中最重要的指标。一般来说,参数量越大,人工智能的水平更高。不过,参数量越大,对算力、芯片、存储、电源的需求越高,但手机的承载量是一定的,不可能随着参数量无限增长。
在算力有限的情况下,将AI模型的运算直接在用户端侧完成,既能保护用户隐私安全,也能缓解大模型公司算力资源的压力。因此,端侧大模型的发展备受瞩目。
刘作虎在Find X7发布会后的媒体采访中表示,70亿大模型正常的模型大小是28GB,为了真正在端侧部署,公司对模型进行压缩和轻量化,最后压缩到最小的3.9GB左右,无论是存储还是内存占用都是这个量级。
“从性能角度来讲,大模型在端侧性能消耗还是比较大的,这块核心还是期望能够通过并行计算的算子优化、对于内存管理的优化等等来降低损耗和系统资源占用。另一方面,续航时间是根据本身用机的情况来看的,应该说控制在用户可以接受的范围内,同时把它做成任务型的,用的时候才会消耗系统资源。”刘作虎表示。
2023年10月以来,手机芯片厂商联发科与高通先后发布了新一代旗舰级SoC芯片,均提到了端侧部署AI能力的提升。
2023年11月,联发科发布的83005G生成式AI移动芯片至高支持100亿参数AI大语言模型。此外,11月初,联发科推出天玑9300旗舰5G生成式AI移动芯片,支持终端运行10亿、70亿、130亿以及高达330亿参数的AI大语言模型。
10月,高通发布新一代移动处理平台骁龙8Gen3。与上一代产品骁龙8Gen2相比,骁龙8Gen3可以在终端侧运行100亿参数的模型。
是否噱头?
根据市场调研机构Counterpoint Research在2023年10月披露的报告,2023年第三季度,全球智能手机出货量同比下滑8%,创十年来第三季度最低水平。
在智能手机出货量下滑,用户换机周期不断延长的当下,AI大模型成为新增量,参与AI大模型也成为手机厂商的必选动作。
不过,AI大模型这项技术,似乎距离普通用户还是很远,这或许和手机AI大模型的发展与应用成熟度不足有关。
Counterpoint Research智能手机与半导体高级分析师白晨昊在接受中新经纬采访时分析,消费者对于手机智能化需求在不断增长,比如更倾向于手机提供更自然、更流畅的语音交互体验,更精准的识别等。
但目前手机AI大模型的相关应用,白晨昊指出,主要集中在消息检索、文档总结、图片处理、语义识别等具体的功能层面,这些功能目前对于部分用户而言并非刚性需求。
白晨昊接着表示,智能手机是高集成度的便携式产品,设计时需要从各个维度综合考虑,才能满足大部分用户的需求。AI大模型相关的功能与应用对于手机的运算能力、数据存储能力、带宽、功耗控制、内部设计、系统架构、软件交互,甚至供应链管理都提出了更高的要求,“要平衡这些维度,对于目前手机厂商来说仍是挑战”。
“目前AI大模型的相关应用从前述信息检索、文本处理、图片处理等功能开始尝试,未来手机厂商也会将AI大模型与当前的语音助手做更多的结合,同时平衡设备端AI与云端AI的关系,并进一步尝试将AI大模型与新的领域和功能结合起来,但仍需要时间、人力、上下游的协同合作,以及对于用户信息安全的保障。”白晨昊表示。
“手机厂商纷纷加入AI大模型的研发行列确实有一定为品牌加分的想法,但说它是噱头也不为过。”马继华指出。
马继华分析,目前相对成熟的AI大模型如ChatGPT、文心一言、讯飞星火大模型是基于更大型的处理器,并不是针对手机端的应用。手机端侧的大模型目前仍处于起步阶段,虽然近年来有很大进步,但距离真正的“人工智能”也还有一定的距离。此外,也没有特别成熟的应用场景,大众消费者感知不到大模型带来的体验差异。
不过,用户的手机可以考虑下载文心一言等,为什么要去用手机厂商的AI?
对此,赵明分析称,ChatGPT解决的是日常知识或者某个领域之间的沟通和对话,比如了解金融、国际形势等。但对于普通用户来说,安排个人的生活、学习和餐饮、娱乐时,还会特别留意个人隐私,因此更需要手机这样的私人终端提供个性化定制。因此,这就是端侧大模型和荣耀MagicOS 8.0所起到的作用。手机大模型和ChatGPT(云侧大模型)一定是互相协作的,不可能彼此替代。
对于大模型应用场景的落地,手机厂商还有哪些探索?
赵明指出,荣耀的逻辑跟其他人都不一样,荣耀做的是平台级的和操作系统级的(大模型),用AI来系统地重构今天的操作系统。
刘作虎认为,大模型无非就是给了一个前所未有的能力,我们利用好这个能力,思考如何服务好目标用户。所以最重要的最核心的竞争力,还是对用户的洞察。
编辑 : 严静
更多内容请打开紫牛新闻, 或点击链接