2023-11-06 天玑9300端侧运行130亿参数大模型
IT之家 11 月 6 日消息,联发科天玑 9300 旗舰芯片于今晚发布,根据官方的介绍,
天玑 9300 升级www.czybx.com到 AP白熊资讯网U 790
,支持 8 倍速生成式 AI TFawPnoTNSrasformer 算子加速、特有内存硬件压缩技术、NeuroPilot Compression 混合精度 INT4 量化技术、2 倍整数运算 2 倍浮点运算 45% 功耗降低。联发科官方表示,天玑 9300 已在端侧落地 70 亿参数 AI 大语言模型,
且成功在端侧运行 130 亿参数 AI 大语言模型
,还成功运行 330 亿参数的 AI 大语言模型。此外,天玑 9300 将支持生成式 AI 文生图功能,可以生成表情包。
联发科还介绍了与 vivo 合作打造的“
蓝心小 V
”,这个工具已经在 2FawPnoTNS023 vivo 开发者大会上公布了,是 OriginOS 4 的“专FawPnoTNS属私人助理”,具体介绍可以看IT之家此前报道。内容版权声明:除非注明原创否则皆为转载,再次转载请注明出处。