联发科端侧AI新突破:天玑全面优化微软小语言模型Phi
12月27日消息,科端联发科官方宣布,新小语型联发科天玑系列移动平台现已针对微软最新推出的突破天玑Phi-3.5小语言模型(SLM)进行了专门适配与优化。
该优化目前已经落地天玑9400、全面天玑9300两款旗舰芯片,优化言模以及天玑8300次旗舰芯片,微软而包括天玑8400在内的科端未来的生成式AI技术芯片也都会支持。
开发人员可以通过微软Azure AI模型目录,新小语型以及联发科的突破天玑NeuroPilot SDK开发工具包,使用微软Phi-3.5进行相关开发,全面尤其是优化言模在内置NPU AI引擎的联发科平台上进行和优化生成式AI推理。
所谓小语言模型,微软就是科端相对于大语言模型(LLM)而言,最大区别就是新小语型参数量更少,从数千亿甚至数万亿参数,突破天玑通常会减少到几百万至几十亿,从而大幅降低了模型体积与复杂度,运行效率更高,获取更容易,还可以优化定制。
因此,小语言模型非常适合智能手机这样处理器、内存等硬件资源相对有限的设备。
随着生成式AI尤其是端侧AI的快速发展和广泛应用,AI正在全面革新现代人的生活、娱乐、工作方式。
事实上,在生成式AI浪潮来临之前,联发科就已经深耕端侧AI生态的推进,天玑移动平台每一代都在演进NPU AI硬件引擎,始终保持旗舰级性能,苏黎世AI Benchmark测试中几乎一直都是AI性能冠军。
强大的端侧AI性能,叠加联发科在生态开发方面的持续投入,为天玑平台智能手机的AI智能化体验打下了强大软硬件基础。
为了加速端侧AI应用落地、普及,联发科还打造了全新的“天玑AI智能体化引擎”,通过强大的端侧AI性能,将传统应用转化为更加智能化的AI应用,已经与多款知名应用达成深度合作,让年轻人的各方面生活都更智慧、更好玩。
未来,联发科也会持续推动端侧AI的深入发展,带来更加丰富的端侧AI应用。
(责任编辑:休闲)
- ·[流言板]挡不住!西蒙斯助攻米尔顿再中三分,后者末节5中5砍下14分
- ·博主谈挪甲:对技术要求并不高 但攻防节奏会让中国球员吃不消
- ·【JRs评选】郭艾伦当选CBA常规赛第十一轮本土MVP
- ·创史上新高!阿维塔11月销量11579辆:同比暴涨180%
- ·[流言板]小胖起飞!洛夫顿抢断上演单臂战斧劈扣,领先15分怒吼庆祝
- ·最炫民族风:奖项花落各家 东道主收获颇丰
- ·全场比赛结束,球队在主场11战平武汉三镇拿到一分
- ·全球俱乐部战力榜公布,曼城、皇马仍居前列,1俱乐部入选引争议
- ·节电率53%!国内首台自主研发磁悬浮地源热泵机组投运
- ·[流言板]More than basketball!普尔赛后与雄鹿球员齐聚中圈祈祷
- ·[JR热议]血脉压制,狼队对阵ES斩获十连胜,大家怎么看?
- ·踢球者:拜仁5将合同将到期,戴维斯萨内基米希预计冬窗澄清未来
- ·弗里克不满莱万进球被吹?皇社主帅:还没回看,但我们配得上获胜
- ·大众拒绝工会提议坚持降薪 德国大众工人下周一开始罢工
- ·[流言板]太硬了!普尔后撤步三分强投稳稳命中,奇才反超2分剩8秒
- ·创史上新高!阿维塔11月销量11579辆:同比暴涨180%
- ·第十三届“昆山妈祖杯”海峡两岸慢速垒球邀请赛开赛
- ·踢球者:拜仁5将合同将到期,戴维斯萨内基米希预计冬窗澄清未来
- ·美团宣布改善骑手激励机制:2025年底前逐步取消外卖小哥超时扣款
- ·4人靠云养牛骗了5个亿:实际一头都没有 牛群全是网上找的照片