0

0

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

WBOY

WBOY

发布时间:2023-11-11 09:01:42

|

1260人浏览过

|

来源于搜狐

转载

最新版的联发科5g生成式ai移动芯片天玑9300已发布,其新颖的全大核架构设计和新一代ai处理器apu以及联发科独有的尖端技术,为生成式ai应用提供了强大的性能支持,让使用者享受多彩丰富的生成式ai体验。比此,联发科还与大量ai行业企业加强合作,以在移动端打造丰富的ai生态。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

全新第七代AI处理器APU 790,为生成式AI而生

随着用户对生成式人工智能应用的需求不断增长,端侧生成式人工智能的便捷性和安全性等优势也显露出来。当然,要部署端侧的人工智能大型语言模型,需要强大的人工智能计算能力的支持

天玑9300搭载联发科第七代AI处理器APU 790,为生成式AI而设计,拥有硬件级的生成式AI引擎,可以实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,速度是上一代的8倍。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

同时APU 790的性能和能效得到显著提升,整数运算和浮点运算能力提升至前一代的2倍,苏黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109 分,AI性能成功霸榜,功耗更是降低了45%。在强大的AI性能支持下,1秒以内即可生成图片。天玑9300强悍的AI算力、创新的全大核CPU架构和Immortalis-G720 GPU都为端侧运行生成式AI打下坚实的性能基础。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

同时,基于亿级参数大语言模型的特性,联发科开发了混合精度 INT4 量化技术,结合联发科特有的内存硬件压缩技术NeuroPilot Compression,可以更高效地利用内存带宽,大幅减少AI大模型占用终端内存,为端侧运行AI大语言模型突破手机内存限制,助力更大参数模型在端侧落地。

基于以上,天玑9300首次在vivo旗舰手机端侧落地70亿参数AI大语言模型,处理速度可达20 Tokens每秒。不仅如此,联发科突破了行业极限,已经与vivo成功在端侧运行了130亿参数的大语言模型。甚至,天玑9300已率先实现在移动芯片上成功运行330亿参数的AI大语言模型,领跑业界。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

天玑9300还支持多模态生成式AI大模型,打造出“文生诗”“文生图”“文生趣图”等丰富有趣的端侧体验。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

可见,天玑9300的AI算力和端侧生成式AI能力已领先行业,足以让用户随时随地AI创造力全飙。

生成式AI模型端侧技能扩充,带来全面、丰富的端侧生成式AI体验

与云端生成式AI解决方案不同,由于硬件环境的差异,部署端侧生成式AI也需要考虑手机内存、存储容量、负载上限等因素。因此,联发科率先提出了先进的解决方案

APU 790 支持生成式AI模型端侧技能扩充技术NeuroPilot Fusion。该技术能够在端侧持续进行低秩自适应(LoRA,Low-Rank Adaptation)融合,基于基础大模型,通过云端训练,实现N个功能的融合,从而赋予基础大模型更全面、更丰富的生成式AI应用能力

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

例如,通过基于AI模型端侧技能扩充技术开发的“图生GIF动图”功能,用户可以根据一张照片更换不同的风格和表情,创造出独特的个性化表情包,瞬间成为表情包达人

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

AI开发平台NeuroPilot加速端侧生成式AI生态布局

Red Panda AI
Red Panda AI

AI文本生成图像

下载

天玑9300的APU 790通过强大的AI算力和先进的内存硬件压缩技术,以及AI模型端侧技能扩充等技术,将端侧生成式AI的速度和广度提升到了全新的水平。同时,联发科凭借其AI开发平台NeuroPilot构建了丰富的AI生态,从底层硬件到工具链、模型中心以及开发生态,助力生态快速、高效地部署端侧生成式AI应用,加速其在端侧的部署和普及

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

NeuroPilot是一款AI开发平台,它可以支持Android、Meta LIama 2、百度文心一言大模型、以及百川智能百川大模型等领先的AI大模型

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

NeuroPilot的另一个重要优势在于其先进的工具链,其中包括NeuroPilot Compression低秩自适应融合、Speculative Decoding推测解码加速以及模型优化与转化技术,这些都是非常完整的

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

联发科的天玑开发者中心还提供端侧生成式AI落地一站式开发者资源,分享端侧模型部署案例以提升开发效率。目前已有20多个生成式AI合作伙伴加入生态共建

联发科还携手业界合同伙伴打造精彩的生成式AI应用体验。虹软的生成式AI超级分辨率技术基于天玑9300 APU 边缘计算能力,相比前代,性能可提升30%。在25倍放大的拍摄时,利用生成式AI超级分辨率技术,可以拍出细节更真实的图像效果。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

极感科技的生成式AI语意搜索技术也基于天玑9300 APU边缘计算能力,对比前代,性能可提升260%。比如在手机的相册中搜索照片,描述照片的内容即可在毫秒内精准搜到对应的照片。而且在断网状态下也能搜索,隐私也不会泄露。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

Morpho的视频通话实时数字分身生成技术,利用天玑9300 APU边缘计算能力,性能比前代提升了26%。一般的虚拟人像生成器需要手动选择容貌样式,耗费时间。但是基于视频通话实时数字分身生成技术,用户操作简便,只需打开摄像头拍摄一帧照片,即可瞬间生成数字分身

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

慧鲤生成式AI防眩光技术能够在基于天玑9300 APU边缘计算的支持下,提升60%的性能。使用该技术时,无论在室内还是室外拍摄时,只需稍稍调暗光线,即可消除眩光干扰

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

可以看到,在AI端云融合的趋势下,天玑9300在AI算力、生成式AI用户体验和生态方面展现出全面的优势,为新一代旗舰级端侧生成式AI体验树立了新的标杆,强大生成式AI就要用天玑。

联发科天玑9300:引领行业,支持规模最大的330亿参数AI大语言模型

同时,以联发科为引领的生成式AI开拓者们正在通过持续技术创新和生态布局大力推动混合式AI计算的发展,为端侧生成式AI部署展开了一条独特且高效的道路,全力将生成式AI在端侧进行普及,以实现更多用户享受到端侧AI的个性化体验,开创全新的全场景智能体验,将科技的优势充分惠及大众。

相关专题

更多
android开发三大框架
android开发三大框架

android开发三大框架是XUtil框架、volley框架、ImageLoader框架。本专题为大家提供android开发三大框架相关的各种文章、以及下载和课程。

249

2023.08.14

android是什么系统
android是什么系统

Android是一种功能强大、灵活可定制、应用丰富、多任务处理能力强、兼容性好、网络连接能力强的操作系统。本专题为大家提供android相关的文章、下载、课程内容,供大家免费下载体验。

1718

2023.08.22

android权限限制怎么解开
android权限限制怎么解开

android权限限制可以使用Root权限、第三方权限管理应用程序、ADB命令和Xposed框架解开。详细介绍:1、Root权限,通过获取Root权限,用户可以解锁所有权限,并对系统进行自定义和修改;2、第三方权限管理应用程序,用户可以轻松地控制和管理应用程序的权限;3、ADB命令,用户可以在设备上执行各种操作,包括解锁权限;4、Xposed框架,用户可以在不修改系统文件的情况下修改应用程序的行为和权限。

1943

2023.09.19

android重启应用的方法有哪些
android重启应用的方法有哪些

android重启应用有通过Intent、PendingIntent、系统服务、Runtime等方法。本专题为大家提供Android相关的文章、下载、课程内容,供大家免费下载体验。

262

2023.10.18

Android语音播放功能实现方法
Android语音播放功能实现方法

实现方法有使用MediaPlayer实现、使用SoundPool实现两种。可以根据具体的需求选择适合的方法进行实现。想了解更多语音播放的相关内容,可以阅读本专题下面的文章。

342

2024.03.01

人工智能在生活中的应用
人工智能在生活中的应用

人工智能在生活中的应用有语音助手、无人驾驶、金融服务、医疗诊断、智能家居、智能推荐、自然语言处理和游戏设计等。本专题为大家提供人工智能相关的文章、下载、课程内容,供大家免费下载体验。

401

2023.08.17

人工智能的基本概念是什么
人工智能的基本概念是什么

人工智能的英文缩写为AI,是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

289

2024.01.09

人工智能不能取代人类的原因是什么
人工智能不能取代人类的原因是什么

人工智能不能取代人类的原因包括情感与意识、创造力与想象力、伦理与道德、社会交往与沟通能力、灵活性与适应性、持续学习和自我提升等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

620

2024.09.10

php源码安装教程大全
php源码安装教程大全

本专题整合了php源码安装教程,阅读专题下面的文章了解更多详细内容。

2

2025.12.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号