联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片

17次阅读

新近,联发科揭幕了其全新一代旗舰级 5G 生成式 AI 移动芯片天玑 9300,创新的全大核架构设计并结合了新一代 AI 处理器 APU,以及联发科独特的尖端技术,强大的性能为生成式 AI 应用提供了支持,营造了生动且充实的生成式 AI 体验。同时,联发科与行内众多 AI 企业共享资源,共同在移动端创造了一个充足的 AI 生态。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图

全新第七代 AI 处理器 APU 790,为生成式 AI 而生

随着用户对生成式 AI 应用需求日益增长,端侧生成式 AI 便捷、安全性等优势便凸显出来。当然,部署端侧 AI 大语言模型需要强大的 AI 算力支撑。

天玑 9300 搭载联发科第七代 AI 处理器 APU 790,为生成式 AI 而设计,拥有硬件级的生成式 AI 引擎,可以实现更加高速且安全的边缘 AI 计算,深度适配 Transformer 模型进行算子加速,速度是上一代的 8 倍。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图1

同时 APU 790 的性能和能效得到显著提升,整数运算和浮点运算能力提升至前一代的 2 倍,苏黎世 ETHZv5.1 AI-Benchmark Mobile Soc 跑分 2109 分,AI 性能成功霸榜,功耗更是降低了 45%。在强大的 AI 性能支持下,1 秒以内即可生成图片。天玑 9300 强悍的 AI 算力、创新的全大核 CPU 架构和 Immortalis-G720 GPU 都为端侧运行生成式 AI 打下坚实的性能基础。

同时,基于亿级参数大语言模型的特性,联发科开发了混合精度 INT4 量化技术,结合联发科特有的内存硬件压缩技术 NeuroPilot Compression,可以更高效地利用内存带宽,大幅减少 AI 大模型占用终端内存,为端侧运行 AI 大语言模型突破手机内存限制,助力更大参数模型在端侧落地。

基于以上,天玑 9300 首次在 vivo 旗舰手机端侧落地 70 亿参数 AI 大语言模型,处理速度可达 20 Tokens 每秒。不仅如此,联发科突破了行业极限,已经与 vivo 成功在端侧运行了 130 亿参数的大语言模型。甚至,天玑 9300 已率先实现在移动芯片上成功运行 330 亿参数的 AI 大语言模型,领跑业界。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图2

天玑 9300 还支持多模态生成式 AI 大模型,打造出“文生诗”“文生图”“文生趣图”等丰富有趣的端侧体验。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图3

可见,天玑 9300 的 AI 算力和端侧生成式 AI 能力已领先行业,足以让用户随时随地 AI 创造力全飙。

生成式 AI 模型端侧技能扩充,带来全面、丰富的端侧生成式 AI 体验

与云侧生成式 AI 解决方案不同,由于硬件环境的差异,部署端侧生成式 AI 也需要考虑手机内存、存储容量、负载上限等因素。为此,联发科率先提出了先进的解决方案。

APU 790 支持生成式 AI 模型端侧技能扩充技术 NeuroPilot Fusion,它可以基于基础大模型持续在端侧进行低秩自适应(LoRA,Low-Rank Adaptation)融合,在混合式 AI 的赋能下,可以基于 1 个基础大模型,通过云端训练,在端侧完成 N 个功能的融合,赋予基础大模型更全面、更丰富的生成式 AI 应用能力。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图4

比如基于 AI 模型端侧技能扩充技术的“图生 GIF 动图”功能,用户可以根据一张照片更换不同的风格甚至表情,玩出个人专属风格的表情包,秒变表情包小达人。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图5

AI 开发平台 NeuroPilot 加速端侧生成式 AI 生态布局

基于强大的 AI 算力和先进的内存硬件压缩技术、AI 模型端侧技能扩充等技术,天玑 9300 的 APU 790 将端侧生成式 AI 的速度和广度提升到了全新的水平。同时,为加速生成式 AI 在端侧部署和普及,联发科也凭借其 AI 开发平台 NeuroPilot 构建了丰富的 AI 生态,从底层硬件到工具链、模型中心以及开发生态,助力生态快速、高效地部署端侧生成式 AI 应用。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图6

AI 开发平台 NeuroPilot 支持 Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流 AI 大模型。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图7

更为重要的是,NeuroPilot 拥有一套完整且先进的工具链,除了 NeuroPilot Compression 低秩自适应融合,还有 Speculative Decoding 推测解码加速和模型优化与转化技术。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图8

联发科的天玑开发者中心还可提供端侧生成式 AI 落地一站式开发者资源,分享端侧模型部署案例提升开发效率。目前已有 20 多个生成式 AI 合作伙伴加入生态共建。

联发科还携手业界合同伙伴打造精彩的生成式 AI 应用体验。虹软的生成式 AI 超级分辨率技术基于天玑 9300 APU 边缘计算能力,相比前代,性能可提升 30%。在 25 倍放大的拍摄时,利用生成式 AI 超级分辨率技术,可以拍出细节更真实的图像效果。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图9

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图10

极感科技的生成式 AI 语意搜索技术也基于天玑 9300 APU 边缘计算能力,对比前代,性能可提升 260%。比如在手机的相册中搜索照片,描述照片的内容即可在毫秒内精准搜到对应的照片。而且在断网状态下也能搜索,隐私也不会泄露。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图11

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图12

Morpho 的视频通话实时数字分身生成技术,同样基于天玑 9300 APU 边缘计算能力,对比前代,性能提升 26%。一般的虚拟人像生成器需手动选取容貌样式花费时间。但基于视频通话实时数字分身生成技术,用户操作容易,仅需打开摄像头单帧图片即可瞬间生成数字分身。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图13

基于天玑 9300 APU 边缘计算能力,慧鲤生成式 AI 防眩光技术性能可提升 60%。在此技术加持下,无论是室外还是室内,在拍摄时如有眩光,只要轻松一暗即可消除眩光干扰。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图14

可以看到,在 AI 端云融合的趋势下,天玑 9300 在 AI 算力、生成式 AI 用户体验和生态方面展现出全面的优势,为新一代旗舰级端侧生成式 AI 体验树立了新的标杆,强大生成式 AI 就要用天玑。

联发科天玑9300 AI性能大爆发,1秒内极速生成高质量图片插图15

此外,联发科等生成式 AI 的先驱们正在持续地进行技术创新和生态布局,大力推动混合式 AI 计算,提供端侧生成式 AI 部署的独特而高效的方案,致力于推动生成式 AI 在端侧得到广泛应用,以让更多用户体验到个性化的端侧 AI 应用,构建出全景式智能新体验,从而使科技更好地服务社会大众。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的 30 日内与新浪网联系。

原文链接:http://k.sina.com.cn/article_6011411025_1664eda51001018z49.html

正文完
 
追风者
版权声明:本站原创文章,由 追风者 2023-12-12发表,共计2481字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布。